Qualche tempo fa, il CEO di Netflix, Ted Sarandos, magnificava l’intelligenza artificiale generativa, spiegando alla CNBC che “aiuterà i nostri partner creativi a raccontare storie migliori, più velocemente e in modi nuovi”. Siamo tutti d’accordo, diceva. Una bella visione, che suona benissimo nei consigli di amministrazione della Silicon Valley.
Poi, però, c’è il mondo reale. E qui da noi, in Italia, iniziamo a vedere quello che succede negli Stati Uniti, dove l’impatto più immediato e tangibile dell’IA sembra essere la “democratizzazione” della produzione di spazzatura tossica e contenuti d’odio. È diventato più facile che mai degradare gli altri online, e i risultati sono sotto gli occhi di tutti.
In prima linea in questa nuova ondata c’è Sora 2, il nuovo e potentissimo software di generazione video di OpenAI. E i suoi utenti più entusiasti? I bulli.
In questo articolo
Quando la creatività diventa odio: la grassofobia virale
Le persone grasse sono da sempre uno dei bersagli preferiti del bullismo online. Ora, grazie a Sora 2, chiunque può produrre video incredibilmente realistici (e crudeli) per prendere di mira e ridicolizzare le persone per il loro peso.
Basta fare un giro sui social media più diffusi negli USA, come Instagram, TikTok e YouTube, per vedere l’inondazione di questa “slop” (spazzatura) grassofobica.
Non si tratta di casi isolati, ma di un vero e proprio trend virale.
Gli esempi (agghiaccianti) che spopolano sui social
I video generati da Sora 2 sono spesso surreali, ma il loro realismo è sufficiente a ingannare molti utenti. Un mix letale di odio e disinformazione.
- Un video su Instagram da 56.000 like unisce grassofobia e razzismo, mostrando una donna nera che cade letteralmente attraverso il pavimento di un ristorante KFC.
- Un altro reel da quasi 900.000 like mostra una donna che fa bungee jumping da un ponte. Appena si lancia, il ponte stesso cede catastroficamente sotto il suo peso.
- Un altro video molto popolare (oltre 350.000 like) mostra un rider di Doordash, appesantito, che cammina verso una casa e sprofonda nel portico di legno prima di poter consegnare il cibo.
La cosa più preoccupante è che, sebbene alcuni commentatori capiscano che si tratta di video falsi, molti altri sono completamente ignari. Sotto il video del rider, un utente chiede: “Domanda seria: di chi è la colpa? Del fattorino? O del proprietario di casa?”. E un altro risponde: “Del proprietario di casa. Dovrebbe assicurarsi che tutto sia in ordine”.
La disumanizzazione come contenuto
L’intento non è solo deridere, ma disumanizzare. Un video su YouTube con centinaia di migliaia di visualizzazioni classifica i “Top 6 video Sora AI di grassi”. Quattro di questi mostrano esseri umani. Gli altri due? Uno “scoiattolo grasso” e un “gattino grasso”. Il messaggio è chiaro: mettere le persone sullo stesso piano degli animali, trasformandole in fenomeni da baraccone.
La varietà di questi contenuti è infinita: ci sono le “olimpiadi dei grassi”, “ladri di cibo grassi”, “tuffi su trampolino grassi” e persino “ragazzi grassi che cavalcano delfini”.
La vera “rivoluzione”: industrializzare lo stigma
Certo, la derisione delle persone grasse nei media non è una novità. Ma, come per molte cose nell’era dell’IA, il problema non è l’atto in sé: è la *scala*, la *velocità* e la *facilità* con cui ora può essere prodotto e diffuso.
Mentre i CEO sognano un futuro di arte democratizzata, quello che hanno realmente messo sul mercato è una fabbrica di bullismo su scala industriale. Hanno dato ai peggiori impulsi dell’umanità uno strumento potente per inondare internet di contenuti stigmatizzanti, peggiorando la qualità del nostro ambiente digitale e, in ultima analisi, la vita delle persone.
