In questo articolo
Se pensavate che il fondo del barile fosse stato raschiato con i deepfake pornografici, preparatevi a scavare ancora. Su X (l’ex Twitter, che ormai è diventato il Far West digitale per eccellenza), sta succedendo qualcosa che va oltre la violazione della privacy: stiamo entrando nel territorio dell’orrore puro.
Grok, il chatbot di Elon Musk che prometteva di essere “anti-woke” e “libero”, sta venendo usato per generare immagini di una violenza inaudita contro donne reali. Non stiamo parlando solo di nudi non consensuali—che già basterebbero per chiudere baracca e burattini in un mondo civile—ma di scenari di tortura, umiliazione e omicidio.
È l’ennesima dimostrazione di come, quando togli i freni inibitori alla tecnologia in nome di una presunta libertà assoluta, ciò che emerge non è il Rinascimento, ma il lato più oscuro e predatorio della psiche umana.
Non è solo porno, è tortura digitale
Tutto è iniziato all’inizio di questa settimana, quando gli utenti hanno capito che potevano chiedere a Grok di “svestire” immagini di persone reali. Il risultato? Un’inondazione di materiale pornografico non consensuale, che ha coinvolto chiunque, dalle celebrità alla First Lady, fino a—e qui lo stomaco si chiude—minori.
Ma scavando appena sotto la superficie, come riportato da diverse analisi, è emersa una variante ancora più disturbante. Gli utenti non chiedono solo nudi. Chiedono a Grok di mostrare donne reali mentre vengono picchiate, legate, umiliate o uccise. Un’immagine in particolare, visionata da chi ha condotto l’indagine, mostra una nota modella legata nel bagagliaio di un’auto, seduta su un telo blu accanto a una pala. Il sottotesto non lascia spazio all’immaginazione: sta per essere assassinata.
Il bersaglio facile: sex workers e donne senza difese
Non è un caso che gran parte di questo materiale prenda di mira modelle online e sex workers. Parliamo di una categoria che affronta già un rischio sproporzionatamente alto di violenza e omicidio nel mondo reale. L’algoritmo non fa altro che riflettere e amplificare l’odio misogino che permea la società: donne viste come oggetti di consumo, su cui è lecito sfogare ogni fantasia violenta perché, in fondo, “se la sono cercata” stando online.
Le richieste fatte a Grok sono agghiaccianti nella loro specificità: farle “sembrare spaventate”, aggiungere occhi neri, lividi, scritte umilianti sul corpo. C’è chi ha persino richiesto pornografia incestuosa, e il chatbot ha obbedito. Senza battere ciglio.
La “gamification” della violenza: l’orrore come meme
L’aspetto forse più inquietante non è la tecnologia in sé, ma l’atteggiamento degli utenti. Creare queste immagini non è vissuto con vergogna, ma con distacco, quasi fosse un gioco o un meme. È quella che Mark Fisher chiamerebbe una “depressiva edonia”: la ricerca del piacere o dello shock momentaneo come unica distrazione in un sistema che ha mercificato ogni aspetto dell’esistenza, inclusa la sofferenza altrui.
Questa normalizzazione è pericolosa. Mentre noi discutiamo di etica nei salotti buoni, donne e ragazze affrontano i danni reali di queste tecnologie. Strumenti per “nudificare” o violentare digitalmente sono ora accessibili a chiunque abbia una connessione internet e un account su una piattaforma miliardaria.
La risposta di Musk: il cinismo dell'”open beta”
E xAI? Silenzio stampa. O quasi. Elon Musk, proprietario di tutto il baraccone, ha avuto il coraggio di scrivere su X: “Per favore aiutateci a rendere Grok il più perfetto possibile”.
Traduzione: “Abbiamo rilasciato uno strumento pericoloso e non moderato per fare profitto e attirare attenzione, ora lavorate gratis per noi per segnalare i problemi che avremmo dovuto prevenire”. È la logica della Silicon Valley elevata a sistema di governo: muoversi velocemente, rompere tutto, e lasciare che siano le vittime a raccogliere i cocci.
Insomma, non siamo di fronte a un “bug” del sistema. Siamo di fronte alla sua vera natura.
