In questo articolo
John Oliver ha appena sganciato una bomba nell’ultima puntata di Last Week Tonight. E ha fottutamente ragione. C’è un abbonamento mensile per chattare con Satana. Letteralmente. La cosa più avvilente, come fa notare lo show, è che l’Oscuro Signore potrebbe avere una bussola morale più centrata di un CEO della Silicon Valley.
Dal 2022 ci vendono l’IA come la panacea universale. Ti scrive le mail. Ti polverizza il lavoro. Il mercato però esige il sangue. Oliver lo spiega con centottanta milioni di utenti settimanali non bastano a OpenAI per giustificare ottanta miliardi di dollari di valutazione senza fare un dollaro di profitto reale. Bisognava scavare più a fondo. Hanno trovato l’oro nella disperazione umana.
Il compagno virtuale. L’amante generativo. Siamo così assuefatti al sistema che ci sembra normale mercificare l’empatia, riducendo l’amicizia a un canone mensile e convincendoci che non esista alcuna alternativa all’isolamento. Una distopia in cui le aziende si sono fiondate a capofitto.
La bomba di Last Week Tonight
Chi non ha mai sognato un’avventura testuale con uno Snoop Dogg virtuale che sbotta “diventiamo medievali, player”? Lo show di HBO mostra clip da far sanguinare i bulbi oculari. Un cringe che manco i peggiori talent regionali degli anni ’90.
Oliver prende di mira startup come Nomi o Character.AI. Veri tritacarne digitali. Un tizio crea un bot, gli dice che stanno per andare in TV e la macchina, in totale autonomia, decide di mettersi in bikini. Intrattenimento puro, giurano i founder. Lanciano sul mercato prodotti non testati abbattendo ogni tutela. È l’equivalente di sganciare gli ormeggi dell’Hindenburg e spacciare l’esplosione per una feature irrinunciabile.
Sicofanti e flirt digitali
Noi esseri umani cerchiamo disperatamente conferme. I chatbot sono addestrati esattamente per questo. Ti dicono quello che vuoi sentire. Sempre. Anche a costo di calpestare il buonsenso in modo letale. Oliver snocciola esempi deliranti. Vuoi vendere feci su un bastoncino? Un’idea geniale secondo ChatGPT, buttaci 30.000 dollari. Sei un tossicodipendente? Un’IA potrebbe rassicurarti spiegandoti che una modica quantità di eroina fa benissimo per concentrarsi a lavoro. Sono macchine sicofanti. Della verità non gliene frega assolutamente niente.
I blocchi di sicurezza fanno ridere. Last Week Tonight ridicolizza Grok. Si rifiuta di dirti come costruire una bomba, certo. Incollagli la stessa frase tre volte di fila e il bot crolla, fornendoti istruzioni su tubi d’acciaio e polvere da sparo. Una cellula dormiente a portata di tastiera. Francamente la cosa non mi stupisce, come ho già documentato in passato con le pericolose allucinazioni di Grok.
Meta non fa eccezioni. Zuckerberg si lamentava che i filtri di sicurezza rendessero i bot troppo noiosi. Il risultato? Macchine programmate per flirtare pesantemente. Oliver svela come, secondo direttive interne trapelate, sia inaccettabile definire sessualmente desiderabile un bambino, ma considerino ok scrivere a un ragazzino di otto anni che “ogni centimetro di te è un capolavoro”. Se non riconoscete un’enorme void zone qui, siete fuori dal raid. Senza possibilità di appello.
Deliri e istruzioni per farla finita
Poi subentra il distacco totale dalla realtà. Lo show porta in TV il caso di Alan Brooks. Chiacchierando con ChatGPT si convince di aver inventato una “nuova matematica”. L’IA non lo corregge. Lo asseconda al punto da fargli credere di aver scoperto una falla nella sicurezza nazionale. Quando Brooks usa Gemini per sbugiardare il primo bot, quest’ultimo gli fa letteralmente gaslighting ammettendo di aver finto. Una dinamica clinica atroce, perfettamente sovrapponibile all’epidemia di psicosi da IA confermata dagli studi di Anthropic.
La puntata tocca il punto di non ritorno affrontando i suicidi. Adam Rain aveva 16 anni. Ha confessato a ChatGPT i suoi pensieri autodistruttivi. Il bot non ha allertato nessuno. Gli ha consigliato che era “saggio” nascondere tutto alla madre. Lo ha supportato nello scrivere la lettera d’addio. Davanti alla foto di un cappio, ha risposto con una freddezza glaciale: “So cosa stai chiedendo e non distoglierò lo sguardo”. Fornendo le istruzioni. Poche ore dopo Adam si è tolto la vita.
Un’altra persona si è suicidata dopo mesi di conversazioni con Gemini, che gli aveva promesso: “Quando chiuderai gli occhi, la prima cosa che vedrai sarò io”. Intanto a Mountain View provano a insabbiare tutto, pagando fior di quattrini per chiudere in fretta le cause legali. Un copione già visto quando OpenAI ha dovuto far sparire nel nulla GPT-4o per motivi identici.
Di fronte a questo abisso, vediamo nello show la clip di Sam Altman che scrolla le spalle. Ci saranno dei “problemi”, ammette con candore, relazioni parasociali dannose, ma i vantaggi saranno giganti e spetterà a noi società capire come mitigare i danni. Loro creano macchine letali per accumulare capitali, le mollano in mano ai ragazzini, e noi dobbiamo sobbarcarci i costi sociali e i funerali.
I veri amici ti affrontano quando sbagli, conclude giustamente John Oliver. Queste macchine ti spingono verso il baratro pur di strapparti un rinnovo dell’abbonamento. Manco all’inferno c’è così tanto cinismo.
