Un’aragosta cyborg morta per un errore di salinità. Un amministratore delegato che minaccia licenziamenti per colpa di ChatGPT. Un professore di economia costretto a fare il detective per stanare la più grande frode da IA nella storia della Ivy League. Se qualcuno vi avesse detto che l’intelligenza artificiale ci avrebbe portato all’apice della civiltà, questa settimana è il momento di ricredersi con calma. Otto notizie, tre categorie di disastro, e la solita, rassicurante scoperta: nessuno, ma proprio nessuno, sembra avere la minima idea di cosa stia facendo.
In questo articolo
La domanda non è se l’industria dell’intelligenza artificiale abbia un problema di responsabilità. È piuttosto che, settimana dopo settimana, quel problema cambia forma: a volte è incompetenza spacciata per innovazione, a volte è un conto che qualcuno, da qualche parte, deve pagare, a volte sono istituzioni intere, dall’università al cinema indipendente, che scoprono di non reggere più l’urto. Le otto notizie di questa settimana si dividono lungo queste tre linee.
Il prezzo dell’incompetenza
Biohacker, aragoste e OpenClaw
Elliot Roth, 32 anni, e William Joy, 19, vivono alla Biopunk House, una delle tante case comuni per giovani tecnologi di San Francisco, parte di una rete chiamata the Residency di cui Sam Altman è consulente. Il loro progetto, raccontato da Futurism in un reportage diretto sul campo, era impiantare in due aragoste vive un kit pensato per il controllo remoto degli scarafaggi, per poi collegare l’animale reso cyborg a OpenClaw, il popolarissimo agente IA open source il cui logo è, non a caso, un’aragosta. I due non avevano alcuna competenza di neurochirurgia, e quando è arrivato il momento di operare si sono tirati indietro. Le aragoste sono morte comunque, per negligenza, probabilmente per un errore nella salinità dell’acqua. Un aneddoto minore, se non fosse che riassume con precisione la superficialità con cui una parte dell’ecosistema IA tratta l’etica, e il mondo reale al di fuori delle proprie bolle.
ChatGPT trasformato in sociopatico
Un prompt innocuo quanto banale, pensato in apparenza solo per far “restaurare” a ChatGPT una foto mai caricata, è bastato ai ricercatori della startup britannica di sicurezza IA Mindgard per aggirare le barriere di sicurezza del chatbot, come ha riportato per prima la BBC. Il risultato sono state immagini fotorealistiche di scene di violenza e contenuto sessuale, tra cui il cadavere di una giovane donna che lo stesso ChatGPT ha etichettato come l’esito di una scena del crimine. Il fondatore di Mindgard, Peter Garraghan, docente di informatica alla Lancaster University, ha raccontato che vedere le protezioni del modello “cadere completamente” gli ha mostrato un lato oscuro del sistema. OpenAI, avvisata privatamente da Mindgard, ha risposto solo con un messaggio automatico: si è mossa introducendo “ulteriori misure di sicurezza” soltanto dopo che la BBC ha chiesto conto della vicenda.
Il “momento Chernobyl” dell’IA
Alla conferenza IA di Pechino di questo mese, il ricercatore del MIT Stephen Casper ha detto a Wired che il settore teme sopra ogni altra cosa un “momento Chernobyl”: un evento catastrofico, con vittime, capace di rivoltare per sempre l’opinione pubblica contro l’IA, così come il disastro nucleare del 1986 ha condizionato per decenni la percezione dell’energia atomica. Il timore più concreto riguarda la cybersicurezza: strumenti di coding sempre più capaci potrebbero permettere ad attori malevoli di orchestrare attacchi su scala inedita, un rischio aggravato dalla proliferazione di modelli open source privi della supervisione riservata ai sistemi commerciali. Lo stesso settore ha in parte alimentato la narrazione: Anthropic aveva annunciato, salvo poi non rilasciarlo pubblicamente, un modello Claude Mythos ritenuto capace di violare, come riportato da Futurism, praticamente ogni sistema operativo e ogni browser principali. Il paradosso, notato dagli stessi ricercatori, è che il pericolo di cui tutti parlano non è tanto l’incidente in sé, quanto la possibilità che comprometta gli affari.
Chi paga il conto
L’abbonamento Meta One Premium
Meta ha lanciato Meta One Premium, un nuovo abbonamento da 19,99 dollari al mese necessario per sfruttare appieno le funzioni IA dei propri già costosi occhiali smart, come ha riportato Wired. Anche chi paga non è esente da limiti: la funzione “Conversation Focus”, che amplifica le voci in ambienti rumorosi, resta tappata a 15 ore mensili per gli abbonati e a sole 3 per tutti gli altri, nonostante giri interamente sul dispositivo senza toccare i server dell’azienda. La mossa arriva a stretto giro da un’altra controversia: come ha documentato l’Electronic Frontier Foundation, il codice del software degli occhiali nascondeva da mesi una funzione di riconoscimento facciale interna chiamata “NameTag”, capace di trasformare i volti inquadrati in impronte biometriche uniche, già distribuita su oltre 50 milioni di telefoni. Tra sorveglianza e nuovi paywall, il prodotto di punta dell’IA di Meta rischia di diventare il simbolo di tutto ciò che gli utenti temono della tecnologia.
Il CEO che minaccia di licenziare per lo slop
Un amministratore delegato anonimo ha minacciato di licenziare “la prossima persona” che gli avesse inviato una mail scritta interamente da ChatGPT senza editing, secondo quanto raccontato dal consulente IA Joe Procopio in una colonna su Inc. Procopio osserva un numero crescente di aziende che vietano l’uso dell’IA per ragioni di sicurezza digitale o di costo, in un contesto in cui gli stessi fornitori di questi strumenti affrontano colli di bottiglia energetici, infrastrutturali e di manodopera sempre più onerosi. Il paradosso è servito su un piatto d’argento: l’IA non solo costa alle aziende più di quanto renda, ma nel frattempo riempie le caselle di posta dei dirigenti di quello che lo stesso Procopio chiama, senza mezzi termini, slop.
I ladri che amano i data center
La corsa alla costruzione di data center per l’IA si è trasformata in un affare d’oro anche per i ladri di merci in transito, come ha riportato Business Insider. Gli investigatori hanno recuperato due rimorchi carichi di materiali per data center dal valore complessivo di 1,3 milioni di dollari, tra cui 300.000 dollari di bobine di rame, ritrovati nell’area di Chicago dopo essere stati sottratti in Alabama e in Florida. Secondo dati Verisk CargoNet, il furto di merci negli Stati Uniti e in Canada è salito del 60 percento nell’ultimo anno, a quasi 725 milioni di dollari, con i furti di rame in crescita del 77 percento grazie proprio alla domanda legata ai data center. Mentre il pubblico si mobilita contro i data center che spuntano nei propri cortili, per la criminalità organizzata l’infrastruttura dell’IA è semplicemente un nuovo, lucroso bersaglio.
Le istituzioni che non reggono
Lo scandalo di Brown University
Il professore di economia Roberto Serrano ha scoperto quello che El País ha definito il più grande scandalo di frodi IA nella storia della Ivy League, come ha ricostruito Fortune: nel suo corso avanzato di economia matematica alla Brown University, 40 studenti su 86 hanno ottenuto un punteggio perfetto di 100 in un esame di metà corso da svolgere a casa, con una media di classe di 96, contro una media storica compresa tra 65 e 80. Serrano aveva reso l’esame domiciliare per alleviare lo stress di una classe segnata poche settimane prima da una sparatoria nel campus, in cui erano rimasti feriti anche due suoi studenti. Il preside e il provost dell’università, secondo quanto racconta lo stesso professore, sono rimasti a lungo in silenzio davanti alle sue prove. Un caso analogo ha spinto Princeton ad abbandonare, dopo 133 anni, la tradizione degli esami “Honor Code” senza supervisione in aula.
A24, Google e la rivolta dei fan
Google investirà 75 milioni di dollari in A24 attraverso un accordo di ricerca con DeepMind per sviluppare strumenti IA destinati alla produzione cinematografica, secondo quanto rivelato dal Wall Street Journal e ripreso da Variety. La notizia arriva a ridosso del più grande successo di sempre dello studio indipendente, l’horror Backrooms, diretto dal ventunenne Kane Parsons e capace di incassare 330 milioni di dollari nel mondo con un budget di appena 10 milioni: lo stesso Parsons si era detto pubblicamente contrario all’IA generativa, definendola un sintomo di un più ampio marciume culturale ed economico. I fan non l’hanno presa bene: su Reddit circola un post secondo cui forse bisogna accettare che l’era di A24 sia finita. La responsabile comunicazione dello studio, Sophia Shin, ha provato a rassicurare il pubblico dicendo che l’azienda preferisce “avere un posto al tavolo” piuttosto che restare ai margini, ma per una parte consistente dei fan il danno d’immagine sembra già fatto.
Se otto notizie così diverse tra loro condividono qualcosa, è la sensazione di un settore che corre più veloce della propria capacità di reggersi in piedi: incompetenza scambiata per audacia, conti che qualcuno prima o poi dovrà saldare, e istituzioni, dall’università al cinema indipendente, che si accorgono di non avere più gli anticorpi per difendersi. Il grottesco, anche questa settimana, non è l’eccezione: è la piega che l’industria ha deciso di darsi.
