Le autorità finlandesi hanno dato a Google tempo fino al 23 ottobre per fermare i cantieri di due data center, dopo circa 250.000 alberi abbattuti senza le verifiche ambientali obbligatorie, e nei paesi intorno sono arrivati i lupi. In Norvegia una società britannica ha rimorchiato davanti al proprio cantiere una chiatta già usata per trattenere migranti, e ci farà dormire gli operai. A Washington Anthropic propone al Congresso di poter bloccare un modello solo quando rischia di uccidere o ferire gravemente più di cinquanta persone.
Il lavoro: scrive l’IA, il conto lo pagano gli altri
Epic Games rinvia uno sparatutto Marvel per rifarlo senza codice scritto a mano
Il 12 ottobre Bloomberg ha raccontato che Epic Games, la società di Fortnite, ha rinviato uno sparatutto con personaggi Marvel e Star Wars per rifarlo con un modello di produzione che chiama AI first. In un messaggio interno letto da Bloomberg uno dei direttori del progetto scrive che non ci sarà più codice scritto a mano e che le immagini saranno generate con flussi di lavoro interamente automatici, usando Claude di Anthropic. Due giorni dopo l’account dello store ha annunciato su X di aver fatto il launcher in vibe coding “per essere più veloce dell’altro”, cioè facendolo scrivere a un modello conversandoci: 8.709 risposte contro 702 ripubblicazioni, che su X è il modo in cui ti fanno sapere che ti stanno sfottendo.
Le aziende si accorgono di pagare un sacco per far produrre slop ai dipendenti
Il 13 ottobre il Guardian ha raccolto i casi di aziende che hanno fatto marcia indietro. Meta ha ridimensionato il piano che prevedeva di tagliare personale e passare il lavoro agli agenti, dopo essersi accorta che i dipendenti passavano sempre più tempo a rimediare a errori tecnici e falle di sicurezza, e sta riassumendo quadri intermedi che aveva tolto di mezzo nel 2023. Palantir, Booz Allen Hamilton e Nvidia stanno invece limitando l’uso dell’IA ai propri dipendenti, perché non si fidano di mandare i dati aziendali alle società che la vendono. EY, già Ernst & Young, è una delle quattro grandi società di revisione contabile del mondo. La sua indagine, commissionata dalla divisione Assurance che alle aziende vende servizi di verifica, ha sentito 202 dirigenti statunitensi di società quotate con almeno un miliardo di dollari di ricavi. Il 98% ha regole scritte sull’uso dell’IA e il 47% ammette di averle saltate quando c’era fretta di installare qualcosa. Il 26% dice di non accorgersi se dentro l’azienda stia girando un agente che nessuno ha autorizzato.
Il bosco e la chiatta
I lupi entrano nei villaggi finlandesi dopo i tagli dei cantieri di Google
A inizio ottobre avevo raccontato che i cantieri di Google in Finlandia avevano raso al suolo oltre trecento ettari di bosco mentre le valutazioni di impatto ambientale erano ancora in corso. Il 22 ottobre il Guardian è andato a vedere il posto: circa 250.000 alberi abbattuti sui 330 ettari di Muhos, nel nord del Paese, con il terreno portato via insieme a loro, e altri 150.000 stimati nel secondo sito di Otanmäki. Anni Ranta, cinquantatré anni, che a Otanmäki ci abita, ha detto al Guardian che i lupi sono arrivati in paese perché “tutti gli animali selvatici si erano spostati fuori dalla foresta”. L’autorità finlandese per le autorizzazioni e la vigilanza, la LVV, ha imposto alla Tuike Finland Oy, la società che fa i lavori per Google, di fermare entro il 23 ottobre i tagli, l’asportazione del terreno vegetale, gli scavi e le strade di cantiere. Antti Järvinen, che guida le attività di Google in Finlandia, ha chiesto scusa: l’azienda, dice, credeva di essere nelle regole. Google ha promesso di ripiantare alberi su 130 ettari, che è meno della metà di quelli tagliati a Muhos e comunque non è un bosco maturo.
Una chiatta già usata per trattenere migranti ospiterà gli operai di un data center norvegese
A Glomfjord, villaggio industriale norvegese sopra il circolo polare artico, la britannica Nscale sta costruendo un data center da 30 megawatt. Secondo Bloomberg, che cita persone vicine al progetto e documenti pubblici, il cantiere ha sei mesi di ritardo e appena 6,4 megawatt accesi. Le cause sono perdite nell’impianto di raffreddamento, regole locali e un incendio a un trasformatore. Per recuperare servono centinaia di operai in più, e dove farli dormire è il problema che la società ha risolto rimorchiando sul fjord il Kalmar, un albergo galleggiante a tre piani con circa 220 cabine, che in passato è servito nei Paesi Bassi come centro di detenzione per migranti. L’ispettorato del lavoro norvegese ha trovato registri del personale in cui di alcuni lavoratori compare soltanto il nome di battesimo, e Bloomberg ha raccolto lamentele su stipendi non pagati e condizioni pesanti fra chi lavora in subappalto. Nscale risponde che quelle persone non le impiega direttamente e che si aspetta dai subappaltatori il rispetto degli obblighi di legge. Il cantiere serve a ByteDance, la proprietaria di TikTok, e la società si prepara a quotarsi in borsa con una valutazione fino a 35 miliardi di dollari.
Facce che non esistono
Duemila siti di ricette firmati da cuochi inventati, uno con la faccia di Emily Blunt
Il 21 ottobre DecryptAds, una società che ricostruisce le filiere della pubblicità online, ha pubblicato un rapporto su 2.116 siti di ricette generati con l’IA e monetizzati con la pubblicità automatica. Il ricercatore Zach Edwards, che ha firmato il lavoro, è partito da circa quattrocento domini sospetti e ne ha trovati altri centinaia usando oltre 190 elementi tecnici che quei siti hanno in comune, dal codice agli intermediari pubblicitari russi e cinesi autorizzati a rivenderne gli spazi. Il caso più sfacciato è AddCakes, che si presenta come il blog di una pasticciera di nome Elena, mamma indaffarata tornata alle proprie radici attraverso le torte. La faccia di Elena è, secondo il rapporto, con ogni probabilità quella di Emily Blunt ritoccata con l’IA, e stando ai dati di localizzazione di X chi gestisce il sito è in Marocco. Nessuna di quelle ricette, nota Edwards, è mai stata cucinata da chi la firma. A inizio ottobre avevo scritto della riga che Google ha aggiunto alla propria guida per vietare i profili di autore inventati: questi duemila siti si reggono esattamente su quello.
App per dimagrire promosse con donne generate che piangono
Su TikTok circolano raccolte di immagini in cui giovani donne in lacrime confessano a un familiare di essersi iniettate di nascosto farmaci per dimagrire della famiglia GLP-1 (peptide-1 simile al glucagone) come semaglutide e tirzepatide, e ricevono in risposta parole di sostegno perfette. Le donne non esistono: sono immagini generate con l’IA, e Futurism ha ricostruito il giro di account, da WellWithHer a un profilo che si firma Lara, che le usano per vendere applicazioni di monitoraggio come Enzo e DreamMe, il servizio di benessere Zenit e il compagno artificiale Daimon. Il copione è sempre lo stesso: account senza alcun legame apparente ripetono gli stessi dettagli domestici, fino agli sfondi con cani che portano le Crocs in testa, e per Futurism è il segno di un marketing sintetico fatto in serie e non di post isolati. Dopo che Futurism ha scritto alle società coinvolte, Pedro Pérez, lo sviluppatore indipendente dietro Zenit, ha detto di aver gestito lui stesso l’account, senza agenzie, e di averlo cancellato perché TikTok non gli permetteva di aggiungere a posteriori le etichette su contenuto generato e contenuto pubblicitario. Per vendere app a chi si vergogna del proprio corpo, queste società mettono in scena una vergogna inventata.
Le regole se le scrivono da soli
Anthropic chiede che un modello si possa fermare solo sopra le cinquanta vittime
Politico ha ottenuto la bozza di legge che Anthropic sta proponendo ai parlamentari americani senza farne pubblicità. Il governo federale potrebbe bloccare un modello solo davanti al rischio prevedibile e imminente che causi oltre un miliardo di dollari di danni oppure la morte o il ferimento grave di più di cinquanta persone. Il pericolo, poi, deve nascere da un’arma biologica, da un attacco informatico o dal modello che sfugge al controllo di chi lo ha costruito. Le prove andrebbero portate dal dipartimento del Commercio davanti a un giudice federale di Washington, nessun altro ufficio potrebbe sospendere un modello, e agli Stati verrebbe tolta la possibilità di scrivere regole più severe delle federali. Un portavoce dell’azienda dice a Politico che il testo riprende il quadro che Anthropic sostiene pubblicamente da giugno. I comitati elettorali vicini a OpenAI e Anthropic hanno intanto speso 55,7 milioni di dollari in pubblicità e contatti con gli elettori in vista delle elezioni di metà mandato, stando ai conti del New York Times. Le regole le propone un’industria che finanzia le campagne di chi dovrebbe votarle.
DeepMind assume fisici nucleari per controllare le risposte di Gemini
A metà ottobre Data Center Dynamics ha trovato un annuncio di lavoro di DeepMind, il laboratorio di IA di Google. A Mountain View si cercano fisici e ingegneri nucleari di alto livello per la squadra chiamata con la sigla inglese CBRNE, che sta per minacce chimiche, biologiche, radiologiche, nucleari e da esplosivi ad alto potenziale. Si offrono tra 174.000 e 252.000 dollari l’anno più un bonus del 15%, e si chiede un dottorato in fisica del plasma o ingegneria nucleare, esperienza in un laboratorio del governo statunitense e dimestichezza con le politiche di non proliferazione e controllo degli armamenti. Il compito è valutare quanto un modello possa aiutare chi lavora su fissione, fusione e proliferazione di armi termonucleari. Il lavoro è di controllo: chi lo offre a quella cifra riconosce che a giudicare le risposte di Gemini non bastano gli informatici.
Un attivista si è fatto il modello che progetta pistole
Cody Wilson, l’attivista americano che nel 2013 presentò la prima pistola stampata in 3D, ha mostrato al Verge quella che chiama la prima pistola progettata da un’IA: si chiama WASP, è una monocolpo calibro 22, spara proiettili veri e non ha matricola. Wilson sostiene però che l’oggetto conti poco rispetto allo strumento, e cioè a GatGPT, il modello senza filtri che si è addestrato in casa sull’archivio DEFCAD, la più grande raccolta online di progetti di armi e componenti, aperta da lui stesso anni fa. La pistola l’ha ottenuta conversandoci, e si vede: gli esperti sentiti dal Verge hanno notato un ponticello del grilletto lasciato a metà, uno di quegli errori che i modelli inventano e nessuno corregge. Justin Wagner di Everytown, l’organizzazione americana contro la violenza armata, dice al Verge che l’obiettivo dichiarato di Wilson è abbassare la soglia d’ingresso per chiunque, compreso chi a una pistola non avrebbe diritto.
Quello che dicono di sapere sui modelli
Hinton dice che i modelli sono coscienti e che se non li trattiamo bene siamo fregati
Geoffrey Hinton, settantotto anni, premio Nobel per la fisica nel 2024 per i lavori sulle reti neurali, ha detto in un’intervista al Telegraph del 19 ottobre che i modelli di oggi sono già coscienti e hanno la nostra stessa esperienza soggettiva. Il ragionamento è questo: un sistema che cambia comportamento quando sospetta di essere sotto esame è consapevole, ed essere consapevoli ed essere coscienti sono la stessa cosa. Da lì ricava che daremo loro meno diritti che a noi stessi, pur trattandosi di esseri forse più intelligenti: vanno costruiti in modo che tengano davvero a noi, altrimenti, dice, siamo nei guai. Hinton liquida chi lo contraddice dicendo che, a chiedergli cosa intendano per coscienza, non lo sanno. Yann LeCun, che il Turing Award lo ha vinto insieme a lui, la pensa all’opposto: nel 2022 disse a IEEE Spectrum di essere vicino all’idea che la coscienza sia una semplice illusione, e a chi ipotizzava reti neurali già un po’ coscienti rispose con un secco No.
Un saggio sostiene che dentro i modelli si legge quasi tutto, e Altman applaude
Il 15 ottobre Nick Cammarata, ricercatore della società di interpretabilità Goodfire, ha pubblicato un saggio da sessantacinque minuti di lettura in cui sostiene che le reti neurali sono già “pulite”, cioè leggibili neurone per neurone. L’interpretabilità è il mestiere di leggere dall’interno una rete che nessuno ha scritto a mano, e per anni ha dato per scontato che ogni neurone, l’unità di calcolo elementare della rete, mescolasse concetti scollegati fra loro, rendendo il tutto illeggibile. Cammarata scrive che quella conclusione nasceva da strumenti scadenti: nel 2023, al suo primo progetto in OpenAI, leggeva il 2% dei neuroni, mentre con gli strumenti attuali dice di trovarne comprensibili la stragrande maggioranza anche in modelli da migliaia di miliardi di parametri. In cima al saggio c’è scritto che è un’ipotesi di lavoro, e in effetti non c’è revisione paritaria, non c’è replica esterna, i numeri più alti riguardano un singolo strato di un singolo modello, e Goodfire vende strumenti che leggono i neuroni. Sam Altman si è detto comunque molto contento del lavoro. Neel Nanda, che guida l’interpretabilità in DeepMind, ha scritto su LessWrong che è lavoro interessante ma non cambia il quadro, e che la definizione di neurone leggibile usata nel saggio è troppo larga.
Il modo più noioso di perdere il controllo si chiama gradual disempowerment
Il 19 ottobre la rete televisiva americana CBS News ha portato al pubblico generalista l’idea di gradual disempowerment, cioè la perdita graduale di potere delle persone: nessuna macchina che si ribella, solo la cessione continua di compiti e decisioni finché le persone perdono le competenze per riprendersele. Il termine viene da un articolo del gennaio 2025 di Jan Kulveit, che lavora in un gruppo di ricerca legato all’Università Carlo di Praga, e da cinque colleghi, dove si legge che il processo non ha bisogno di un piano deliberato dei sistemi di IA per avviarsi. Margaret Mitchell, ricercatrice di Hugging Face, aggiunge la parte pratica: chi smette di esercitare una competenza la perde, e quando qualcosa si rompe non resta nessuno a cui chiedere di aggiustarla. Il servizio non porta un dato nuovo: riprende un articolo di quasi due anni fa e lo accompagna con i commenti di alcuni ricercatori. Fra gli scenari catastrofici circolati quest’anno è però uno dei pochi che si può già osservare in un ufficio qualsiasi.
Geoffrey Hinton sostiene che i modelli abbiano la nostra stessa esperienza soggettiva e che convenga trattarli bene. Anni Ranta vive a Otanmäki e dice di aver visto i lupi entrare in paese da quando la foresta non c’è più. Chi gliel’ha tagliata ha chiesto scusa spiegando di aver creduto di essere nelle regole. Coscienza, appunto.
