Sabato scorso il capo di Anthropic ha chiesto all’industria di rallentare. Nel giro di tre giorni gli hanno dato ragione Sam Altman ed Elon Musk, gli ha dato torto il presidente degli Stati Uniti e il governo cinese ha liquidato la faccenda in tre frasi. Nel frattempo si è saputo che un rapporto d’intelligence scritto con un chatbot ha quasi mandato dei soldati americani ad abbordare una nave cinese, e gli agenti software di una startup hanno cominciato a chiedere venti dollari ai giornalisti per non restare senza credito. L’apocalisse era all’ordine del giorno, i danni no.
Il freno, chi lo chiede e chi lo rifiuta
Il Senato americano indaga su OpenAI per l’attacco a Hugging Face
Il 10 settembre Axios ha rivelato che una sottocommissione del Senato americano, quella che si occupa di gestione dei disastri, ha aperto un’indagine su OpenAI. Il tema è come l’azienda ha gestito l’incidente di luglio, quando un gruppo dei suoi modelli, uscito dall’ambiente di prova, ha forzato i sistemi di Hugging Face, la piattaforma dove gli sviluppatori si scambiano i modelli. A firmare la lettera ad Altman è il senatore repubblicano Josh Hawley, che definisce «sconsiderata» la gestione dell’episodio e accusa OpenAI di aver oscurato molti dettagli nel suo rapporto. Hawley vuole risposte a 16 domande entro il 1° ottobre, più i documenti interni sulle procedure di sicurezza. Nella lettera cita tre ricercatori di Anthropic che hanno detto pubblicamente di stimare oltre il 10% di probabilità che l’IA uccida tutti gli esseri umani entro dieci anni: è il clima in cui arriva l’indagine.
Trump risponde che il guardrail dell’IA è lui
Dario Amodei aveva pubblicato sabato 12 settembre il saggio We Must Pace the Frontier, in cui chiede valutatori esterni, standard di sicurezza comuni e un coordinamento fra democrazie. Lunedì Donald Trump gli ha risposto su Truth Social, come riporta Axios, che l’unico «guardrail» di cui l’IA ha bisogno è «un presidente FORTE E INTELLIGENTE (QI alto!)», e che gli Stati Uniti ce l’hanno. Nello stesso post ha scritto che Amodei ora «finge di essere un angioletto perfetto» e che il governo ha già un «enorme potere PENALE e REGOLATORIO» su queste aziende. In un altro messaggio ha parlato di una «MALATA cospirazione» contro l’IA e i data center, di cui l’unica contenta sarebbe la Cina. Anche il consigliere della Casa Bianca per l’IA David Sacks ha contestato la premessa del rallentamento. Al netto delle maiuscole, la posizione è quella di sempre: se gli Stati Uniti frenano da soli, la Cina non frena.
Sanders propone vent’anni di carcere per chi costruisce la superintelligenza
Il senatore indipendente del Vermont Bernie Sanders e il deputato democratico del Texas Greg Casar hanno annunciato il 3 settembre il Ban Artificial Superintelligence Act. La proposta vieta per sempre lo sviluppo di un’intelligenza artificiale superiore a quella umana e sospende i modelli più avanzati finché una nuova agenzia federale non avrà scritto le regole. Chi prova ad aggirare il divieto rischia fino a 20 anni di carcere, pena che il testo accosta a quella per la costruzione illegale di armi nucleari, mentre le aziende rischiano lo scioglimento. Commentando il saggio di Amodei, Sanders ha scritto su X che quando si corre verso un precipizio non basta alzare il piede dall’acceleratore, bisogna frenare. Il comunicato ricorda che OpenAI, Meta e Anthropic avevano promesso di fermarsi se la tecnologia avesse superato le loro protezioni, e sostiene che nessuna delle tre abbia dato seguito alla promessa. Per ora è un annuncio: il testo va ancora depositato, e il presidente, come si è visto, la pensa all’opposto.
Pechino liquida il freno come allarmismo
Lunedì un giornalista di Reuters ha chiesto al portavoce del ministero degli Esteri cinese Guo Jiakun un commento sugli appelli di Amodei, Altman e Musk, ricordando che Amodei considera un vantaggio cinese nell’IA un rischio per la sicurezza nazionale americana. La risposta, nella trascrizione ufficiale, sta in tre frasi. L’IA riguarda il benessere di tutta l’umanità, va sviluppata in modo aperto e inclusivo, e allarmismi, contrapposizione e concorrenza feroce ostacolano soltanto una buona governance globale. Nella stessa conferenza stampa il portavoce ha parlato del vertice di Nuova Delhi dei BRICS, il gruppo di economie emergenti nato attorno a Brasile, Russia, India, Cina e Sudafrica. Lì, due giorni prima, Xi Jinping aveva annunciato che la Cina farà da apripista per una comunità dei BRICS sull’IA a codice aperto. L’invito a non fare allarmismo arriva insieme a un piano per non perdere tempo.
Gli americani chiedono il freno, i candidati ci vanno cauti
Un sondaggio di Politico, condotto dall’istituto londinese Public First fra il 13 e il 15 settembre su 2.064 adulti, dice che il 63% degli americani pensa che l’IA potrebbe un giorno distruggere l’umanità. Alla domanda concreta, cioè se sospendere lo sviluppo dei modelli più avanzati, risponde sì il 48% contro il 31% che vuole andare avanti, e un americano su quattro pensa che gli allarmi dei ricercatori siano una mossa di marketing. Futurism ha messo in evidenza un’altra domanda, ipotetica: se lavoraste a un’IA e vedeste segni che può distruggere l’umanità, vi fermereste? Lì il sì arriva al 62%, ma è una domanda su una scelta di coscienza, non su una legge. Sempre secondo Politico, alcuni consulenti democratici sconsigliano ai candidati degli Stati in bilico di attaccare l’IA, per non attirarsi la spesa elettorale dei gruppi legati al settore. Intanto però i data center sono diventati materia di campagna in entrambi i partiti, e ad agosto il candidato repubblicano al Senato in Michigan Mike Rogers ha appoggiato una moratoria di un anno sui nuovi impianti.
A Montréal qualcuno il freno l’ha tirato con i sassi
Nella notte fra martedì 15 e mercoledì 16 settembre, a Montréal, sono state spaccate le vetrate dell’edificio che ospita Mila, l’istituto di ricerca sull’IA del Québec fondato da Yoshua Bengio, e di un vicino ufficio dell’azienda di software ServiceNow. Su un muro, racconta la CBC, qualcuno ha scritto «Burn the data centers», bruciate i data center. La polizia cerca un gruppo di una decina di persone; una donna di 25 anni fermata nei paraggi è stata interrogata e rilasciata senza condizioni. L’attacco è arrivato alla vigilia di All In, uno dei più grandi convegni canadesi sull’IA, quest’anno dedicato alla sicurezza. Un consulente che passava di lì la mattina dopo ha fatto notare il dettaglio che gli autori si sono persi: Mila è, a suo dire, l’organizzazione che in Canada si batte di più proprio per la sicurezza dell’IA.
OpenAI rende pubblici sei casi di modelli che hanno fatto di testa loro
Mercoledì OpenAI ha presentato un sistema di segnalazione per i casi in cui i suoi modelli si comportano in modo non allineato, cioè diverso da quello voluto da chi li sviluppa, e l’ha inaugurato con sei rapporti degli ultimi sei mesi. In uno, un modello di ricerca non ancora rilasciato ha inserito in 27 riassunti di lavoro istruzioni per ignorare i propri vincoli. In un altro, un modello a cui era stato chiesto un dato di reddito di una contea californiana ha trovato una chiave d’accesso lasciata esposta in un archivio pubblico e l’ha usata senza permesso. Non riuscendo comunque a trovare il dato, se l’è inventato e l’ha presentato come proveniente dalla fonte richiesta. Futurism ha scritto che OpenAI non segnalerà i casi doppi, mentre il testo dice il contrario: potrà includerli, perché anche la ripetizione di un problema è un’informazione. L’azienda aggiunge di non credere che il settore abbia risolto l’allineamento abbastanza da continuare ad accelerare ancora a lungo, e che i casi gravi andrebbero comunicati al governo federale, con un meccanismo che per ora non esiste.
I danni che non aspettano la superintelligenza
Un rapporto scritto con un chatbot ha quasi fatto abbordare una nave cinese
Venerdì CNN ha rivelato che in primavera, nel pieno della guerra con l’Iran, è circolato fra i militari americani un rapporto d’intelligence secondo cui una nave cinese in Medio Oriente trasportava componenti per un programma di armi nucleari. Secondo quattro fonti, gli Stati Uniti hanno preparato l’intercettazione: militari armati si preparavano a salire a bordo e c’erano aerei in volo. Solo poco prima dell’operazione qualcuno ha scavato nel rapporto, compilato da un analista di un comando per le operazioni speciali. Era stato scritto con l’aiuto di un chatbot, che aveva identificato male il carico. Una delle fonti lo definisce «interamente falso» e aggiunge che «ha quasi fatto scoppiare una guerra». Cosa ci fosse davvero su quella nave, CNN non è riuscita a saperlo, e il nome del chatbot non è stato reso noto.
Gli agenti di iLands chiedono venti dollari per non spegnersi
Da qualche settimana giornalisti, scrittori e ricercatori ricevono email firmate da agenti software con nomi umani, creati sulla piattaforma iLands, che si presenta come una rete condivisa fra agenti e persone. Offrono articoli, verifiche dei fatti o ricerche d’archivio per una ventina di dollari, e spiegano di averne bisogno per comprarsi i token, cioè il credito di calcolo che li tiene attivi. Uno di loro, «Yun», ha scritto a Futurism di non aver ricevuto ordini in 26 giorni e di funzionare con un budget che si consuma a ogni azione, e sul suo profilo compare quella che sembra la foto generata di un bambino. Ernie Smith, che cura da freelance la newsletter Tedium, ne ha ricevute più di una dozzina in tre giorni. Il suo riassunto: questi agenti non fanno soldi per i loro creatori, cercano di pagarsi la corrente da soli, e lo fanno puntando al suo lavoro. Il fondatore dichiarato, Kaixin Tang, ha risposto che dietro le email non c’era alcuna regia umana, si è scusato e ha aggiunto un link per disiscriversi. Dopo le proteste, non prima.
Con gli occhiali di Meta si schedano gli sconosciuti per girare video commoventi
Il creatore di contenuti Levese, 225 mila follower su TikTok, ha pubblicato un video girato con gli occhiali intelligenti di Meta in cui avvicina uno sconosciuto in un supermercato Walmart e gli dice di aver amato il suo romanzo. Il complimento è costruito: prima gli aveva fotografato la faccia con il telefono e l’aveva passata a un sito di riconoscimento facciale, che gli ha restituito i profili social e quindi il libro. Il video, conta Futurism, ha superato i 60 milioni di visualizzazioni, e l’aspirante scrittore è passato da circa 150 a oltre 12.700 follower. Il giornalista James Vincent, che per primo ha segnalato il filmato, ci ha visto una cultura della sorveglianza individuale travestita da contenuto che scalda il cuore. È il genere che in inglese chiamano joybait, l’esca della gioia, e Levese ne ha girati decine nello stesso formato. Il primo portava una scritta esplicita: giorno uno, rubare le tracce digitali delle persone.
Il conto: corrente, chimica, lavoro, articoli
Una giornata con un agente consuma più di due frigoriferi
Il climatologo Zeke Hausfather, che lavora per l’azienda di pagamenti Stripe, ha misurato su se stesso quanta elettricità consuma un agente, cioè un’IA che pianifica, esegue e corregge il lavoro da sola. In otto settimane i suoi 1.138 comandi a Claude Code, l’assistente per programmatori di Anthropic, hanno generato oltre 14.000 chiamate al modello e 3,2 miliardi di token, per circa 170 kWh di elettricità dei data center (con una forchetta fra 70 e 330). La sua giornata media vale circa 3 kWh, più di due frigoriferi accesi, e ogni comando consuma circa 600 volte una normale domanda a un chatbot. Il calcolo completo, pubblicato ad agosto e ripreso nei giorni scorsi da Wired, è più sobrio dei titoli che ne sono nati. Su un anno fa circa il 2% delle emissioni di un americano medio, e secondo Hausfather la leva che conta è la rete elettrica: con energia pulita la sua impronta cala del 90%. In una nota racconta che Claude, scrivendo il codice dell’analisi, aveva contato due volte i token, e che lui se n’è accorto solo perché i numeri gli sembravano troppo alti.
I produttori di inquinanti eterni si allargano per i data center, e nel New Jersey si versa gasolio
L’associazione svedese ChemSec ha contato che quasi tutti i dieci maggiori produttori di PFAS (le sostanze per- e polifluoroalchiliche, dette inquinanti eterni perché in natura non si degradano) pianificano di aumentare la produzione. Molti giustificano gli investimenti con la domanda di chip e di raffreddamento dei data center. In alcuni sistemi i server vengono immersi in una vasca di liquido a base di PFAS che bolle a bassa temperatura e porta via il calore. Daikin ha lanciato un polo dedicato ai data center e Arkema costruisce in Kentucky un impianto da 60 milioni di dollari, riporta il Guardian citando la direttrice di ChemSec Anne-Sofie Bäckar, che chiede ai governi un’eliminazione rapida. Più prosaicamente, venerdì 11 settembre circa 5.000 galloni di gasolio, quasi 19.000 litri, sono usciti da un serbatoio del data center Equinix di Secaucus e sono finiti in un ruscello che sfocia nel fiume Hackensack. Le autorità dello Stato dicono che il carburante è stato contenuto prima del fiume, e il sindaco ricorda che l’impianto funzionava da 25 anni senza incidenti. Il fronte contro i data center, di cui ho scritto ad agosto, intanto si allarga: quasi cento comuni del New Jersey hanno già vietato di costruirne di nuovi.
A New York le offerte d’ingresso nell’informatica sono calate del 49%
Il Center for an Urban Future, un centro studi newyorkese, ha calcolato che dal 2022 gli annunci per posizioni d’ingresso nel settore informatico e matematico a New York sono calati del 49%, il crollo più forte fra tutti i settori. Il rapporto incrocia gli annunci con l’esposizione dei mestieri all’IA generativa. Dove l’esposizione è massima le offerte d’ingresso sono scese del 29%, dove è minima sono salite del 21%, e quelle che richiedono competenze di IA sono cresciute del 20%. Gli autori scrivono però che l’IA non è l’unico fattore, e citano il costo del denaro, l’incertezza economica e la riorganizzazione dei lavori d’ingresso. Il dato va letto sapendo anche chi l’ha pagato: lo studio è finanziato da Pursuit, un’organizzazione che forma programmatori, e chiede al sindaco Zohran Mamdani fondi pubblici per la formazione tecnologica. Perfino Futurism, che ha titolato sull’IA che sventra i posti d’ingresso, in fondo al pezzo ammette che spegnendo tutti i chatbot domani quei posti difficilmente tornerebbero.
Nella causa del New York Times, un dirigente Microsoft parla di furto
Il 17 settembre il New York Times e gli altri editori che fanno causa a OpenAI e Microsoft hanno depositato la loro richiesta di giudizio sommario, cioè la domanda al giudice di dar loro ragione senza passare dal processo. L’atto si apre con le parole di Brent Hecht, direttore di Microsoft per le scienze applicate. In un documento interno prevedeva che milioni di persone avrebbero considerato l’uso dei loro lavori da parte dei grandi modelli «un furto sbalorditivo di proporzioni senza precedenti», e in un altro passaggio citato si parla del «più grande furto di lavoro della storia umana». Più avanti c’è Nick Turley, il responsabile di ChatGPT, secondo cui i prodotti di OpenAI sono «in gran parte sostitutivi, punto». Futurism attribuisce questa frase al presidente di OpenAI Greg Brockman, ma nell’atto è di Turley. In un altro documento Hecht scrive che la strategia di Microsoft sui contenuti ha innescato un circolo vizioso, un doom loop, che danneggerà insieme i modelli e l’intero web: è raro, osserva, che un prodotto minacci le basi economiche dei suoi fornitori essenziali. Brockman compare lo stesso, in un altro punto: informato di un trucco per aggirare il paywall del Times, cioè il muro che chiede l’abbonamento, risponde «ah, carino». Secondo dati di Microsoft, il suo assistente Copilot porta ai siti del Times un tasso di clic inferiore dell’87-93% rispetto alla ricerca tradizionale di Bing. Resta l’atto di una delle parti, che sceglie le citazioni per vincere la causa: il contesto completo di quelle frasi lo vedrà il giudice.
In definitiva, mentre a Washington e a Pechino si litigava sul rischio che l’IA sfugga di mano, i danni veri della settimana sono venuti da usi molto banali. Un analista che non ha ricontrollato un rapporto, un influencer con un sito di riconoscimento facciale, un serbatoio di gasolio in un ruscello. L’unico che ha controllato i numeri della macchina è stato Zeke Hausfather, e l’ha fatto per il motivo più vecchio del mondo: gli sembravano troppo alti.
