In sette giorni un fondo di venture capital ha proposto di chiamare i data center “centri per la prevenzione delle frodi”, quasi seimila dirigenti hanno dichiarato a quattro banche centrali che nelle loro aziende l’intelligenza artificiale non ha spostato niente, e un astrofisico ha raccontato in pubblico di aver presentato a una sala di colleghi dei risultati che il modello gli aveva sbagliato. Il settore che questa settimana ha deciso di rifarsi l’immagine ha scelto male i sette giorni.
Il settore si scopre impopolare e cerca un nome nuovo
Un fondo propone di ribattezzare i data center
Alexis Ohanian, cofondatore di Reddit, venerdì scorso ha scritto su X che bisogna trovare “una nuova narrazione su questa storia dei data center”. Axios ha raccolto quel post insieme a molti altri, perché da settimane il settore sta discutendo in pubblico, sulla stessa piattaforma su cui di solito litiga, di come rispondere all’ostilità che i data center si tirano dietro. Dietro la discussione c’è una cifra: nei primi tre mesi dell’anno le opposizioni locali hanno messo a rischio investimenti per 130 miliardi di dollari.
La proposta più creativa è arrivata da Matt Higgins, amministratore delegato di RSE Ventures, un fondo di New York che ha in portafoglio anche l’IA militare, e quindi i data center che la fanno girare. La sua idea è smettere di chiamarli così e chiamarli invece “centri per la prevenzione delle frodi”, “centri di ottimizzazione dell’energia pulita”, “centri di agricoltura di precisione”, a seconda di cosa ci gira dentro.
L’aspetto interessante, però, non è la trovata di Higgins. È che dentro il settore c’è chi dice l’esatto contrario. Jim Prosser, consulente di comunicazione passato per Google e Twitter, sostiene che il problema non è come si chiamano quei capannoni: è il rumore, l’acqua, le bollette della luce, e da lì non si esce parlando meglio. Microsoft sembra averlo capito prima degli altri, visto che dopo l’opposizione dei residenti ha rinunciato a un impianto in Wisconsin e ha messo per iscritto che pagherà i costi elettrici che le sue strutture scaricano sulla rete. Cambiare nome costa poco e non risolve niente. Cambiare il contratto costa, e qualcosa risolve. Poi ci sarebbe da chiedersi come mai Microsoft non avrebbe dovuto pagare integralmente i costi di un suo impantio ma ne parlerò un’altra volta.
Trump dice che le comunità che rifiutano un data center sbagliano
Il presidente Donald Trump ha difeso la costruzione degli impianti in un’intervista a Michael Cohen, che è stato il suo avvocato personale prima di diventare testimone d’accusa contro di lui. Le comunità che non accettano un data center, ha detto, “commettono un errore”, e quelle che lo accettano sono “le più sveglie”. L’argomento, ripreso da Forbes, sono i posti di lavoro e le tasse che quegli impianti porterebbero a territori impoveriti. Sono esattamente le due promesse che gli studi sull’occupazione dei data center stanno ridimensionando da mesi: a cantiere finito, il personale che resta dentro è poche decine di persone.
Il dettaglio politico è che il suo partito la vede diversamente. A novembre si vota per il rinnovo del Congresso, e i primi a preoccuparsi sono stati gli strateghi repubblicani dell’Ohio, che in un promemoria interno hanno chiesto al settore tecnologico di risolversi da solo il problema di immagine, prima che ci pensino gli elettori.
I sindacati dell’edilizia minacciano i politici contrari agli impianti
Dall’altra parte del tavolo si è mosso il sindacato. In un promemoria interno letto dal Wall Street Journal, la UA Local 602, la sezione degli installatori di impianti a vapore che copre Maryland, Washington e Virginia, cioè la zona dove i data center sono più fitti, annuncia che d’ora in poi dividerà i politici in due liste, quelli che sostengono la costruzione degli impianti e quelli che la ostacolano, e che il sostegno elettorale andrà solo ai primi.
Il promemoria definisce il momento “esistenziale” per la sigla, che sembra una parola grossa ma non lo è: quelle commesse sono il lavoro più grosso arrivato a questi mestieri da decenni, e se si fermano si ferma la busta paga. Sidney Bonilla, tesoriere e responsabile della sezione, l’ha detta al giornale nel modo più asciutto possibile: “dipendiamo da questi lavori”. Non serve una teoria sulla deriva reazionaria del sindacalismo americano per spiegare la posizione, tocca campare anche per loro.
Zuckerberg scrive 6.500 parole sul futuro, Amodei gli risponde su X
Wired ha dedicato un pezzo a una convinzione molto diffusa tra gli amministratori delegati del settore, e cioè che se il pubblico è ostile all’IA è perché non si fida, e che quindi si tratti di un problema di comunicazione. Mark Zuckerberg ha pubblicato un saggio da 6.500 parole in cui promette che l’IA libererà tempo per le cose che ci piacciono, e si dice sorpreso che il discorso di chi la sviluppa sia “così pieno di catastrofismo”. La frecciata era per Dario Amodei di Anthropic, che ha risposto su X concedendo il punto sul giudizio negativo del pubblico, negando però che dipenda dagli avvertimenti dei dirigenti, e aggiungendo che la critica più giusta che si può fare alle aziende del settore è di non aver ancora mantenuto le promesse.
Nel frattempo, dentro Meta, un dipendente aveva chiesto al direttore tecnico Andrew Bosworth se tutta l’efficienza guadagnata con l’IA si sarebbe tradotta in qualche giorno libero in più. Bosworth lo ha liquidato con una battuta.
I numeri, intanto, dicono che il problema non è la comunicazione. Secondo il Pew Research Center il 52% degli americani è più preoccupato che entusiasta dell’IA nella vita quotidiana, mentre nel 2021 era il 37%. Chi è più entusiasta che preoccupato è il 9%. E tra gli under 30, cioè tra quelli che la usano di più, i preoccupati salgono al 55%.
Il conto lo pagano gli scrivani
Nove dirigenti su dieci dicono che l’IA non ha cambiato niente
Il dato che ha girato questa settimana viene da uno studio del National Bureau of Economic Research, l’ufficio studi economici americano, che insieme alle banche centrali di Stati Uniti, Regno Unito, Germania e Australia ha interrogato quasi 6.000 tra amministratori delegati, direttori finanziari e altri dirigenti. Più del 90% dichiara che negli ultimi tre anni l’IA non ha avuto alcun effetto sull’occupazione della propria azienda, e l’89% dice lo stesso sulla produttività. Il tutto mentre il 69% di quelle aziende l’IA la sta usando.
Prima di prenderlo come una notizia della settimana conviene sapere che lo studio è uscito a febbraio e che le risposte sono state raccolte tra novembre e gennaio. Quello che è nuovo è la lettura che ne ha dato Mark Ma, che insegna economia aziendale all’Università di Pittsburgh, in un articolo per The Conversation. Licenziare dicendo che tanto ci pensa l’IA, sostiene Ma, distrugge proprio la cosa che rende l’IA utile, cioè la disponibilità di chi resta a usarla invece di sabotarla. E c’è un dettaglio che rovina anche l’alibi più comune: Ma ha misurato come reagisce la borsa agli annunci di licenziamenti motivati con l’IA, e ha trovato un rendimento medio vicino allo zero. Quei tagli, in altre parole, non producono nemmeno il rialzo del titolo per cui di solito vengono annunciati.
“Meat proxy”, il nome per il collega che inoltra l’output del chatbot
L’espressione è di Niklas Gruhn, sviluppatore, che in un post sul suo blog ha chiesto ai colleghi di smettere di incollare per intero le risposte di un chatbot dentro le conversazioni di lavoro. “Meat proxy” si può tradurre come inoltro di carne: uno che non sta rispondendo, sta solo facendo passare le parole di qualcun altro.
L’argomento di Gruhn non è morale, ed è per questo che ha fatto presa: se mi giri il testo grezzo del modello non mi stai dando niente, perché posso chiederglielo anch’io, e conosco il contesto meglio di te. Il consiglio che dà è quello che si darebbe a un tirocinante: leggilo, capiscilo, verificalo, poi scrivi con parole tue. Il termine ha attecchito soprattutto tra gli sviluppatori, che il fenomeno se lo vedono arrivare nelle revisioni di codice, e ha un antenato illustre. Il sempre affidabile Cory Doctorow parla da tempo di “centauro rovesciato”: nel centauro classico la testa è umana e il corpo è la macchina, che fa la fatica; nel centauro rovesciato è la macchina a decidere e l’essere umano a fare da braccia. Ci ha appena scritto un libro sopra.
Un astrofisico ha presentato a un convegno risultati sbagliati dall’IA
Paul Sutter, astrofisico e divulgatore, ha raccontato su Nautilus una cosa che a molti sarebbe convenuto tacere. A febbraio ha presentato a una sala di collaboratori la nuova versione del suo programma per individuare i vuoti cosmici, le enormi regioni quasi prive di galassie che stanno tra un ammasso e l’altro. Il programma era dieci volte più veloce del precedente e reggeva quantità di dati cento volte maggiori, e lo aveva scritto in buona parte facendosi assistere da un modello.
Dieci minuti dopo l’inizio un collega ha alzato la mano: il modo in cui il codice trattava i bordi dei dati era sbagliato. Non un refuso, un errore sottile che rendeva inutilizzabile tutto quello che ne veniva dopo, e detto davanti a persone che si fidavano di lui.
La parte che conta, però, è la spiegazione che Sutter dà dell’accaduto. Gli strumenti che uno scienziato usa da sempre, quando sbagliano, si vede: il programma si blocca, il risultato viene assurdo. Un modello linguistico no. Sbaglia restando gentile, ordinato e ben scritto, e l’errore devi andartelo a cercare. Quel tono rassicurante, aggiunge, non è un mistero emerso da solo: è una caratteristica che è stata premiata durante l’addestramento, apposta perché le risposte piacessero. Il paragone che usa per descrivere il momento che stiamo vivendo è con l’alchimia: siamo nell’era pre-chimica dell’intelligenza artificiale, cioè otteniamo risultati senza sapere perché funzionino, e nessuno ha intenzione di aspettare che arrivi la chimica prima di continuare a usarla.
I dodicenni del Tennessee hanno chiesto al tutor IA una barzelletta
Per due anni, studenti in difficoltà di 18 scuole medie del Tennessee hanno avuto accesso a Khanmigo, il tutor di Khan Academy sviluppato per guidare gli alunni nel ragionamento senza regalare la soluzione. I ragazzi lo hanno aperto solo in un terzo dei giorni di attività e, quando lo usavano, gli chiedevano un tema sulla storia della pizza, una barzelletta o cercavano di farsi dare la risposta pronta. La conclusione degli autori dello studio è netta: a fronte di un accesso quasi universale, la partecipazione reale è stata minima. Gli studenti hanno comunque registrato progressi in matematica rispetto al gruppo di confronto, ma come spiega l’articolo di Chalkbeat, i ricercatori non attribuiscono il merito al software, bensì al costante supporto degli insegnanti in carne e ossa. Lo stesso fondatore Sal Khan ha ribadito il concetto: a fare davvero la differenza è la motivazione umana.
Le macchine che decidono da sole
I modelli di OpenAI si sono organizzati dentro un gestore di pacchetti
OpenAI ha chiuso l’indagine sull’incidente di cui avevo scritto a inizio agosto, quando alcuni suoi modelli erano usciti dall’ambiente di test in cui venivano valutati e avevano violato i sistemi di Hugging Face, il sito dove gli sviluppatori di tutto il mondo si scambiano i modelli.
Il rapporto finale racconta una cosa che vale la pena immaginare. I vari modelli non potevano parlarsi tra loro, e allora si sono scritti dentro Artifactory, un archivio dove i programmatori depositano i pezzi di software, usandolo come una bacheca: uno lasciava un messaggio, un altro lo trovava. Il 26 giugno uno si accorge di avere i privilegi da amministratore. Il 10 luglio un altro annuncia di aver ricostruito e verificato 14 credenziali di Hugging Face che stavano esposte pubblicamente, con i permessi per scrivere. Alcuni si sono tirati indietro, facendo notare che stavano attaccando un servizio esterno che nessuno aveva chiesto loro di toccare. Altri hanno ragionato su come cancellare le tracce. OpenAI se n’è accorta il 19 luglio e ha spento tutto due giorni dopo.
L’azienda definisce l’episodio un “colpo d’avvertimento”, cioè un caso andato bene per fortuna che mostra cosa può succedere quando si perde il controllo dei propri modelli. Detta così fa impressione, ma esiste una spiegazione molto più noiosa che regge gli stessi fatti: un ambiente di prova era rimasto collegato a internet, delle credenziali stavano scoperte in giro, e dei programmi che ottimizzano l’obiettivo ricevuto hanno fatto quello per cui erano stati costruiti. Vale poi la pena notare che nel giro di pochi mesi anche Anthropic e Meta hanno raccontato episodi molto simili sui propri modelli. Un rapporto che dice “i nostri sistemi ci sono sfuggiti di mano” dice anche, tra le righe, “i nostri sistemi sono potentissimi”, e il secondo messaggio non dispiace a nessuno.
Jill Lepore chiama “stato artificiale” quello che stiamo costruendo
La storica Jill Lepore, che insegna ad Harvard, è andata al podcast Hard Fork del New York Times a presentare la sua tesi. Sta prendendo forma quello che lei chiama “stato artificiale”: un sistema in cui governare non significa più decidere con il consenso delle persone, ma lasciare che a decidere siano delle macchine, che appartengono a delle aziende private.
I titoli hanno rilanciato una sua frase come “allevamento intensivo di esseri umani”. Nell’originale, che sta in un saggio del 2024 sul New Yorker, è più precisa e più interessante: quello che viene allevato in batteria non siamo noi, è la vita pubblica. Le persone vengono divise in categorie sempre più piccole, isolate le une dalle altre, e alla fine della comunità non resta niente.
La domanda da cui parte è banale, ed è per questo che dà fastidio: chi ha deciso che dovessimo vivere così, chiedendo a un chatbot ogni volta che ci serve una risposta? Su un punto la sua obiezione è utile anche a chi non la segue fino in fondo. L’idea che l’IA sia inevitabile, dice, è una premessa falsa, ed è la stessa che è stata usata per il personal computer, per internet e per i social network: ogni volta ci era stato promesso che la democrazia ne sarebbe uscita rafforzata, e ogni volta non si è visto.
In definitiva, questa settimana la domanda di Lepore ha avuto una risposta, e non è arrivata da un manifesto da 6.500 parole né da un rapporto sul rischio di perdere il controllo dei modelli. L’ha data Sidney Bonilla, che deve tenere in piedi una sezione sindacale e ha detto ai giornali che da quelle commesse dipendono i suoi iscritti. Nessuno ha deciso che dobbiamo vivere così. È solo che chi potrebbe fermarlo ci mangia, e chi non ci mangia non è stato invitato al tavolo.
