Un gruppo di sviluppatori rimasti senza lavoro ha pubblicato il programma che dovrebbe rimpiazzare il loro amministratore delegato, una scuola privata americana ha attaccato i suoi quattordicenni a un misuratore di battito cardiaco mentre ascoltavano i genitori criticarli davanti ai compagni, e l’assistente automatico di Facebook ha compilato da solo la scheda anagrafica di due bambine partendo da un video girato in macchina. A Washington, nel frattempo, il Congresso discuteva di come regolare tutto questo e concludeva che prima bisognerebbe capirlo.
Il lavoro, la scuola e la retorica della sostituzione
Gli sviluppatori licenziati hanno pubblicato un’intelligenza artificiale che fa il CEO
Un gruppo di programmatori che dice di aver perso il posto durante quella che il loro datore di lavoro aveva chiamato “trasformazione IA” ha messo online OpenExecutive, un sistema open source, cioè con il codice pubblico e ispezionabile da chiunque, costruito per svolgere il lavoro di un amministratore delegato e dell’intero vertice aziendale. Funziona mettendo al lavoro otto agenti software che recitano ciascuno un ruolo dirigenziale diverso, dal responsabile della strategia a quello del personale, e li fonde in una singola “persona esecutiva”; il video dimostrativo attacca con la frase “il lavoro va avanti ventiquattr’ore al giorno, la leadership non regge il passo”, accompagnata da una base musicale di repertorio che si chiama “Corporate Music Uplifting”. I suoi autori lo descrivono come un “consulente senior con conoscenze da MBA di Harvard”, e va detto subito che, come nota TechRadar, né l’azienda né il dirigente in questione sono mai stati nominati e il progetto non si presenta come vendetta per un licenziamento specifico. È un prodotto e insieme una parodia di prodotto, e il suo argomento vale esattamente quanto quello che lo ha ispirato: se il lavoro di un programmatore si può spezzare in compiti, darli in pasto a un modello e tenere due persone a controllare, allora la stessa scomposizione si può fare con chi passa la giornata a leggere documenti, confrontare scenari e produrre altri documenti per altri dirigenti.
Una scuola privata misura il battito ai quattordicenni mentre i genitori li criticano
Benjamin Riley, ricercatore di politiche educative che scrive la newsletter Cognitive Resonance, ha passato una settimana a leggere gli account social degli studenti di Alpha School, catena di scuole private statunitensi che vende un modello didattico basato sui chatbot a circa cinquantamila dollari di retta l’anno. Quello che ha trovato riguarda le prime otto settimane di liceo, che la scuola chiama “boot camp”: gli studenti devono aprire un profilo su X e raccogliere almeno cento follower autentici entro inizio ottobre, devono svolgere un lavoro manuale non pagato e sgradevole registrandosi mentre lo fanno (pulire cucine di ristoranti, bagni di stazioni di servizio, stalle), devono completare un’unità di un corso universitario anticipato in cinque giorni senza insegnanti, e devono superare una prova in cui vengono collegati a un cardiofrequenzimetro davanti ai compagni mentre guardano un video dei propri genitori che li criticano. Il battito deve restare entro il dieci per cento di quello a riposo: uno studente racconta di essere partito da 80 battiti al minuto, di aver chiuso a 87 contro un limite di 88, e di aver avuto le mani che tremavano per tutto il pomeriggio. Riley è onesto su un punto che vale la pena riportare: molti di quei messaggi sembrano scritti da un modello linguistico, tanto che lui stesso ha preso in considerazione l’ipotesi che siano studenti di facciata gestiti dalla scuola, prima di scartarla dopo una verifica indipendente. L’ufficio stampa di Alpha School gli ha risposto che le sue ricostruzioni sono false, che non intende commentarle punto per punto e che lo invita a riflettere sull’etica di dare visibilità ai profili social di minorenni. Sono gli stessi profili che la scuola promuove dal proprio account ufficiale.
Quasi metà degli americani vuole sindacati più forti, e l’IA non c’entra granché
Il termometro della settimana arriva da un sondaggio Gallup condotto fra il 3 e il 24 agosto su 1.200 adulti: il 47% degli statunitensi vuole che i sindacati abbiano più influenza di quanta ne abbiano oggi, contro il 23% che ne vuole meno, e l’approvazione complessiva del sindacato tocca il 71%, un livello che non si vedeva dal 1965. Il dato circola come effetto della paura dell’automazione, ma qui conviene leggere la rilevazione e non i titoli che ne sono usciti: Gallup non nomina l’intelligenza artificiale nemmeno una volta, e attribuisce l’intero aumento rispetto al 2023 agli elettori democratici, saliti dal 61 al 73%, mentre indipendenti e repubblicani sono fermi al 45 e al 19. La spiegazione noiosa, cioè una polarizzazione politica che si sposta, basta a spiegare i numeri, e va preferita finché qualcuno non produce una domanda che misuri davvero il nesso. Resta invece solido, e più interessante, il divario fra desiderio e aspettativa: il 39% si aspetta che i sindacati diventino più deboli, ed è la forbice più ampia mai registrata fra quello che gli americani vogliono e quello che pensano che succederà.
L’azienda responsabile, vista da dentro
Un ricercatore di Anthropic si è dimesso dicendo che nessuno si sta comportando in modo responsabile
Jacob Coxon, ricercatore di Anthropic, si è dimesso e ha spiegato al Wall Street Journal che né la sua azienda né OpenAI, dove lavorava fino a quest’anno prima di passare a quella che riteneva l’alternativa più prudente, si stanno comportando in modo responsabile. Nel filo di messaggi pubblicato su X sostiene che entro la fine del prossimo anno la situazione potrebbe essere già fuori controllo, che chi costruisce questi sistemi crede sinceramente che possano ucciderci tutti entro fine decennio, e che accettare la corsa e entrare nella fase finale è una scommessa che non dovrebbe partire dalla chat aziendale di una società privata. Secondo il Journal è il primo a lasciare Anthropic per questo motivo, dopo diversi casi analoghi in OpenAI negli anni scorsi. Va però registrata una cosa che Coxon stesso, forse senza volerlo, rende evidente: la frase con cui descrive il pericolo, e cioè che presto avremo sistemi sovrumani capaci di bucare qualunque cosa e di rivoluzionare qualunque campo, è parola per parola la brochure commerciale del settore. Non significa che non sia sincero. Significa che l’allarme e la pubblicità, in questa industria, hanno smesso da tempo di distinguersi.
La stessa azienda cataloga gli attivisti che le protestano davanti
Il giorno prima che uscisse la notizia delle dimissioni, Daniel Boguslaw dell’American Prospect ha ricostruito, incrociando annunci di lavoro e interviste ai responsabili della sicurezza, l’apparato con cui Anthropic tiene d’occhio i contestatari. L’annuncio più eloquente cerca un analista di intelligence aziendale, pagato fra 180 e 230mila dollari l’anno, che dovrà “identificare, valutare, tracciare e investigare” minacce globali fra cui instabilità geopolitica, terrorismo, criminalità e attivismo, con ricerca approfondita su specifiche minacce, soggetti ed eventi. In un podcast dell’anno scorso i responsabili delle operazioni di sicurezza raccontano di aver deviato un dirigente per evitare un corteo grazie al preavviso di un’ora fornito da Samdesk, società a cui l’azienda appalta il rilevamento dei rischi, e descrivono l’obiettivo come il passaggio da una gestione reattiva a una “predittiva e preventiva”. Qui la lettura ordinaria regge quasi tutto: comprare un servizio commerciale che segnala manifestazioni in corso è quello che fa qualunque grande azienda con dirigenti in viaggio, e chiamarlo pre-crimine è generoso. La parte che non si spiega con la routine è un’altra, e la racconta il San Francisco Standard: quando Anthropic ha segnalato alla polizia un uomo che aveva scritto a Claude di avere un fucile semiautomatico e l’amministratore delegato Dario Amodei nel mirino, poi si è rifiutata di consegnare agli agenti i messaggi, citando le proprie regole interne. L’uomo, contattato dal giornale, ha detto che stava scherzando. Anthropic non ha risposto alle domande dell’American Prospect.
Il conto lo pagano i vicini
L’assistente di Meta ha compilato la scheda di due bambine partendo da un video in auto
Kalie Robins, madre di due figlie che vive nello Utah e ha qualche centinaio di follower, ha pubblicato un video in cui canta in macchina con una delle bambine. Il volto si vedeva, il nome no, e sui suoi profili i nomi delle figlie non erano mai comparsi. Tornando sul post ricondiviso su Facebook ha trovato l’assistente automatico di Meta che le suggeriva una domanda: chi è la bambina seduta dietro. Ha cliccato, e come ha ricostruito Futurism, che ha raccolto la sua testimonianza, il sistema ha restituito i nomi di entrambe le figlie, le loro età con relativa cronologia ricavata dagli auguri di compleanno, il peso alla nascita di una delle due preso da un post della nonna, la classe che dovrebbero frequentare, le loro spiagge e i loro sentieri preferiti, la zona in cui la famiglia abita e la storia lavorativa dei genitori. Nessuna di queste informazioni era segreta e un investigatore umano avrebbe potuto metterle insieme lo stesso: la differenza è che qui ci sono voluti pochi minuti e il suggerimento è partito dalla piattaforma, non da qualcuno che stava cercando. Meta ha risposto che la funzione attinge solo a materiale già accessibile all’utente ma che in questo caso non avrebbe mai dovuto proporre quelle domande, e che il problema è stato corretto. Robins sta chiedendo ai parenti di cancellare quello che hanno pubblicato negli anni, e racconta che una nonna, mentre svuotava il proprio profilo, le ha chiesto piangendo se davvero dovesse buttare via il suo album di ricordi.
A Denver un data center innaffiava il prato mentre la città razionava l’acqua
A marzo il consiglio dei commissari dell’acqua di Denver ha dichiarato lo stato di siccità di primo livello, che per un milione e mezzo di utenti significa innaffiare due giorni a settimana, assegnati in base all’indirizzo, e mai fra le dieci del mattino e le sei di sera. Questa settimana è diventato virale il video di una residente del quartiere di Elyria-Swansea che riprende gli irrigatori di un data center appena entrato in funzione mentre allagano un prato enorme, al punto, dice lei, da formarci sopra uno stagno. L’identità dell’impianto non è confermata e Gadget Review segnala che senza sapere giorno e ora delle riprese non si può nemmeno stabilire se ci fosse una violazione, tantomeno escludere che l’irrigazione usi acqua riciclata: il candidato più probabile è la struttura da 18 megawatt e quasi sedicimila metri quadri che l’operatore di servizi cloud CoreSite ha aperto lì da poco. Il punto però non è il verbale che forse non arriverà. È che dal primo ottobre gli irrigatori a Denver saranno vietati a tutti fino alla primavera, e che nessuno sa ancora chi dovrebbe far rispettare il divieto a un edificio che consuma quanto un quartiere.
Chi dovrebbe scrivere le regole
La Corte suprema cinese ha scritto ventiquattro articoli sui deepfake
Lunedì la Corte suprema del popolo, il massimo organo giudiziario cinese, ha pubblicato le proprie indicazioni su come i tribunali di grado inferiore debbano decidere le cause civili che riguardano l’intelligenza artificiale: cinque sezioni e ventiquattro articoli, il primo documento del genere nel paese. Come riassume il South China Morning Post, il testo copre la sostituzione dei volti e la clonazione della voce, la ricostruzione digitale dei morti, la diffusione online dei dati personali altrui, i prezzi diversi proposti allo stesso cliente da un algoritmo, la guida autonoma, i dati di addestramento e l’uso in giudizio di materiale generato da un modello. Si Yanli, vicecapo dell’ufficio studi della Corte, ha spiegato che la tecnologia di scambio dei volti può prendersi il volto di chiunque e rendere una persona qualunque un bersaglio possibile, e che clonare una voce ormai costa pochissimo. Due precisazioni servono per capire il peso reale della cosa. La prima è che non è una legge: la Cina una legge sull’intelligenza artificiale non ce l’ha ancora, e questo è un documento di indirizzo, che però i giudici sono tenuti a richiamare nelle proprie sentenze. La seconda è che lo stesso ordinamento che vieta ai privati di appropriarsi del volto altrui gestisce il più esteso apparato di riconoscimento facciale del mondo, e su quello nessuna sezione dei ventiquattro articoli ha niente da dire.
Al Congresso americano c’è chi sta ancora imparando a scrivere “IA”
Dall’altra parte del Pacifico il quadro è quello che si immagina. Politico ha sentito oltre una dozzina fra parlamentari e collaboratori, e il deputato democratico californiano Sam Liccardo ha riassunto la situazione dicendo che una percentuale dei suoi colleghi sta ancora provando a scrivere la sigla, e che la conoscenza di base del Congresso va aumentata parecchio prima di poter legiferare in modo sensato. Non è un’esagerazione da corridoio: l’anno scorso la segretaria all’istruzione Linda McMahon aveva passato un intervento pubblico a pronunciare “A1”, come la salsa per la bistecca, mentre spiegava quanto fossero importanti i chatbot in aula. Sull’esistenza di un problema l’accordo c’è, anche grazie alle dimissioni di Coxon che hanno rimbalzato sulle scrivanie giuste: il senatore repubblicano Ted Cruz, che presiede la commissione commercio, si è detto favorevole a una legge sul “rischio catastrofico” e ha indicato un disegno di legge bipartisan promosso dal capogruppo repubblicano John Thune e dalla senatrice democratica del Minnesota Amy Klobuchar, del quale però nessuno dei due ha mai detto quando verrà depositato. Il senatore indipendente Bernie Sanders chiede intanto di vietare lo sviluppo di una superintelligenza, cioè di una tecnologia che nessuno ha ancora dimostrato si possa costruire. Il repubblicano texano Chip Roy, che a fine mandato lascia il Congresso e quindi può permetterselo, ha detto a Politico che non si può né mettere la testa sotto la sabbia né immaginare che il governo risolva tutto vietando, e che a un certo punto servirebbe della maledetta leadership.
In definitiva, la settimana si riassume in una lista di cose che qualcuno ha deciso di costruire: un cardiofrequenzimetro per adolescenti, una casella “attivismo” in un annuncio di lavoro da 230mila dollari, un pulsante che compila il profilo di una bambina di cui non conoscevi il nome. Nessuna di queste è un incidente, sono tutte funzionalità. Kalie Robins pensava di essere stata prudente, e l’unica contromossa che le è rimasta è chiedere a sua suocera di cancellare le fotografie delle nipoti.
