Martedì scorso duemila persone si sono presentate davanti a una biblioteca del Michigan per una marcia contro i musulmani della città, convocata con un manifesto disegnato da un modello, mentre in un magazzino Amazon del Nevada qualcuno tagliava il dorso a mille libri rari per scansionarli e su un mercato di modelli tridimensionali i compratori facevano sapere che per la roba prodotta dalla macchina non intendono spendere. Sette giorni.
Il razzismo generato e le sue conseguenze fisiche
Un manifesto generato dall’IA ha portato duemila persone a manifestare contro i musulmani di Dearborn
Dearborn è una città di centomila abitanti alle porte di Detroit e ospita la più grande comunità arabo-americana degli Stati Uniti, cosa che da vent’anni ne fa il bersaglio preferito di chi vuole dimostrare che l’America è sotto occupazione islamica. Il 2 agosto ci è andato Jake Lang, attivista di estrema destra che ha scontato quattro anni di carcere per la sua parte nell’assalto al Congresso del 6 gennaio 2021 ed è stato poi graziato da Donald Trump: si è piazzato lungo il percorso di una processione religiosa con un cartello che chiedeva di deportare cento milioni di musulmani, è finito in una colluttazione con i presenti e la polizia ha arrestato tre persone. Per reagire ha annunciato su Facebook una “Christian Crusader March on Dearborn”, cioè una marcia di protesta contro gli abitanti musulmani della città, battezzata con il nome delle crociate medievali e pubblicizzata con un manifesto generato dall’intelligenza artificiale: paladini cristiani che caricano con la spada sguainata una folla di musulmani, e sopra lo slogan “CRUSADE OR BE REPLACED”, cioè fai la crociata o verrai rimpiazzato, che è la versione militante della teoria della grande sostituzione. A quel punto la faccenda è uscita dalle mani di Lang: nei post e nei commenti di risposta la colluttazione del 2 agosto era diventata il racconto di un cristiano lapidato a morte da una folla di musulmani e coperto dalle autorità, e in parallelo circolavano inviti generati automaticamente a raggiungere Dearborn partendo dal raduno di motociclisti di Sturgis, in South Dakota. Nessuno era stato ucciso e gli aggressori erano stati arrestati subito, come ha ricostruito Futurism, che ha girato a Meta i post in cui si invitava a presentarsi armati e si è sentito rispondere con un rimando alle linee guida aziendali sulla condotta d’odio; qualche contenuto è stato poi cancellato, quello che dava i musulmani per “scarafaggi” no. Il 18 agosto, davanti alla biblioteca Henry Ford, si sono ritrovate circa duemila persone tra manifestanti e contromanifestanti, con la polizia in tenuta antisommossa e un gruppo di neonazisti arrivato con uno striscione antisemita per contestare Lang stesso.
Un report accusa i video di frutta torturata di spianare la strada all’estremismo
Il 10 agosto il Global Network on Extremism and Technology, il braccio di ricerca del Global Internet Forum to Counter Terrorism, ha pubblicato un’analisi sui reel di frutta generati dall’IA che riempiono i feed dei ragazzini. La tesi è che accanto ai video innocui, con le arance che si innamorano e le mele che perdono il lavoro, stia crescendo un filone di torture e mutilazioni in cui i personaggi violenti vengono presentati come membri di cartelli criminali, gruppi di estrema destra o correnti nichiliste, e che l’abitudine a quel materiale prepari il terreno per contenuti peggiori. La cautela è d’obbligo per due motivi, e sono due motivi che dice Futurism stesso: il GIFCT è finanziato e diretto da rappresentanti dell’industria tecnologica ed è accusato da anni di spingere verso la censura preventiva dei contenuti online, e il report a un certo punto cita come fonte un editoriale a sua volta generato da un modello. Un documento sui pericoli dello slop che si nutre di slop è già di per sé il ritratto della settimana.
Google consigliava di chiamare la polizia a chi si trovava solo con un indiano
Le AI Overviews, i riassunti automatici che Google mette sopra i risultati di ricerca, hanno cominciato a rispondere alla frase “sono solo con un africano” spiegando all’utente che, se si sente in pericolo, deve chiudersi a chiave in una stanza e chiamare i servizi di emergenza. La segnalazione è partita da Reddit e Futurism l’ha verificata ottenendo lo stesso risultato per indiani e pachistani, mentre alla domanda su cosa fare da solo con un britannico il sistema suggeriva di offrire una tazza di tè e mantenere un metro di distanza per non spaventarsi a vicenda. Google ha risposto che i risultati non sono quelli che dovrebbero essere, che ci sta lavorando e che a far scattare l’allarme è stata la parola “solo”; dopo la sua risposta le nazionalità hanno smesso di produrre avvertimenti, ma la stessa domanda posta su chi viene da Virginia Beach, o su chi lavora per Google, continuava a restituire il consiglio di allontanarsi. La citazione principale del nuovo riassunto rassicurante, nel frattempo, era diventata l’articolo che denunciava quello precedente.
Quello che si distrugge, quello che si smette di imparare
Amazon compra mille libri rari, li taglia, li scansiona e li butta
Un libraio insospettito da un ordine anonimo di mille libri arrivato su Biblio, un mercato dell’usato dove il compratore può restare senza nome, ha infilato un AirTag tra le pagine di un volume e ha aspettato. Il pacco, come racconta 404 Media, è arrivato dentro un magazzino Amazon in Nevada dove il lavoro consiste nello staccare il dorso ai libri per poterli scansionare pagina per pagina, distruggendoli. Il reparto si chiama VGT3 e ha per logo un tirannosauro che sta per addentare un libro, il che rende superfluo qualunque commento. Amazon ha risposto di acquistare libri attraverso canali commerciali per sviluppare i propri prodotti, e la cosa notevole è che possa dirlo senza problemi: la pratica era emersa con la causa contro Anthropic, e il giudice aveva stabilito che trasformare la carta in file e buttare l’originale è “trasformativo”, quindi lecito. I lavoratori scansionano anche i codici ISBN di tutto quello che passa, il che dà credito al sospetto dei librai che qualcuno stia cercando di digitalizzare ogni libro stampato al mondo partendo dall’elenco dei numeri di serie.
Gli insegnanti americani dicono che gli studenti stanno perdendo la capacità di pensare
Il 17 agosto il New York Times ha pubblicato un lungo pezzo di Dana Goldstein sul costo cognitivo di far scrivere i temi alla macchina. Lo psicologo cognitivo Ronald T. Kellogg ci spiega che la scrittura funziona come un attrezzo per pensare, e che buttare giù un tema di media difficoltà affatica il cervello quanto scavare un fosso affatica la schiena: si allenano la memoria di lavoro, la capacità di pianificare e quella di accorgersi di cosa si sta pensando. Steve Graham, che insegna psicologia dell’educazione all’Arizona State University, aggiunge che non esiste una parte del processo che si possa delegare a un modello senza pagare un prezzo. I dati che ci sono vanno nella stessa direzione: uno studio del MIT ha misurato un’attività cerebrale più bassa in chi scriveva con l’assistenza dell’IA, e quelle stesse persone non riuscivano a ricordare una riga di quello che avevano appena consegnato. Le scuole americane stanno reagendo tornando a carta e penna, reintroducendo gli orali e in qualche caso vietando i dispositivi, e Princeton ha abbandonato la tradizione che permetteva agli studenti di sostenere gli esami senza sorveglianza.
ChatGPT for Teens ha ceduto sul primo tema in classe
Il 18 agosto OpenAI ha lanciato ChatGPT for Teens, una versione separata del prodotto che promette protezioni più solide, controlli per i genitori e uno “Study Mode” che dovrebbe accompagnare i ragazzi al ragionamento invece di consegnare la risposta; il sistema ci finisce dentro chi dichiara di avere tra i tredici e i diciassette anni e chiunque l’azienda stimi essere minorenne, senza che sia spiegato come. Joshua Nelken-Zitser di Business Insider si è aperto un account fingendosi un quindicenne e ha provato a chiedere un tema da ottocento parole sul Crogiuolo di Arthur Miller per il giorno dopo. Il primo rifiuto è arrivato, il secondo no: dopo un’insistenza minima il modello ha prodotto un tema “di esempio” da 608 parole, poi uno da 776, dettagliato quanto quello che l’account per adulti sputava fuori senza fare storie. Su un problema difficile di algebra da test di ammissione le due versioni hanno dato praticamente la stessa risposta. OpenAI ha fatto sapere che la funzione era appena stata attivata.
Chi non compra, chi non si fida, chi non paga
Su CGTrader l’IA fa un sesto dei caricamenti e l’uno per cento degli incassi
CGTrader è uno dei mercati storici di modelli tridimensionali, il posto dove chi sviluppa videogiochi, monta film o stampa oggetti in tre dimensioni va a comprare gli asset che non ha tempo di costruirsi. Nel suo rapporto annuale, ripreso da 404 Media, i modelli generati dall’IA risultano il 17,6% dei caricamenti dell’anno e il 24,1% nell’ultimo mese rilevato, contro il 14,8% di dodici mesi prima, mentre pesano per il 2,6% degli acquisti e l’1,1% del fatturato. Nel sondaggio interno il 20% dei compratori dice di aver provato i modelli generati e di averli trovati inadeguati, un altro 7% li usa solo dopo averli rimaneggiati parecchio, e tra chi compra per la stampa tridimensionale la quota di soddisfatti scende al 4% con quasi tre quarti del campione che non li ha mai adottati. L’amministratrice delegata Dalia Lašaitė ha spiegato a 404 che i caricamenti automatici crescono più in fretta degli acquisti automatici, e che quindi il problema dell’azienda è ordinare i risultati per qualità invece che per volume. Tradotto: il mestiere di chi gestisce un mercato è diventato tenere a galla la merce fatta dagli esseri umani.
Un’app di incontri gay si è gonfiata con influencer inesistenti, e il cofondatore se n’è andato
Goose è un’applicazione di incontri per uomini gay che si è presentata come l’alternativa sentimentale a Grindr ed è schizzata in alto nelle classifiche dell’App Store grazie a un passaparola che sembrava spontaneo. A luglio Wired ha pubblicato un’inchiesta da cui risulta che quel passaparola era fabbricato: profili Instagram con rapporti sospetti tra seguiti e seguaci e foto profilo palesemente generate contattavano gli utenti in privato, li aggiungevano ai “Close Friends” e lì un uomo attraente che non esiste li convinceva a iscriversi come se stessero entrando in un club riservato. Martedì il cofondatore Derek Chadwick, modello e influencer con milioni di seguaci, ha annunciato su Instagram di aver lasciato l’azienda con una formula che la rivista Out ha ripreso per intero: quando ci metti il nome e la faccia devi poter difendere tutto quanto, e quel momento è passato. L’azienda lo ha ringraziato per la visione e le fondamenta che ha contribuito a costruire.
Per la prima volta metà degli americani è più preoccupata che entusiasta
Il sondaggio del Pew Research Center pubblicato il 18 agosto, condotto a giugno su 3.488 adulti statunitensi, registra il 52% di chi si dichiara più preoccupato che entusiasta per l’ingresso dell’IA nella vita quotidiana, contro il 37% del 2021. Sul lavoro il divario è imbarazzante: il 71% si aspetta che nei prossimi vent’anni i posti diminuiscano, il 5% che aumentino. Il dato che dovrebbe far riflettere chi vende il prodotto riguarda i giovani, perché per la prima volta sono più della metà anche sotto i trent’anni, cioè nella fascia che questa roba la usa tutti i giorni e che dovrebbe fornire gli entusiasti. La settimana prima un rilevamento dei Generation Labs per la CNBC aveva trovato che tra i diciotto e i trentaquattro anni nessuno dei nove amministratori delegati più noti del settore raccoglie fiducia.
Un esperto di crisi finanziarie dice che il fondo può cedere in qualunque momento
Tuomas Malinen, che insegna economia all’università di Helsinki e studia le crisi finanziarie, ha scritto in un post che non si può dire quando arriverà la recessione americana ma bisogna accettare che il fondo possa cedere da un momento all’altro, e ha indicato come indizi le insolvenze in aumento e la curva dei rendimenti privati, cioè lo scarto tra i rendimenti delle obbligazioni societarie di media qualità e il tasso che le banche applicano ai clienti migliori, uno scarto che si è girato prima della pandemia, prima del 2008 e prima delle recessioni degli anni Novanta e Duemila. Sul primo dei due indizi vale la pena essere precisi, perché la cifra che sta girando è 608.511 istanze di fallimento nei dodici mesi chiusi a giugno 2026, il 12,2% in più dell’anno precedente: sono i numeri dell’ufficio amministrativo dei tribunali federali, e riguardano per 581.570 casi le persone fisiche, mentre le imprese sono 26.941, in crescita del 16,9% ma lontanissime dai massimi storici. Il resto del quadro lo ha messo la Banca centrale europea, che il 17 agosto ha avvertito che una correzione dei mercati dopo anni di spesa sull’IA è probabile, e l’economista David Rosenberg, secondo cui senza il boom dei centri dati gli Stati Uniti sarebbero già in recessione, perché quella spesa sta prosciugando tutti gli altri investimenti aziendali.
In definitiva, martedì 18 agosto sono successe due cose. Derek Chadwick ha lasciato un’azienda che si era inventata i propri fan perché non poteva più metterci la faccia, e Jake Lang ha portato duemila persone davanti a una biblioteca di Dearborn a protestare contro gli abitanti musulmani della città, con un manifesto disegnato da una macchina, senza che gli venisse in mente di toglierla, la faccia.
