In questo articolo
C’è un paradosso affascinante e inquietante nel cuore della Silicon Valley: le stesse persone che stanno costruendo l’Intelligenza Artificiale sembrano essere le più terrorizzate da essa. O almeno, così dicono. Alla recente conferenza NeurIPS a San Diego, il clima era saturo di scenari apocalittici degni di un film di James Cameron: estinzione umana, macchine che prendono il controllo, virus mortali scatenati da algoritmi ribelli.
Ma c’è il sospetto che questa ansia performativa serva a nascondere qualcosa di molto più banale e immediato. Come ha notato Alex Reisner su The Atlantic, mentre gli scienziati discutono di Skynet, il mondo reale sta già affrontando problemi molto concreti che vengono sistematicamente ignorati.
L’apocalisse fantascientifica vs la noia reale
È più eccitante parlare della fine del mondo che della fine del welfare, vero? Yoshua Bengio, uno dei “padrini” dell’AI, ha lanciato l’allarme su un futuro distopico in cui le IA potrebbero ingannare i loro creatori. Scenario terribile, certo. Ma, come sottolinea Reisner, Bengio non ha menzionato i deepfake che stanno già avvelenando il dibattito pubblico, o la crisi di salute mentale legata alla dipendenza dai chatbot.
Questi problemi sono qui, ora. Non tra 10 o 20 anni. Eppure, nel discorso dei “grandi”, sembrano note a margine. Zeynep Tufekci, sociologa intervenuta alla conferenza, ha centrato il punto: “Continuo a vedere gente che discute di estinzione umana invece che di disoccupazione di massa”.
I “padrini” dell’AI e il senso di colpa
Bengio non è solo. Geoffrey Hinton, un altro pioniere, ha lasciato Google pentendosi del suo lavoro e paragonandosi a Oppenheimer. Sam Altman, CEO di OpenAI, ammette di prepararsi al “doomsday” (la fine del mondo) accumulando provviste. C’è un narcisismo tragico in tutto questo: l’idea che ciò che stanno costruendo sia così potente, così divino, da poter distruggere tutto. È un modo perverso di auto-aggrandimento.
Una narrazione distopica che fa comodo al business
Mark Fisher, nel suo Capitalist Realism, ci ha insegnato a guardare oltre la superficie delle narrazioni culturali. Perché questa ossessione per l’AGI (Intelligenza Artificiale Generale) e l’apocalisse? Forse perché distrae dalla realtà economica. Se convinci il mondo che stai costruendo un dio (o un demone), attiri investimenti colossali. Se dici che stai costruendo un software statistico che automatizzerà il servizio clienti e genererà spam, beh… è meno sexy, e soprattutto solleva questioni sindacali e normative immediate.
I veri rischi sono già qui (e sono noiosi)
Il vero pericolo non è un robot che ci stermina, ma un algoritmo che ci nega un mutuo, un posto di lavoro o l’assistenza sanitaria basandosi su bias razzisti o di classe. È l’inquinamento informativo, la perdita di posti di lavoro creativi, l’erosione della fiducia nella realtà condivisa (pensate alla causa di Trump contro la BBC).
La fantascienza sta sconfiggendo la scienza nel dibattito pubblico. E mentre guardiamo il cielo aspettando Terminator, ci stiamo perdendo il terreno che frana sotto i nostri piedi.
