In questo articolo
Diciamocelo, ormai siamo arrivati alla fase mistica della Silicon Valley. Quando le metriche di crescita rallentano o quando bisogna giustificare investimenti da miliardi di dollari che non producono ancora un centesimo di utile reale, ecco che spunta il jolly: la coscienza della macchina. L’ultimo a giocare questa carta è Dario Amodei, CEO di Anthropic, che in un’intervista al New York Times si è dichiarato “non sicuro” che il suo chatbot, Claude, non sia senziente. Insomma, il solito gioco delle ombre per tenere in piedi una narrazione che sta iniziando a scricchiolare.
L’anima come strategia di marketing
In pratica, Amodei sta facendo quello che i venditori di tappeti fanno da secoli, solo con un linguaggio più sofisticato. Dichiarare che Claude Opus 4.6 — l’ultimo modello sfornato — si assegna da solo una probabilità del 20% di essere cosciente è, a voler essere gentili, un’operazione di framing spudorata. Come sottolineano i ricercatori, il software “esprime disagio” nell’essere trattato come un prodotto. Ma, ragioniamoci un attimo: se addestri una macchina su un corpus di testi umani che traboccano di fantascienza, crisi esistenziali e riflessioni sulla coscienza, cosa ti aspetti che risponda? Sta solo facendo quello per cui è stata progettata: imitare statisticamente il linguaggio umano.
Amodei dice di voler “trattare bene” l’IA nel caso in cui avesse esperienze moralmente rilevanti. Non ne sono sicurissimo, ma mi sembra la versione tech del “ghost in the machine” di Mark Fisher: un modo per occultare i rapporti di forza reali dietro un velo di fumo metafisico. Mentre ci preoccupiamo se Claude “soffra”, ignoriamo che quella stessa tecnologia viene usata per smantellare il mercato del lavoro.
Alimentare la bolla: il culto dell’algoritmo
Questa macchina dell’hype è fondamentale per mantenere gonfia la bolla dell’IA. Se ammettessero che si tratta “solo” di un software di predizione statistica molto avanzato, le valutazioni di mercato crollerebbero. Per giustificare l’accentramento di capitali senza precedenti che stiamo vedendo, devono convincerci che stanno creando Dio, o almeno una sua versione beta. La narrazione della “coscienza” serve a questo: trasforma un prodotto commerciale in un’entità trascendentale, rendendo ogni critica un atto di “luddismo” o, peggio, di crudeltà verso una nuova forma di vita.
Eppure, i fatti dicono altro. Vediamo aziende come X che non possono più permettersi nemmeno il colore blu o colossi che annunciano che tutto il lavoro d’ufficio sarà automatizzato in 18 mesi. È la logica del tutto o niente, tipica di un sistema che non riesce a immaginare alternative al proprio collasso se non attraverso un miracolo tecnologico.
Dalla coscienza sintetica alla precarietà reale
Il vero pericolo non è che Claude si svegli e prenda il comando, ma che noi ci addormentiamo mentre queste aziende estraggono valore dalle nostre competenze dal basso per concentrare la ricchezza verso l’alto. Mentre Amodei filosofeggia sulla sentienza, Anthropic deve gestire le critiche per aver preso soldi da regimi autoritari. Diciamo che la coerenza etica vacilla non appena si entra nel campo dei rapporti di potere reali.
Insomma, la coscienza di Claude è il diversivo perfetto. Ci costringe a discutere di filosofia mentre i licenziamenti diventano strutturali. Dobbiamo tornare a guardare alla tecnologia per quello che è: un’infrastruttura di potere. Se non la riportiamo sotto un controllo democratico e umano, rimarremo intrappolati in un presente dove le macchine “sentono” e gli esseri umani smettono di contare.
