In questo articolo
Diciamo che il nuovo sindaco di New York, Zohran Mamdani, non ha perso tempo. Dopo solo un mese dal suo insediamento, ha deciso di staccare la spina a uno dei simboli più eclatanti della tecnocrazia inconcludente della precedente amministrazione Adams: il famigerato chatbot MyCity. In pratica, una macchina da “allucinazioni” legali che costava ai cittadini una fortuna.
Un mese di pulizie a New York City
Durante una conferenza stampa per affrontare il buco di bilancio da 12 miliardi di dollari della Grande Mela, Mamdani ha puntato il dito contro i costi occulti delle “follie digitali”. Il chatbot, presentato come una rivoluzione per le piccole imprese, è stato definito dal sindaco “funzionalmente inutilizzabile”. Insomma, un giocattolo rotto che ha drenato risorse preziose senza offrire alcun servizio reale.
Quando l’algoritmo ti dice di violare la legge
Ma non era solo una questione di soldi. Il problema vero, diciamo pure sistemico, era la qualità dei consigli. Un’indagine di The Markup ha rivelato che il bot, basato su tecnologia Microsoft Azure, dispensava consigli apertamente illegali. Alla domanda se un datore di lavoro potesse trattenere una parte delle mance dei dipendenti, il bot rispondeva con un secco “sì”, violando palesemente le leggi sul lavoro. Per non parlare del fatto che suggeriva ai negozianti di rifiutare i contanti, ignorando una legge cittadina del 2020 che vieta i negozi “cashless”.
Mezzo milione di dollari per un’allucinazione
Sviluppare questa “bomba a orologeria legale” è costato oltre 600.000 dollari. Come ho spesso sottolineato su www.dariodeleonardis.me, questo è il classico esempio di come l’IA venga venduta come soluzione magica per snellire la burocrazia, finendo invece per creare nuovi strati di caos e ingiustizia sociale. Invece di investire in personale umano competente, si è preferito dare in pasto le normative cittadine a un modello statistico incapace di distinguere un diritto da un abuso.
Oltre il glitch: il realismo delle piattaforme inutili
L’IA, in questo caso, è stata usata come una patina di innovazione per coprire un vuoto di visione politica. Quando la tecnologia smette di essere uno strumento e diventa un costo privo di utilità, la scelta di Mamdani non è solo pragmatica, è necessaria per proteggere i cittadini più vulnerabili, come i lavoratori a cui venivano virtualmente scippate le mance dall’algoritmo.
Insomma, New York ha deciso che è meglio un sito web che funziona rispetto a un chatbot che mente. Forse è ora che anche altre amministrazioni inizino a fare lo stesso ragionamento.
