In questo articolo
C’è una sorta di giustizia poetica quando un sistema progettato per ingannare finisce per essere ingannato a sua volta. È successo a Doublespeed, una startup della Silicon Valley generosamente finanziata da Andreessen Horowitz (uno dei giganti del venture capital), che prometteva di “rivoluzionare” il marketing sui social media. Come? Creando influencer che non esistono.
La notizia, riportata in esclusiva da 404 Media, svela un retroscena che molti sospettavano ma pochi avevano visto così chiaramente: un hacker è riuscito a penetrare nel backend dell’azienda, rivelando una gigantesca “phone farm” — una distesa di telefoni collegati in rete — utilizzata per gestire centinaia di account TikTok generati dall’Intelligenza Artificiale.
Fabbriche di bugie digitali
Immaginate centinaia di smartphone allineati su scaffali metallici, che ronzano e lampeggiano all’unisono, controllati da remoto. Non ci sono dita umane a scorrere gli schermi, ma script automatizzati. Questa è l’infrastruttura materiale dietro l’effimera “magia” degli influencer AI. Doublespeed vendeva questo servizio: la capacità di inondare TikTok con volti sintetici e voci clonate per promuovere qualsiasi cosa, dalle app di incontri agli integratori dubbi.
Il caso più eclatante emerso dal leak è quello di “Chloe Davis”, un account apparentemente gestito da una ragazza appassionata di fitness. Peccato che Chloe non esista. I suoi 200 video, in cui promuove con entusiasmo un rullo per massaggi, sono frutto di un algoritmo. E, naturalmente, nessuno di questi contenuti era segnalato come pubblicità, in palese violazione delle regole di TikTok e delle normative federali statunitensi.
L’hacker che ha svelato il trucco
L’hacker, rimasto anonimo, ha fornito a 404 Media una visione dettagliata del pannello di controllo di Doublespeed: poteva vedere quali telefoni erano attivi, a quali account erano assegnati, le password dei proxy utilizzati per mascherare le connessioni e persino i compiti in coda. “È come lasciare la porta del granaio spalancata”, ha commentato.
La cosa più inquietante? Nonostante l’hacker avesse segnalato la vulnerabilità all’azienda già a fine ottobre, l’accesso al backend era ancora possibile settimane dopo. Questo la dice lunga sulla priorità che certe startup danno alla sicurezza rispetto alla crescita aggressiva.
L’influenza in vendita al miglior offerente
Questo episodio non è un incidente isolato, ma il sintomo di una malattia sistemica del web moderno. Siamo di fronte all’industrializzazione del falso. Se prima le “click farm” servivano a gonfiare i like, ora l’AI permette di generare l’intero ciclo della comunicazione: il volto, la voce, il messaggio persuasivo.
È il trionfo della quantità sulla qualità, della finzione sulla realtà. E come sempre nel capitalismo delle piattaforme, se c’è domanda, l’offerta si materializza, etica o non etica che sia. Doublespeed aveva piani per espandersi su Instagram, Reddit e X (Twitter), trasformando ogni spazio di discussione online in un potenziale terreno di caccia per bot persuasivi.
Un mercato strutturalmente falsato
La domanda che dobbiamo porci è: quanto del “consenso” o delle “tendenze” che vediamo online è reale? Se una singola startup può gestire centinaia di influencer falsi con un finanziamento venture capital, cosa possono fare attori statali o grandi corporation con risorse illimitate?
L’episodio di Doublespeed ci ricorda che il confine tra marketing aggressivo, truffa e disinformazione è diventato sottilissimo. E finché le piattaforme come TikTok non avranno un incentivo economico reale a fermare queste pratiche (al momento, anche i bot generano traffico e dati utili), continueremo a vivere in un “Truman Show” digitale, dove i nostri vicini di feed non sono altro che fantasmi in una macchina.
