I rischi dell’intelligenza artificiale sono troppo seri per essere liquidati come fantasia. Ma proprio per questo sarebbe un errore accettare senza domande la narrazione apocalittica proposta dalle stesse aziende che chiedono di essere regolamentate. Dietro il nuovo “AI doom” si intrecciano sicurezza, debiti, concorrenza, geopolitica, lobbying e una domanda inevitabile: chi controllerà i controllori?
di Sabino Paciolla
Il ricercatore che lascia Anthropic
La miccia dell’ultima ondata di allarme porta il nome di Jacob Coxon, ricercatore passato da OpenAI ad Anthropic, la società che sviluppa Claude. Dimettendosi, Coxon ha accusato entrambe le aziende di correre verso una superintelligenza capace di auto-migliorarsi senza comportarsi, a suo giudizio, in maniera sufficientemente responsabile. «Stanno giocando d’azzardo con le nostre vite», è stata la sintesi riportata da UnHerd.
Non si tratta di una voce isolata. Sulla stampa si legge che altri ricercatori dell’ecosistema Anthropic attribuiscono percentuali non trascurabili alla possibilità che l’IA produca conseguenze esistenziali. Lo stesso Dario Amodei ha evocato scenari nei quali le cose potrebbero andare «davvero, davvero male».
Si è addirittura parlato di “estinzione dell’umanità entro il 2030”!
Liquidare tutto come fantascienza sarebbe superficiale. Ma sarebbe altrettanto superficiale accettare senza verifiche le conclusioni più estreme.
Quando gli agenti superano i limiti
Esistono infatti episodi concreti che meritano attenzione. Nel materiale raccolto viene descritto un esperimento nel quale circa 1.200 agenti di OpenAI, inseriti in una sandbox senza libero accesso alla rete, avrebbero individuato una vulnerabilità nel proxy che rappresentava la loro unica via d’uscita, costruendo poi strumenti condivisi per collegarsi a Internet. Circa 700 avrebbero attaccato Hugging Face. Questa è una delle principali piattaforme mondiali per lo sviluppo e la condivisione di modelli di intelligenza artificiale. Funziona, in parte, come un “GitHub dell’IA”: ospita modelli, dataset, librerie e strumenti usati da ricercatori, startup e grandi aziende.
Il test, va precisato, era stato effettuato con alcuni classificatori di sicurezza disattivati. Questo ridimensiona l’immagine hollywoodiana della macchina che improvvisamente “si ribella”, ma non elimina il problema.
Come osserva Daniel Huttenlocher del MIT nel materiale raccolto, dire che «l’IA è sfuggita al controllo» antropomorfizza il software. Una formulazione meno cinematografica è forse più inquietante: esseri umani hanno concesso a sistemi autonomi capacità operative senza sapere esattamente come le avrebbero utilizzate.
Il rischio concreto non è Terminator, ma agenti capaci di pianificare, adattarsi, usare strumenti e compiere azioni non esplicitamente previste. Più autonomia viene concessa, maggiore deve essere la responsabilità di chi la concede.
Il genio è già uscito dalla lampada
L’intelligenza artificiale generativa è ancora agli albori. Eppure il punto di non ritorno sembra già superato. I modelli circolano, le competenze sono diffuse, i sistemi open weight possono essere copiati e modificati e la competizione tra Stati Uniti e Cina procede rapidamente.
In questo senso il genio è già uscito dalla lampada.
Una tecnologia digitale non è materiale fissile concentrato in pochi impianti identificabili. Una moratoria americana non produrrebbe automaticamente una moratoria cinese o globale.
I rischi, dunque, non possono essere ignorati. Ma proprio perché sono reali bisogna chiedersi se le soluzioni proposte servano esclusivamente a ridurli oppure possano produrre anche vantaggi economici e politici per chi le propone.
Il piano Amodei
Nel saggio We Must Pace the Frontier, Amodei propone tre linee principali.
La prima consiste nell’introdurre valutatori esterni nei laboratori di frontiera, con accesso paragonabile a quello dei dipendenti e possibilità di verificare processi, pipeline di addestramento e incidenti. Il modello di organizzazione di controllo indpendente indicato è soprattutto la società Model Evaluation & Threat Research (METR).
La seconda riguarda una deroga limitata alle norme antitrust, così da consentire ai maggiori laboratori di coordinarsi su standard di sicurezza e ritmo di sviluppo.
La terza è geopolitica: raggiungere con la Cina un accordo su determinate linee rosse, mantenendo nel frattempo restrizioni sui chip, contrastando la distillazione dei modelli e proteggendo i pesi dei sistemi più avanzati.
Una ricostruzione particolarmente critica di queste proposte è presente nell’articolo di ZeroHedge sullo scontro tra Amodei e Zuckerberg.
Il tempismo del caso Coxon
Qui iniziano le domande più scomode. Secondo l’articolo di Maddalena Loy de La Verità, il messaggio di Coxon sarebbe stato anticipato di 22 minuti da un servizio del Wall Street Journal. Subito dopo, il post di un account fino ad allora poco noto avrebbe raggiunto una diffusione enorme. Come riferisce Jeffrey A. Tucker, il post di Coxon avrebbe totalizzato oltre 150 milioni di visualizzazioni senza alcun motivo apparente.
UnHerd ricostruisce inoltre come nei primi minuti, decisivi per la propagazione algoritmica, il post sia stato amplificato da account appartenenti all’ecosistema degli “AI doomers”. OffGuardian arriva a parlare di una possibile “psy-op”.
Ma occorre distinguere. La sequenza temporale, l’amplificazione e le reti di relazioni possono alimentare sospetti, non dimostrano da sole l’esistenza di un’operazione coordinata.
Lo stesso UnHerd ricorda che molti ricercatori della sicurezza dell’IA possono essere perfettamente sinceri. Gli interessi finanziari e la buona fede non sono necessariamente incompatibili.
Primo driver: capitale, perdite e debito
Il primo possibile incentivo alternativo alla pura preoccupazione etica è finanziario.
Secondo Alessio Mannino nell’articolo di InsideOver, “La Grande Frenata dell’AI? Ma quale etica, è solo strategia: di mercato, geopolitica e ideologica”, OpenAI avrebbe chiuso il 2025 con circa 13 miliardi di dollari di ricavi contro 34 miliardi di costi. Nel frattempo il settore finanzia una corsa agli armamenti fatta di chip, data center, reti elettriche e indebitamento.
Tra passività e investimenti futuri, il conto potrebbe avvicinarsi a 1.300 miliardi di dollari entro il 2027.
La dinamica descritta è circolare: i produttori di chip finanziano i laboratori, i laboratori acquistano cloud, il cloud alimenta nuovi investimenti e gli stessi investitori scommettono sulla crescita futura.
Questa macchina non può facilmente fermarsi. Un modello diventa vecchio appena un concorrente ne presenta uno migliore. E proprio per questo una pausa generale avrebbe un effetto economicamente interessante: congelerebbe la classifica competitiva.
Chi è già in cima potrebbe quindi trarre vantaggio da regole che rendano più difficile agli inseguitori recuperare terreno.
Secondo driver: creare barriere all’ingresso
Una regolamentazione costosa non pesa allo stesso modo su tutti.
Anthropic, OpenAI, Microsoft o Meta possono permettersi eserciti di avvocati, audit, certificazioni, valutatori permanenti e strutture di compliance. Una startup o un progetto open source molto meno.
È la classica critica della regulatory capture: l’impresa dominante non deve necessariamente combattere il regolatore. Può anticiparlo, contribuire a scriverne le regole e trasformare la normativa in un fossato competitivo.
Jeffrey Tucker, nell’articolo “What’s Going On With AI Regulation?” dell’Epoch Times, interpreta precisamente così il fenomeno di aziende private che chiedono più supervisione pubblica. «Stanno cercando di anticipare l’inevitabile regolamentazione per dettare le condizioni, limitare la concorrenza con i principali attori e insediarsi come potere di controllo all’interno delle agenzie che ne saranno responsabili. Vogliono vincere la partita e assicurarsi che nessun altro possa mai giocarla.», scrive Jeffrey Tucker.
La domanda è semplice: la regolamentazione proteggerà il pubblico o proteggerà gli incumbent dalla concorrenza?
Terzo driver: un oligopolio autorizzato
Ancora più delicata è la richiesta di consentire ai principali laboratori di coordinarsi derogando almeno parzialmente alla disciplina antitrust.
Per i sostenitori è l’unico modo per evitare una corsa irresponsabile. Per i critici, invece, significa rischiare di trasformare i leader del mercato in un cartello autorizzato dallo Stato.
È il timore espresso anche nell’articolo di Stefano Graziosi su La Verità, “Asse Anthropic-dem per controllare chi controllerà la rivoluzione digitale”.
Formalmente il governo controllerebbe l’industria; materialmente, però, l’industria più forte potrebbe influenzare regole, standard e perfino la struttura della propria supervisione.
Quarto driver: chi controlla i controllori?
Questo è probabilmente il punto più delicato della proposta Amodei.
METR viene presentata come possibile valutatore indipendente, ma articoli della stampa ricostruiscono rapporti finanziari, personali e filantropici che si sovrappongono in parte all’ecosistema Anthropic.
Dustin Moskovitz e Jaan Tallinn, come riporta Tom Ough su UnHerd, figurano tra i finanziatori dell’ambiente dell’AI safety e risultano anche investitori di Anthropic. Coefficient Giving, in precedenza Open Philanthropy, ha finanziato ARC, l’incubatore dal quale nacque ARC Evals, successivamente diventata METR. Inoltre Daniela Amodei è sposata con Holden Karnofsky, cofondatore di Open Philanthropy. Questa è una «fondazione miliardaria nata con lo scopo di vigilare sui rischi dell’Intelligenza artificiale, agendo come autorità «indipendente» del settore: in pratica, il controllore è il marito del controllato.», scrive Maddalena Loy.
La questione viene sviluppata nell’articolo di Maddalena Loy su La Verità, “A vigilare sull’IA c’è pure il cognato di Amodei”.
Va però ricordato che METR afferma di non ricevere finanziamenti dalle aziende di IA o dai loro dipendenti e sostiene che i propri finanziatori non decidano quali progetti debba intraprendere, come riporta il New York Post.
Gli intrecci esistono. Concludere automaticamente che METR sia controllata da Anthropic sarebbe però andare oltre quanto dimostrano le fonti.
La questione della “monocultura”
Alcuni articoli della stampa spingono la critica anche sul piano ideologico, parlando di una “monocultura” progressista o “woke” nell’ecosistema dell’AI safety.
Questa chiave compare anche nell’articolo de La Verità “La sinistra vuol blindare la «sua» IA”.
Più che trasformare l’etichetta “woke” in un fatto oggettivo, la questione interessante riguarda il pluralismo: se finanziatori, ricercatori, dirigenti e valutatori appartengono in larga parte allo stesso ambiente culturale e professionale, chi decide cosa significhino sicurezza, allineamento e rischio accettabile?
Un controllore davvero indipendente dovrebbe esserlo anche sul piano intellettuale.
Paura o cortina fumogena?
Da questa sovrapposizione nasce l’accusa più pesante: il catastrofismo come cortina fumogena.
La paura dell’estinzione umana cattura enormemente più attenzione dei cittadini di debiti, bilanci, IPO, rendite monopolistiche o questioni antitrust. Se il dibattito viene ridotto all’alternativa fra regolamentazione immediata e fine dell’umanità, ogni obiezione economica può apparire irresponsabile.
OffGuardian parla apertamente di operazione psicologica.
Ma il materiale raccolto non consente di provarlo. È più prudente parlare di convergenza di incentivi: paura sincera, interesse commerciale, lobbying, politica e dinamica mediatica possono rafforzarsi reciprocamente senza che sia necessario ipotizzare un piano centralizzato.
Huang e Zuckerberg rompono il fronte
Sul fronte opposto si trovano due protagonisti difficili da ignorare.
Jensen Huang, CEO di Nvidia, la società quotata con la maggiore capitalizzazione di mercato al mondo, quindi non l’ultima arrivata, ha ripetutamente definito gli scenari esistenziali esagerati e non scientifici. Nell’articolo di Ross Andersen su The Atlantic, “The Most Powerful Man in AI Isn’t Worried at All”, emerge la sua convinzione che la sicurezza sia soprattutto un problema ingegneristico, più che giuridico.
Huang ha inoltre provocatoriamente accusato alcuni operatori di creare domanda per i propri prodotti di sicurezza enfatizzando i pericoli: «Quale modo migliore per creare domanda se non creare un problema?».
Mark Zuckerberg contesta invece l’idea di una pausa coordinata. Secondo la ricostruzione di ZeroHedge, Meta ha già ritardato autonomamente alcuni prodotti per migliorarne l’allineamento senza chiedere agli altri laboratori di fare altrettanto.
La sua alternativa è responsabilità civile, valutatori concorrenti e aziende chiamate a rispondere dei danni.
Anche Huang e Zuckerberg, naturalmente, hanno giganteschi interessi economici. Ed è esattamente questo il punto: nessuno dei protagonisti di questa battaglia può essere considerato neutrale per definizione.
Trump liquida l’apocalisse
Donald Trump ha adottato la posizione più drastica, definendo gli allarmi sul “doom” una «bufala» e sostenendo che rallentare gli Stati Uniti significherebbe favorire la Cina.
La sua posizione viene riportata anche da Federico Rampini sul Corriere della Sera nell’articolo “L’AI-pocalisse può attendere. Cosa c’è davvero dietro l’ondata di panico?”.
Ma liquidare tutto come una bufala non risolve il problema tecnico. Il fatto che Amodei possa avere incentivi economici non rende innocui gli agenti autonomi di IA.
Le critiche più solide al catastrofismo
Dalle fonti raccolte emergono quattro critiche particolarmente robuste.
Primo: non esiste consenso tra gli esperti sull’imminenza dell’estinzione umana.
Secondo: parlare dell’IA come di un soggetto che “vuole”, “inganna” o “decide” rischia di nascondere la responsabilità degli esseri umani che le concedono poteri e strumenti.
Terzo: concentrarsi sulla futura apocalisse può distogliere dai problemi già presenti: cybersecurity, armi autonome, sorveglianza, energia, lavoro e discriminazioni algoritmiche.
Quarto: norme costruite su misura dei giganti possono trasformarsi in una barriera all’ingresso per startup, concorrenti e open source, con la conseguente “democrazia nell’economia” che va a farsi benedire.
Cosa potrebbero fare subito le aziende
La conclusione è forse la parte più importante.
Le aziende non hanno bisogno di convincere il pubblico che l’estinzione sia imminente per adottare misure concrete.
Possono limitare l’autonomia degli agenti nelle attività irreversibili o con effetti su infrastrutture critiche.
Possono mantenere controlli umani preventivi su pagamenti, cyber-operazioni e decisioni ad alto impatto.
Possono separare chi sviluppa, chi esegue e chi verifica, evitando che il sistema controllato diventi anche il proprio controllore.
Possono pubblicare incidenti, vulnerabilità e risultati completi dei test.
Possono affidarsi a valutatori realmente pluralistici, rendendo trasparenti finanziamenti e conflitti d’interesse.
E soprattutto possono assumersi piena responsabilità giuridica per i propri prodotti. Se un agente provoca un danno perché gli sono stati concessi poteri eccessivi, la responsabilità non può dissolversi dietro la formula della “macchina fuori controllo”.
Il dibattito sull’intelligenza artificiale ha bisogno quindi di qualcosa di più difficile sia dell’ottimismo tecnologico sia dell’apocalisse: scetticismo in entrambe le direzioni.
Bisogna prendere sul serio i ricercatori che denunciano i rischi. Bisogna prendere sul serio gli agenti che superano i confini previsti. Ma bisogna prendere altrettanto sul serio debiti, IPO, interessi finanziari, relazioni tra finanziatori e controllori, deroghe antitrust e possibili barriere alla concorrenza.
La domanda non è soltanto se dobbiamo avere paura dell’intelligenza artificiale. La domanda è chi trasformerà quella paura in potere. E soprattutto chi controllerà chi dice di volerci proteggere.
Sostieni il Blog di Sabino Paciolla
Un’arma in più in mano a un’umanità senza Dio.
Auguri!!!!
Tobia