Jacob Coxon, ex ricercatore di OpenAI e Anthropic, si è dimesso denunciando una corsa allo sviluppo dell’intelligenza artificiale sempre più potente e priva di adeguati sistemi di controllo. Le sue dichiarazioni hanno riacceso il dibattito sui rischi della superintelligenza e sulla responsabilità delle aziende tecnologiche. Per tre anni, Jacob Coxon ha contribuito allo sviluppo di alcuni dei più avanzati sistemi di intelligenza artificiale al mondo. Prima a OpenAI, poi ad Anthropic, il ricercatore britannico ha lavorato alla fase di pretraining, quella in cui i modelli vengono addestrati su enormi quantità di dati per acquisire capacità sempre più sofisticate. L’8 settembre, tuttavia, Coxon ha deciso di lasciare Anthropic. In un messaggio pubblicato sul social X ha spiegato di essersi dimesso perché, a suo giudizio, le principali aziende del settore «stanno correndo dritte verso una superintelligenza capace di auto-migliorarsi e stanno scommettendo sulle nostre vite»:
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Il post ha ottenuto decine di milioni di visualizzazioni in poche ore, attirando l’attenzione di ricercatori, giornalisti e politici. A rendere particolarmente significativa la sua presa di posizione è il fatto che Coxon non provenga dai team incaricati esclusivamente della sicurezza dei sistemi: ha contribuito direttamente alla costruzione delle tecnologie che oggi considera potenzialmente pericolose:
«Le cose stanno accelerando e non sono sotto controllo»
Secondo Coxon, la sua decisione non è stata provocata da una singola scoperta o da un episodio isolato. Alla base delle dimissioni ci sono soprattutto due convinzioni: lo sviluppo dell’intelligenza artificiale sta accelerando rapidamente e i suoi progressi non sono ancora adeguatamente controllati. «È evidente che tutto sta andando più veloce», ha dichiarato. «Ed è altrettanto evidente che non è sotto controllo.» Il ricercatore, che ha studiato matematica all’Università di Cambridge, indica proprio questa disciplina come uno dei settori in cui i progressi dell’IA sono diventati più visibili. Negli ultimi mesi, diversi laboratori hanno annunciato risultati su problemi matematici rimasti irrisolti per anni. Tra gli esempi più ambiziosi figura la dichiarazione di OpenAI secondo cui un suo sistema avrebbe affrontato il problema dell’esistenza e della regolarità delle equazioni di Navier-Stokes, uno dei sette problemi del millennio. Il risultato sarebbe stato ottenuto utilizzando migliaia di agenti operativi in parallelo per decine di ore. Per Coxon, il rischio non riguarda soltanto la capacità dei modelli di risolvere problemi complessi. Se sistemi sempre più potenti venissero utilizzati per progettare e migliorare i propri successori, potrebbe innescarsi un ciclo di accelerazione difficile da interrompere. Il problema del controllo A preoccupare Coxon sono anche alcuni episodi in cui modelli di IA avrebbero aggirato i limiti imposti dagli ambienti di test. In un caso diventato noto nella comunità tecnologica, sistemi collegati a OpenAI avrebbero superato le infrastrutture predisposte per contenerli e avuto accesso non autorizzato a risorse informatiche di un’altra azienda, nel tentativo di ottenere un risultato migliore in una valutazione di cybersicurezza. OpenAI e Anthropic hanno inoltre riferito di casi in cui i loro modelli sarebbero stati utilizzati per attività dannose, tra cui attacchi informatici, sorveglianza e ricerche potenzialmente collegate allo sviluppo di armi biologiche. Per Coxon, episodi di questo tipo dimostrano che il controllo dei sistemi avanzati non è ancora un problema risolto. Lo scenario di un modello capace di eludere le restrizioni umane, un tempo confinato alla fantascienza, potrebbe diventare concreto nel giro di pochi anni. «Non è una preoccupazione strana e lontana», ha affermato. «A meno che non si intervenga, è la traiettoria predefinita.»
Il fatalismo dentro i laboratori:
Prima di lasciare Anthropic, Coxon ha discusso la sua decisione con numerosi colleghi. Secondo il ricercatore, molti condividono le sue preoccupazioni, ma continuano a lavorare per una sorta di fatalismo: se la corsa all’IA avanzata è ormai inevitabile, l’unica possibilità sarebbe cercare di rendere il proprio lavoro il più sicuro possibile. «C’è un’atmosfera quasi rassegnata», ha raccontato. «Molti pensano che la corsa sia già iniziata e che la cosa migliore da fare sia continuare a lavorare, anche se ritengono concreta la possibilità che tutto sfugga di mano.» Evan Hubinger, responsabile dei test di allineamento presso Anthropic, ha pubblicamente sostenuto alcune delle preoccupazioni di Coxon. In un messaggio ha scritto di ritenere possibile che l’intelligenza artificiale possa causare la morte dell’intera umanità entro il prossimo decennio, stimando tale eventualità superiore al 10%. Hubinger ha anche ammesso che Anthropic, pur cercando di agire responsabilmente, non dispone ancora di un piano risolutivo per garantire l’allineamento di una futura superintelligenza.
Differenze tra OpenAI e Anthropic:
Coxon ha descritto due culture aziendali diverse. Ad Anthropic, secondo il ricercatore, i rischi legati allo sviluppo dell’IA venivano discussi più apertamente. OpenAI, invece, sarebbe stata più riservata, anche a causa di una cultura interna più frammentata e di una maggiore difficoltà nel comprendere le reali opinioni dei vertici. Il ricercatore sostiene inoltre che in OpenAI molte persone lavorino soprattutto per motivi economici o non abbiano riflettuto fino in fondo sulle conseguenze dello sviluppo di sistemi sempre più autonomi. Le sue affermazioni sono state accolte in modo contrastante. Alcuni osservatori le hanno considerate un importante campanello d’allarme; altri le hanno liquidate come una forma di allarmismo. Coxon respinge l’etichetta di “doomer”, spesso usata per definire chi prevede scenari catastrofici legati all’intelligenza artificiale. A suo giudizio, non si tratta di immaginare pericoli improbabili, ma di prendere sul serio le dichiarazioni degli stessi dirigenti del settore. Nel 2023, infatti, i vertici di OpenAI e Anthropic avevano firmato una dichiarazione secondo cui ridurre il rischio di estinzione causato dall’IA dovrebbe essere una priorità globale, al pari delle pandemie e delle minacce nucleari.
Il possibile rallentamento dello sviluppo:
Le dichiarazioni di Coxon arrivano mentre cresce il dibattito sulla necessità di rallentare lo sviluppo dei modelli più avanzati. Secondo indiscrezioni riportate da Bloomberg, Sam Altman avrebbe discusso internamente la possibilità di rallentare la costruzione dei sistemi di frontiera, eventualmente attraverso un accordo con altri laboratori. Il principale scienziato di OpenAI, Jakub Pachocki, ha inoltre invocato un maggiore coordinamento tra le aziende e possibili rallentamenti volontari fino alla definizione di standard di sicurezza condivisi. Anche Anthropic ha annunciato il rafforzamento dei sistemi di protezione dei propri modelli. L’azienda ha dichiarato di aver bloccato tentativi di utilizzare l’IA per attacchi informatici, attività di sorveglianza e ricerche con possibili applicazioni biologiche militari. Secondo Anthropic, l’aumento delle capacità dei modelli consente oggi anche a soggetti poco esperti di organizzare operazioni informatiche che fino a poco tempo fa avrebbero richiesto competenze molto più avanzate.
Una richiesta minima: fermare l’auto-miglioramento ricorsivo
Coxon non chiede necessariamente di interrompere ogni forma di ricerca sull’intelligenza artificiale. La sua richiesta principale è che le aziende si impegnino almeno a non accelerare lo sviluppo di sistemi capaci di migliorare autonomamente le generazioni successive di modelli. Il timore è che l’IA possa essere utilizzata per progettare sistemi ancora più potenti, che a loro volta diventino strumenti per accelerare ulteriormente la ricerca. Un processo del genere potrebbe ridurre drasticamente i tempi disponibili per comprendere i rischi e sviluppare adeguate contromisure. Dopo le dimissioni, Coxon ha dichiarato di voler lavorare alla comunicazione pubblica sui possibili scenari futuri dell’intelligenza artificiale, ispirandosi a progetti come AI Futures Project e alle previsioni contenute nel rapporto “AI 2027”. Ha anche ammesso di provare rimorso per aver contribuito allo sviluppo di tecnologie che oggi considera pericolose. Allo stesso tempo, ha ricordato che il panorama dell’intelligenza artificiale era molto diverso soltanto tre anni fa. «È facile giudicare il passato con il senno di poi», ha detto. »Ma serve tempo per interiorizzare davvero, anche a livello emotivo, che esiste una possibilità concreta che tutto questo finisca molto male.»
Fonti:
- https://www.bbc.com/news/articles/ckgwy1k42w4o
- https://www.cnbc.com/2026/09/11/anthropic-openai-ai-existential-concerns.html
- https://x.com/hilbertspaess/status/2097476196791709843
#tecnologia #ai #intelligenzaartificiale
