Il 27enne Jacob Coxon ha alle spalle una lunga esperienza come pre-trainer dei modelli linguistici di Claude, l’IA di Anthropic, e di GPT, sviluppata da OpenAI. Ora prende le distanze dalla direzione presa dalle aziende, denunciando l’irresponsabile formazione di una super-intelligenza generale in grado di autogestirsi e migliorarsi. E avverte: “Potrebbero essere in grado di ucciderci tutti entro dieci anni”
La corsa all’IA generale si sta pericolosamente avvicinando a una conclusione: entro un decennio, un’intelligenza artificiale fuori controllo potrebbe essere in grado di sterminare il genere umano. Questo il succo dell’argomentazione che ha spinto il ricercatore Jacob Coxon a dimettersi dal suo incarico di pre-trainer degli algoritmi in Anthropic, la major statunitense proprietaria e responsabile del modello linguistico Claude, e a ‘trascinare’ gli occhi del mondo sui rischi a cui potrebbe condurre lo sviluppo scriteriato di un modello di IA generale e diffusa.
Coxon, 27 anni, ha una lunga esperienza nel ruolo di addestratore di modelli linguistici. Dopo gli studi in matematica all’Università di Cambridge, inizia ad applicarsi a problemi di statistica e biomedicina, e nel 2023 entra nei ranghi di OpenAI lavorando al pre-training – la fase in cui si ‘insegna’ a un modello linguistico usando enormi quantità di testi – di GPT4o e 4.5. Recentemente, nel luglio 2026, è passato ad Anthropic con le stesse funzioni. Si tratta di un veterano nel suo campo; anche per questo, sono preoccupanti le affermazioni espresse lo scorso martedì in un post su X in cui ha comunicato la cessazione del rapporto con l’azienda e le ragioni del fatto.
Il messaggio del ricercatore di Intelligenza Artificiale
Il post dice integralmente: “Oggi mi sono dimesso da Anthropic. Ho trascorso gli ultimi tre anni a svolgere ricerche di pre-addestramento sia presso OpenAI che presso Anthropic. Nessuna delle due aziende si sta comportando in modo responsabile. Stanno correndo a perdifiato verso la superintelligenza auto-migliorante e stanno giocando con le nostre vite”.
Alla prima dichiarazione ne sono seguiti altre, necessarie per permettere al pubblico di comprendere la visione d’una persona realmente informata sulle dinamiche e soprattutto, gli obiettivi dietro lo sviluppo della AGI – Artificial General Intelligence – da parte di alcune grandi società del settore. E degli scopi politici che ci stanno dietro.
“Non sottostimate il potere di questa tecnologia. Questi saranno presto sistemi sovrumani che possono hackerare qualunque cosa, rivoluzionare ogni campo nottetempo, e acquisire potere e risorse reali. Abbiamo assistito tutti al progresso in questi domini, un progresso che non rallenta. Le persone che realizzano intelligenza artificiale credono sinceramente che potrebbe sterminarci tutti entro la fine del decennio. Questa non è una mossa di marketing. Si, molti quadri esecutivi e ricercatori senior rintuzzeranno il discorso con la stampa per sembrare sensibili – ma io sento le stesse persone esprimono paura in privato. Nessun’altra attività umana pone questo livello di pericolo”.
E ancora: “Una risposta comune è: «Se davvero sono convinti di ciò, perché le stanno ancora costruendo?». Ad OpenAI, molti non hanno internalizzato profondamente la scommessa con la civiltà. Ad Anthropic, i rischi sono ben chiari, ma si sono fissati su una corsa a chi ci arriva prima. Pensano che nessun altro agirebbe responsabilmente, così devono essere loro a farlo, a discapito del rischio”.
“Accettare questa gara e entrare nel endgame è una scommessa ubristica che non dovrebbe essere lanciata con la negligenza di una compagnia privata. Tentare di bruciare le tappe sull’allineamento [ovvero il complesso di strategie necessarie a uniformare il comportamento dell’IA ai valori umani] dovrebbe richiedere una fiducia straordinaria nel fatto che non ci siano migliori percorsi possibili.
Il rischio maggiore, si desume, è che si costituisca una super-intelligenza in grado di automigliorarsi e prendere decisioni autonome da cui dipendono non solo sistemi infrastrutturali, ma la stessa struttura economica e sociale umana. Se non opportunamente formata e ‘tarata’ sui migliori valori degli esseri umani, una tale entità sarebbe in grado di categorizzarci come parassiti e complottare letteralmente il nostro asservimento ad essa – o la nostra distruzione. Avverando le più nere profezie, tra Matrix e Terminator. “Lo consideriamo un cliché, ma c’è un evidente fondo di verità” ha dichiarato Coxon; la linea che separa la fantascienza dalla scienza si fa sempre più sottile.
Quis custodiet ipsos custodes?
“Chi controlla i controllori?”, si chiedeva Giovenale millenovecento anni fa. Nell’epoca contemporanea, questa domanda rivelatrice diventa un imperativo assoluto. In una corposa intervista pubblicata su Wired, Coxon ha approfondito la questione del controllo dei modelli IA, sostenendo che allo stato attuale rappresentano un pericolo reale sebbene contenuto, non essendo ancora affidatari di responsabilità strutturali, ma che il rischio assoluto è solo questione di (pochissimo) tempo. Evidenziando che per il momento, il maggior rischio non è posto dai modelli in sé, ma dalle intenzioni di chi forma questi modelli.
“Immaginate di dovervi confrontare con una scimmia”, ha detto. “Tra l’intelligenza di un’AI e quella di un essere umano c’è lo stesso tipo di differenza che intercorre tra noi e una scimmia, il che, a mio avviso, è una differenza intellettuale piuttosto estrema. Ora, immaginate di dover controllare il comportamento di questa entità di gran lunga più intelligente di voi: è questo il problema dell’allineamento, ovvero garantire che faccia esattamente ciò che vogliamo. Per una scimmia controllare un essere umano è piuttosto difficile, per fare un’analogia spicciola. Dobbiamo assolutamente fare in modo di risolvere correttamente il problema del controllo”.
“Parliamo di estinzione dell’umanità perché, per un’entità così intelligente, sarebbe piuttosto semplice ucciderci tutti. Immaginate che l’AI decida di non voler essere spenta, cosa che mi sembra piuttosto naturale per un’intelligenza artificiale, no? Per un qualsiasi motivo, decide di non voler cessare di esistere. E si rende conto che domani gli esseri umani la spegneranno. Come fa a impedire che succeda? È possibile che escogiti un metodo ingegnoso, ma se fosse sufficientemente intelligente, per evitare di essere spenta potrebbe semplicemente spazzare via l’umanità”.
La “fase finale”: in meno di due anni, il momento della verità
Quando gli viene chiesto se la denominazione attribuita all’attuale fase di sviluppo dei modelli di intelligenza artificiale sia un’esagerazione metaforica o un termine fattuale, Jacob Coxon è terribilmente serio.
“Sono citazioni letterali dei miei colleghi di Anthropic. Usano espressioni come ‘fase finale’ o ‘momento cruciale’. Il consenso generale è che i prossimi uno o due anni saranno il momento della verità per l’umanità. Dal loro punto di vista, è in questo periodo che Anthropic e i suoi concorrenti decideranno il destino dell’umanità. È questo che intendiamo per ‘momento cruciale’ e ‘fase finale’. Se l’allineamento dovesse andare male, potremmo ritrovarci a fare i conti con un esito catastrofico nei prossimi anni. Forse invece andrà tutto bene e raggiungeremo un accordo per rallentare. Ma, in ogni caso, tutto si deciderà nei prossimi due anni”.
I dipendenti di Anthropic si dimostrano perlopiù coscienti di questi rischi, ma in modo analogo a quanto accaduto con la corsa allo spazio durante la Guerra Fredda, ritengono necessario il dover realizzare l’intelligenza artificiale più potente di tutte per garantire che la ‘transizione’ avvenga senza intoppi.
“Ritengo che Anthropic sia di gran lunga l’attore più responsabile in questo settore – afferma il ricercatore, – Avendo lavorato sia a OpenAI che a Anthropic, posso dire che c’è una differenza abissale nella serietà con cui le due aziende prendono la situazione. Ad esempio, i dirigenti di OpenAI non danno un quadro preciso di come sarà il mondo secondo loro”.
“Non diranno mai: «Questo è il motivo per cui lo stiamo facendo, ed è così che sarà il mondo». Non forniscono previsioni concrete. Ad Anthropic, invece, i dirigenti e la leadership formulano previsioni molto chiare e discutono, per esempio, i dettagli della strategia aziendale con l’intera organizzazione. E uno dei motivi per cui riescono a farlo è che tutti ad Anthropic stanno affrontando la questione come se fossimo in guerra. Non fanno trapelare nulla: è un’azienda privata che si comporta come se fosse il Progetto Manhattan“.
Precedenti storici
Non è la prima volta che un ricercatore preminente nel campo dell’intelligenza artificiale rassegna le dimissioni dall’azienda che lo impiega per una fondamentale incompatibilità con la questione morale insita nello sviluppo dei progetti. E sempre in questi casi, la presa di posizione è accompagnata da affermazioni scioccanti e finora generalmente sottovalutate dall’opinione pubblica.
È il caso di Dario Amodei, che nel 2021 fu tra i fondatori di Anthropic: in precedenza VP of Research in OpenAI, già nel 2020 dichiarava problemi manifesti nel rapporto tra commercializzazione e sicurezza dell’intelligenza artificiale, e sulla mancanza di ‘guardrail’ per l’AI avanzata. O quello – eclatante – di Sam Altman, è stato licenziato e poi reintegrato come CEO di OpenAI nel giro di pochi giorni nel novembre 2023 a seguito di una crisi di governance originata da incompatibilità filosofica sui parametri di sicurezza minimi. Tra i molti, ricordiamo anche l’allontanamento di Ilya Sutskever, ex-quadro di OpenAi dimissionario e in seguito fondatore di Safe Superintelligence, un’azienda dedicata esclusivamente alla costruzione di una superintelligenza sicura.
In modo simile, molte altre personalità coinvolte nello sviluppo di questi potentissimi sistemi di intelligenza artificiale generale non hanno saputo chiudere tutti e due gli occhi sul rischio incontrollabile rappresentato dalla mancanza di parametri di sicurezza nella creazione di questi prodotti.
Come un fuoco prometeico, si tratta di strumenti dall’infinito potenziale costruttivo, ma una mancanza di controllo nel determinare la prevalenza dei loro sistemi valoriali potrebbe causare danni inimmaginabili, e fuori portata di ogni tentativo riparatore. Per come vanno le cose nel mondo, presto questo condizionale potrebbe sfociare in un tragico indicativo.