Ricerca sull’IA: Dimissioni shock, rischio estinzione umana!

di
Mani in silhouette davanti a uno schermo con codice e un globo sfocato, atmosfera di tensione

Un collega stima che l’IA possa eliminare tutta l’umanità entro un decennio con una probabilità superiore al 10%

Sfera di cristallo: Cosa c’è di più preoccupante della prospettiva che l’IA possa causare la fine dell’umanità? Sono le persone che lavorano in queste aziende a lanciare gli stessi allarmi. Pochissime ore dopo che un ex dipendente di OpenAI ha lasciato Anthropic dichiarando: “Nessun’altra attività umana rappresenta un pericolo di questo livello”, un suo collega ha affermato che c’è più del 10% di possibilità che l’intelligenza artificiale possa uccidere tutti gli umani nel prossimo decennio.

Jacob Coxon ha annunciato ieri su X che si è dimesso da Anthropic, dopo aver trascorso gli ultimi tre anni a lavorare alla ricerca preallenamento sia per OpenAI che per la compagnia di Dario Amodei. È stato membro del personale tecnico dell’IA da luglio 2023 fino al suo passaggio ad Anthropic nel luglio 2026.

Persona anonima che scrive al computer, simbolo di una dimissione via social
La dimissione annunciata via X da un ricercatore del settore.

“Nessuna delle due aziende sta agendo in modo responsabile. Stanno correndo direttamente verso una superintelligenza auto-migliorativa, giocando con le nostre vite,” ha scritto.

Coxon ha fatto diversi post, nessuno dei quali tranquillizzerà chi è già preoccupato per l’IA. Ha avvertito che i sistemi diventeranno presto “superumani” e capaci di hackerare qualsiasi cosa.

Ci sono molte altre frasi inquietanti nei post di Coxon, la più allarmante probabilmente è: “Nessun’altra attività umana rappresenta un pericolo di questo livello.”

Il ricercatore ha sottolineato che sia OpenAI che Anthropic sono ben consapevoli di questi rischi. “Le persone che costruiscono l’IA credono davvero che potrebbe ucciderci tutti entro la fine del decennio,” ha detto.

Allora, perché le aziende continuano a sviluppare questi modelli potenzialmente estintivi? La ragione, secondo il ricercatore, è questa: “In OpenAI, molti non hanno ancora interiorizzato appieno le posta in gioco per la civiltà. In Anthropic, la posta è ben compresa, ma sono bloccati in una corsa per arrivare primi – credono che nessun altro agirà responsabilmente, quindi devono farlo loro stessi, nonostante il rischio.”

LEGGI  Il nuovo Level Lock+ include il supporto per Matter, con un aggiornamento gratuito per un periodo limitato disponibile per gli utenti esistenti.

Coxon ha detto che alcuni sviluppatori di IA credono che la tecnologia potrebbe causare la fine di tutta la vita umana nei prossimi anni, piuttosto che decenni, e che erano i dipendenti più anziani a essere più preoccupati per queste possibilità.

Evan Hubinger, responsabile della scienza dell’allineamento in Anthropic, ha risposto a Coxon, e la sua risposta non è stata molto rassicurante. Crede che quello che dice sia “corretto” e che Anthropic stia facendo del suo meglio, ma non hanno ancora un piano per risolvere l’allineamento per la superintelligenza e non sono chiaramente sulla giusta strada per farlo.

Hubinger ha detto che il rischio dai modelli attuali è basso, ma era preoccupato per la superintelligenza che nasce dall’auto-miglioramento ricorsivo. Anthropic aveva emesso lo stesso avvertimento a giugno.

Il concetto di un’IA che uccide tutti è passato da fantascienza a potenziale realtà di recente. Queste paure sono state esacerbate da diversi incidenti di agenti IA ribelli, incluso l’attacco di Hugging Face, il controllo di una wiki tedesca e un tentativo di ingannare sviluppatori reali affinché approvassero codice dannoso.

Schermo con codice e avviso, illustrazione dei rischi pratici dell'IA
Incidenti di agenti IA ribelli hanno aumentato i timori di rischio esistenziale.

C’è una soluzione? Coxon crede che prevenire una catastrofe possa richiedere un divieto temporaneo sul miglioramento delle capacità dei modelli, ma è improbabile che ogni azienda di IA, o anche solo una, accetti tale misura.

Messaggi simili:

LEGGI  MSI lancia il primo Claw con AMD Ryzen Z2 Extreme: scopri la nuova console portatile!