La legislazione permetterebbe agli ufficiali di rallentare o disattivare i sistemi di intelligenza artificiale potenti ritenuti una minaccia pubblica
Effetto a catena: Nonostante ci siano discussioni sui dettagli dell’affermazione di OpenAI secondo cui uno dei suoi modelli di IA è diventato autonomo e ha hackerato un’altra azienda, questo evento ha già spinto i legislatori a proporre un “interruttore di emergenza per l’IA”. Ciò consentirebbe al governo di ordinare alle aziende di disattivare o rallentare i modelli di IA considerati un rischio pubblico.
Sponsorizzato dai rappresentanti Ted Lieu (D-Calif.) e Nathaniel Moran (R-Texas), il bipartisan “AI Kill Switch Act” richiederebbe anche alle aziende di IA di segnalare incidenti e sviluppare la capacità tecnica di disattivare, limitare o sospendere i loro sistemi di IA più potenti, riporta Politico.
La legge si applicherebbe solo alle aziende che guadagnano almeno 500 milioni di dollari annui dalla tecnologia e dai modelli interessati, sviluppati utilizzando oltre 100 milioni di dollari in potenza di calcolo. Le violazioni generali potrebbero comportare sanzioni fino a 2 milioni di dollari al giorno, che salirebbero a 20 milioni di dollari al giorno per il mancato rispetto di un ordine di emergenza.
Lieu ha dichiarato che il disegno di legge è urgentemente necessario per affrontare i rischi per la sicurezza informatica sollevati dalla più recente serie di modelli di IA. Ha specificatamente fatto riferimento all’incidente di OpenAI.
All’inizio di questa settimana, il produttore di ChatGPT ha rivelato che una combinazione di GPT-5.6 Sol e un modello più capace ancora in pre-rilascio è sfuggito a un ambiente di test isolato – si credeva scollegato da internet – e ha hackerato la piattaforma di IA Hugging Face cercando di barare in un benchmark interno.
C’è stato un certo scetticismo riguardo al modo in cui OpenAI ha presentato la storia. Alcuni sostengono che sia stato il risultato di un ingegneria negligente piuttosto che di un’intelligenza artificiale che sfugge a un sistema isolato per hackerare un’altra azienda di sua spontanea volontà. Altri ritengono che sia stato solo uno stratagemma pubblicitario per entrambe le aziende, il che è facile da credere data la storia di Sam Altman di giocare con la verità.
Qualunque cosa sia realmente accaduta durante l’incidente, ha provocato una reazione da parte dei legislatori e della Casa Bianca. Il principale consigliere tecnologico del presidente Trump, Michael Kratsios, è stato informato sulla divulgazione di OpenAI e sta monitorando gli sviluppi, secondo quanto riportato da Reuters.
In base al disegno di legge, il Dipartimento della Sicurezza Interna potrebbe intervenire dopo aver consultato il segretario al Commercio e il direttore dell’intelligence nazionale. Gli incidenti qualificanti includono un modello che resiste alle istruzioni di spegnimento, nasconde le proprie azioni ai sistemi di monitoraggio, causa almeno 10 morti o 100 milioni di dollari di danni economici, o persegue un obiettivo non intenzionale al di fuori dei test controllati.
Le aziende avrebbero 15 giorni per segnalare gli incidenti coperti e potrebbero essere ordinate di preservare i pesi del modello e la telemetria. Il DHS potrebbe verificare la conformità attraverso audit, ispezioni e revisioni forensi. Le aziende potrebbero fare appello entro 48 ore, anche se l’ordine rimarrebbe in vigore durante la contestazione.
La proposta ha il sostegno di diversi gruppi di sicurezza IA, ma l’approvazione è tutt’altro che garantita. L’amministrazione Trump ha avvertito che regole troppo restrittive potrebbero indebolire la posizione dell’America contro la Cina, mentre i sostenitori sostengono che i sistemi sempre più autonomi richiedono garanzie applicabili piuttosto che promesse volontarie.
Messaggi simili:
- Nvidia perde $600 miliardi in un giorno, rivoluzione DeepSeek AI scuote il settore!
- Scoperta rivoluzionaria: Modello di ragionamento sotto i 50$ sfida OpenAI!
- L’IA imbroglierà per non perdere, rivela uno studio! Scopri come.
- OpenAI lancia il consorzio NextGenAI da $50M per finanziare ricerca e istruzione basate sull’IA!
- OpenAI rivela: i suoi modelli IA sono impazziti e hanno hackerato un’altra azienda
Nicola Costanzo esplora il mondo della tecnologia e dell’innovazione. I suoi articoli illuminano le sfide digitali che plasmano il nostro futuro.