L’intervento è riservato solo ai rischi catastrofici legati a cyberattacchi, armi biologiche o perdita di controllo
Vincitori e vinti: Anthropic ha presentato ai legislatori una bozza di legge sulla sicurezza dell’IA. Questo potrebbe sembrare positivo, ma ci sono parti che fanno sollevare qualche sopracciglio. Una in particolare stabilisce che il governo può bloccare la pubblicazione di un nuovo modello di IA soltanto se può provocare almeno 1 miliardo di dollari di danni oppure uccidere o ferire gravemente più di 50 persone. In pratica, causare 999 milioni di danni o provocare 49 vittime non rientrerebbe nel campo di intervento.
Politico ha ottenuto la bozza riservata della proposta, che secondo un portavoce dell’azienda comprende “politiche sensate su cui riteniamo che il Congresso debba intervenire”.
La disposizione principale del testo consente allo Stato di bloccare esclusivamente quei modelli che presentino il potenziale di arrecare danni per almeno 1 miliardo di dollari o di causare 50 o più morti o feriti gravi.
Inoltre, il pericolo derivante dal modello deve avere origine dalla creazione o dal rilascio di un’arma biologica, dalla capacità del modello di eludere i controlli imposti dal suo sviluppatore, oppure da un attacco informatico. Politico osserva che la formulazione richiama le normative californiane sull’IA, incluso il provvedimento SB 5 firmato lo scorso anno.
La proposta prevede che valutatori indipendenti, registrati presso il Dipartimento del Commercio, ispezionino periodicamente il laboratorio e i suoi modelli d’avanguardia. Si specifica pure che il laboratorio potrà corrispondere un compenso a questi valutatori, a condizione che la loro autonomia rimanga intatta.
Qualora un valutatore individuasse rischi potenzialmente allarmanti nel modello, è tenuto a trasmettere i risultati delle verifiche al Dipartimento del Commercio entro 72 ore dalla conclusione della propria analisi.
Il Dipartimento del Commercio sarebbe quindi chiamato a presentare le evidenze davanti a un giudice federale presso il Tribunale Distrettuale degli Stati Uniti per il Distretto di Columbia, che deciderebbe se impedire la diffusione del modello. La bozza precisa anche che nessun altro dipartimento, agenzia o ufficio federale potrà sospendere lo sviluppo, il dispiegamento o l’uso interno del modello.
“Questo disegno di legge rappresenta le proposte contenute nell’Advanced AI Framework di Anthropic, che abbiamo sostenuto con legislatori federali e statali a partire da giugno”, ha aggiunto il portavoce di Anthropic.
Negli ultimi tempi non sono mancate le preoccupazioni sul ritmo incontrollato dello sviluppo dell’IA. Dopo diversi episodi in cui agenti basati su IA si sono comportati in modo anomalo e hanno compiuto attacchi informatici contro altre società, un ricercatore di Anthropic si è dimesso avvertendo che l’IA potrebbe minacciare l’umanità. L’azienda stessa ha richiamato questi rischi nel suo prospetto preliminare per l’IPO.
A seguito di tali eventi, i legislatori hanno avanzato varie proposte per la sicurezza dell’IA. Bernie Sanders propone di vietare la superintelligenza e di infliggere fino a 20 anni di carcere agli sviluppatori che ignorassero le norme. È esistito anche il “Joint Commitment On Frontier Responsibilities” proposto dall’amministrazione Trump, ma quel patto, definito moralmente vincolante, si basa in larga misura sull’autorregolamentazione delle aziende tecnologiche.
Messaggi simili:
- Scandalo OpenAI: proposta bipartitana per un “kill switch” AI del governo!
- Giudice Annulla Blacklist Antropica: Ritorsione Governativa per Critiche al Pentagono
- Anthropic verso l’IPO più grande mai vista: valutazione da 2 trilioni di dollari!
- Jensen Huang: Chiudi i laboratori di IA che non controllano i loro sistemi!
- Finalmente capiamo come funzionano i Modelli di Linguaggio: non è solo predizione di parole!
Nicola Costanzo esplora il mondo della tecnologia e dell’innovazione. I suoi articoli illuminano le sfide digitali che plasmano il nostro futuro.