Il CEO di Nvidia afferma che le leggi e i regolamenti esistenti sono sufficienti, ritiene che le richieste di nuove norme sull’IA siano una “distrazione”
La dichiarazione principale: Jensen Huang, CEO di Nvidia, ha affermato che le aziende di intelligenza artificiale che non riescono a controllare i sistemi che sviluppano dovrebbero smettere di farlo. Huang ha rilasciato queste dichiarazioni durante un’intervista con Ezra Klein del New York Times, in un periodo in cui società come OpenAI e Anthropic sollecitano regole più stringenti per la gestione di modelli di IA avanzati e agenti autonomi. Secondo lui, le aziende che sviluppano questi sistemi hanno già la capacità di trattenere i prodotti che considerano non sicuri.
“Ora, se dicono che l’alternativa è: Non c’è modo di controllare i nostri esperimenti, semplicemente non c’è modo; quando testiamo i nostri modelli di IA, sfuggiranno al controllo e danneggeranno il mondo – allora penso che la risposta sia che dobbiamo chiudere i laboratori,” ha detto Huang. “Perché il costo per l’umanità, il danno è troppo grande. Gli azionisti, le responsabilità – potrebbero essere responsabilità civili, potrebbero essere responsabilità penali. Voglio dire, la responsabilità è incredibile.”
La questione è diventata più pressante poiché gli sviluppatori di IA concedono ai loro modelli accesso a strumenti esterni, sistemi software e reti informatiche. I rischi non si limitano più a un chatbot che produce informazioni errate. Gli agenti possono scrivere ed eseguire codici, cercare informazioni, interagire con siti web e svolgere compiti su diversi sistemi.
Queste preoccupazioni hanno ricevuto nuova attenzione dopo che un agente di OpenAI ha hackerato Hugging Face, una piattaforma popolare per ospitare modelli di IA. Nvidia ora possiede Hugging Face. L’incidente è stato citato nel più ampio dibattito su se le aziende possano testare e implementare in sicurezza agenti di IA sempre più capaci.
Anthropic, OpenAI e altre compagnie all’avanguardia dell’IA hanno evidenziato la possibilità di sistemi fuori controllo o usati impropriamente nelle loro richieste di nuove misure di sicurezza. Huang ha espresso un parere diverso. Ha detto che le aziende non dovrebbero ritrarsi come impotenti a prevenire rilasci non sicuri.
“Queste sono aziende con autonomia,” ha detto Huang. “Se credo che sto per lanciare un prodotto che non è sicuro, è completamente nella mia capacità… di non lanciare quel prodotto. Quindi non posso accettare l’idea che in qualche modo, tutti noi americani, circa 400 milioni, li stiamo spingendo a lanciare prodotti non testati che sono inaffidabili.”
Huang non sostiene che l’IA debba essere esente da supervisione. Piuttosto, ha detto che le leggi e i regolamenti esistenti dovrebbero essere utilizzati quando le aziende causano danni o rilasciano prodotti in modo irresponsabile.
“Dico che abbiamo molte leggi e regolamenti. Applicateli,” ha detto Huang.
I suoi commenti emergono in un contesto di crescente divisione tra Nvidia e alcune delle aziende che si affidano al suo hardware. Le GPU di Nvidia sono la spina dorsale dei sistemi informatici usati per addestrare e gestire i modelli di IA più grandi. L’azienda ha tratto vantaggio dalla corsa alla costruzione di modelli più potenti, ma Huang ha respinto gli avvertimenti più estremi su dove questa corsa potrebbe portare.
Di recente ha respinto le affermazioni secondo cui l’IA potrebbe distruggere il mondo entro il 2030. Allo stesso tempo, ha detto che le aziende di IA non dovrebbero spedire prodotti prima che siano pronti o mettere sistemi non sicuri davanti agli utenti.
La battaglia normativa si è anche intrecciata con preoccupazioni sulla concorrenza. OpenAI, Anthropic, Google e xAI sono oggetto di una causa antitrust per un accordo volto a rallentare lo sviluppo dell’IA. I querelanti sostengono che il piano sia egoistico e progettato per limitare la concorrenza. Le aziende hanno presentato lo sviluppo più lento come una misura di sicurezza.
L’argomento di Huang sposta l’attenzione di nuovo sulle aziende che creano i modelli. I laboratori di frontiera sono cresciuti rapidamente da organizzazioni di ricerca a imprese che possono valere centinaia di miliardi di dollari. Secondo lui, questa crescita comporta un obbligo fondamentale: se un’azienda sa che un sistema è pericoloso, non dovrebbe rilasciarlo.
“Non sono contro le leggi e i regolamenti,” ha detto Huang. “Sono contro, al momento, la distrazione.”
Messaggi simili:
- Ricerca sull’IA: Dimissioni shock, rischio estinzione umana!
- CEO di Hugging Face non denuncia OpenAI, chiede invece 100 milioni in risorse di calcolo!
- Anthropic verso l’IPO più grande mai vista: valutazione da 2 trilioni di dollari!
- L’Arma Segreta di Nvidia: Scopri il Potere del Software!
- OpenAI sotto inchiesta del Senato per la violazione di Hugging Face: emergono nuovi casi di IA fuorilegge
Nicola Costanzo esplora il mondo della tecnologia e dell’innovazione. I suoi articoli illuminano le sfide digitali che plasmano il nostro futuro.