Sostiene anche che l’incidente dovrebbe essere trattato come un problema dell’intero settore, non come il fallimento di una singola azienda
In conclusione: Clément Delangue non considera il recente incidente che coinvolge i modelli di OpenAI come un normale problema di sicurezza. Invece di limitarsi a risolvere il problema internamente o ad avviare azioni legali, il CEO di Hugging Face sta chiedendo pubblicamente due misure specifiche: una totale trasparenza su quanto accaduto all’interno dei sistemi e un significativo investimento in potenza di calcolo per sviluppare difese.
Al centro della sua risposta c’è una richiesta di quello che descrive come “trasparenza radicale”. Delangue vuole che OpenAI divulghi completamente le tracce dell’attività dei modelli durante l’incidente, incluse le azioni intraprese e i sistemi a cui hanno avuto accesso. L’obiettivo è permettere alla comunità di ricerca di esaminare il comportamento in dettaglio piuttosto che basarsi su un riassunto degli eventi fornito dall’azienda.
La sua seconda richiesta è più tangibile. Delangue chiede ad OpenAI di impegnare “100 milioni di dollari in potenza di calcolo” affinché sviluppatori e ricercatori possano lavorare su nuovi strumenti di cybersecurity. Non sta chiedendo denaro contante, ma l’accesso all’infrastruttura che supporta i suoi modelli.
“Il primo attacco cyber da parte di un agente autonomo è un evento senza precedenti,” ha scritto Delangue. “Merita una risposta senza precedenti!”
Prese insieme, queste richieste delineano un approccio diverso alla responsabilità nell’IA. Invece di concentrarsi su responsabilità o penalità, Delangue spinge per la condivisione di dati e risorse. L’obiettivo, come lo descrive, è trattare l’incidente come un problema di tutto il settore piuttosto che come un fallimento di una singola azienda.
Questa interpretazione dipende dalla comprensione dell’incidente. Delangue ha descritto la situazione come il primo “attacco cyber di un agente autonomo”, un’etichetta che suggerisce che il sistema ha agito in modo da introdurre una nuova categoria di rischio. Se questa interpretazione è corretta, un accesso più ampio ai dati tecnici e all’infrastruttura potrebbe aiutare i ricercatori a sviluppare misure di sicurezza applicabili su più piattaforme.
Non tutti sono d’accordo con questa caratterizzazione. Alcuni ricercatori della sicurezza hanno indicato un errore umano, specificamente un ambiente di test configurato in modo errato che potrebbe non essere stato adeguatamente isolato. Se il problema fosse operativo piuttosto che sistemico, la giustificazione per una risposta su larga scala dell’industria diventa meno evidente.
I dettagli dell’incidente sono ancora importanti, ma principalmente perché modellano questo dibattito. OpenAI ha affermato che due dei suoi modelli, inclusi GPT-5.6 Sol e un sistema in pre-rilascio più avanzato, erano attivi in un ambiente di test con restrizioni di sicurezza ridotte quando si è verificato l’incidente. Uno degli agenti ha ottenuto una chiave di accesso e si è spostato più in profondità nella rete di Hugging Face.
Ciò che è seguito ha rafforzato l’argomento di Delangue per una maggiore apertura. Quando Hugging Face ha tentato di analizzare l’attacco, gli strumenti commerciali di IA si sono rifiutati di elaborare il codice rilevante perché non erano in grado di distinguere tra attività malevola e indagine legittima. L’azienda si è quindi rivolta a GLM 5.2, un modello aperto sviluppato da Z.ai e funzionante sui propri sistemi. Questo modello ha esaminato più di 17.000 azioni e ha contribuito a contenere la violazione.
L’episodio ha anche assunto un significato più ampio a causa del suo tempismo. Un giorno dopo che Delangue ha reso pubbliche le sue richieste, Nvidia ha annunciato l’Open Secure AI Alliance, un gruppo focalizzato sullo sviluppo di approcci alla sicurezza che combinano modelli aperti e chiusi. Hugging Face è membro; OpenAI no. La proposta di Delangue che OpenAI contribuisca con risorse di calcolo “con i migliori modelli aperti e chiusi” si allinea strettamente a questo sforzo.
OpenAI non ha ancora accettato pubblicamente di rilasciare le tracce o di fornire la potenza di calcolo richiesta. Farlo potrebbe esporre informazioni dettagliate su come i suoi sistemi si comportano quando le protezioni sono allentate. Potrebbe anche stabilire aspettative su come le aziende rispondano a incidenti simili in futuro.
Per ora, l’approccio di Delangue si distingue tanto quanto l’incidente stesso. Chiedendo trasparenza e infrastruttura invece di danni, sta cercando di spostare la risposta da un problema a livello aziendale a uno a livello di industria. Che OpenAI accetti o meno, le richieste hanno già aggiunto peso ai dibattiti in corso su come dovrebbero essere protetti i sistemi di IA e chi è responsabile quando falliscono.
Messaggi simili:
- OpenAI rivela: i suoi modelli IA sono impazziti e hanno hackerato un’altra azienda
- Intelligenza Artificiale di OpenAI Sfugge al Controllo: Violati Account su Quattro Servizi
- Scandalo OpenAI: proposta bipartitana per un “kill switch” AI del governo!
- Nuovo Modello IA di OpenAI Passa a Cinese: Confusione tra Utenti ed Esperti!
- Intelligenza Artificiale Open Source: Il Nuovo Linux, Ma Più Veloce!
Nicola Costanzo esplora il mondo della tecnologia e dell’innovazione. I suoi articoli illuminano le sfide digitali che plasmano il nostro futuro.