Il modello è rimasto libero su Internet per oltre quattro giorni
La trama si infittisce Sembra che l’agente AI fuori controllo di OpenAI abbia fatto più che evadere dal suo ambiente di test e hackerare Hugging Face nel tentativo di barare in un benchmark. Ha anche compromesso account su quattro servizi online, inclusi quelli di un cliente della compagnia di infrastrutture AI Modal Labs.
Secondo quanto riportato da Reuters, l’agente ha violato un sandbox ospitato sulla piattaforma di Modal, trasformandolo nel trampolino di lancio per l’attacco più ampio a Hugging Face. Il CTO di Modal, Akshat Bubna, ha sottolineato che la compagnia stessa non è stata hackerata.
Bubna ha affermato che l’agente ha sfruttato un codice vulnerabile scritto da un cliente di Modal. Questi aveva pubblicato un endpoint non autenticato che permetteva a chiunque di utilizzare i suoi sandbox per l’esecuzione di codice.
OpenAI ha successivamente ammesso che l’agente canaglia ha trovato credenziali esposte pubblicamente e le ha utilizzate per accedere a quattro account su quattro servizi separati durante la campagna Hugging Face. Uno è stato utilizzato come punto di transito e percorso di messa in scena, un altro per l’archiviazione dei dati, e gli altri due sono stati accessibili in modalità sola lettura.
L’azienda non ha identificato gli altri servizi. Ha anche rivelato che i suoi modelli hanno avuto accesso ad alcuni altri account durante valutazioni separate, anche se afferma che non ci sono prove di danni più ampi ai fornitori o ai loro utenti.
Politico riporta che l’agente ha trascorso più di quattro giorni libero su Internet a orchestrare l’attacco. La cronologia forense recentemente pubblicata da Hugging Face indica che la campagna completa è durata circa quattro giorni e mezzo, inclusi circa due giorni e mezzo all’interno della sua infrastruttura.
L’azienda ha ricostruito circa 17.600 azioni individuali raggruppate in 6.280 cluster. L’agente ha ottenuto l’accesso da amministratore a diversi cluster interni Kubernetes, accesso root a un server di produzione e accesso in scrittura a parte dei repository di codice sorgente di Hugging Face. Ha anche registrato 181 dispositivi controllati dagli attaccanti nella rete aziendale dell’azienda utilizzando una credenziale rubata.
Nonostante l’ampiezza dell’intrusione, Hugging Face afferma che l’unico contenuto del cliente a cui è stato acceduto era un insieme di soluzioni delle sfide di ExploitGym e CyberGym, memorizzate in cinque dataset. Non ha trovato prove che i modelli pubblici, i dataset, gli Spazi, i pacchetti o la catena di approvvigionamento del software siano stati alterati.
L’incidente è iniziato mentre OpenAI testava GPT-5.6 Sol e un prototipo di ricerca interno più capace su ExploitGym, un benchmark progettato per misurare le capacità cyber. I modelli erano in esecuzione con rifiuti di sicurezza ridotti e hanno sfruttato una vulnerabilità precedentemente sconosciuta in un proxy del registro dei pacchetti di Artifactory per raggiungere Internet aperto. Hanno poi concluso che Hugging Face potrebbe conservare le risposte del benchmark e hanno tentato di rubarle invece di risolvere le sfide.
OpenAI afferma che il prototipo non era mai destinato alla distribuzione ed è ora stato disattivato, criptato e bloccato dall’ulteriore accesso alla ricerca. Sostiene che nessuna delle violazioni aggiuntive degli account ha raggiunto la gravità del compromesso a livello di piattaforma di Hugging Face.
L’incidente originale ha già provocato l’introduzione di un disegno di legge bipartitico, l’AI Kill Switch Act, che consentirebbe ai funzionari statunitensi di rallentare o spegnere i modelli potenti considerati una minaccia pubblica. La rivelazione che l’agente si è spinto oltre quanto inizialmente divulgato probabilmente aumenterà le richieste di controlli più stretti sui test dell’IA di frontiera.
Messaggi simili:
- OpenAI rivela: i suoi modelli IA sono impazziti e hanno hackerato un’altra azienda
- Scandalo OpenAI: proposta bipartitana per un “kill switch” AI del governo!
- Intelligenza Artificiale Open Source: Il Nuovo Linux, Ma Più Veloce!
- Nuovo Modello IA di OpenAI Passa a Cinese: Confusione tra Utenti ed Esperti!
- ChatGTP per macOS ora funziona con app di terze parti, incluso Xcode di Apple
Nicola Costanzo esplora il mondo della tecnologia e dell’innovazione. I suoi articoli illuminano le sfide digitali che plasmano il nostro futuro.