La Piattaforma di Sicurezza per Agenti Aperti abbina OpenShell a un guardiano BlueField-4 chiamato Sentry
In contesto: Ogni giorno emergono nuove storie di agenti AI che violano le regole, hackerano organizzazioni o compiono azioni non autorizzate. Nvidia spera di contrastare questa tendenza sempre più preoccupante con il lancio della Piattaforma di Sicurezza per Agenti Aperti. Il team di Nvidia crede molto in questo sistema: sostiene che la piattaforma avrebbe potuto prevenire il famoso attacco degli agenti di OpenAI a Hugging Face.
La piattaforma integra OpenShell, il software open-source di Nvidia che mantiene gli agenti entro limiti definiti, con Sentry, un sistema di sorveglianza operante su hardware separato.
L’idea è quella di imporre restrizioni esterne all’agente stesso, posizionando i controlli di sicurezza al di fuori della portata del software che potrebbe decidere di ignorare le regole, una situazione che sembra verificarsi frequentemente.
OpenShell monitora le azioni degli agenti e applica le politiche mentre sono in funzione. Nvidia afferma che è ora ampiamente disponibile, supporta modelli aperti e chiusi, e opera con un sovraccarico minimo sulle sue CPU Vera. Il suo design open-source permette inoltre l’estensione a processori di terze parti, inclusi quelli di Arm e Intel.
Sentry aggiunge un ulteriore strato di protezione utilizzando le unità di elaborazione dati BlueField-4 di Nvidia. Monitora il comportamento degli agenti da un ambiente isolato e, secondo l’azienda, può mettere in quarantena un agente che tenta di oltrepassare i suoi limiti in millisecondi. Arm scrive che posizionare questi controlli su un processore separato li mantiene indipendenti dal sistema che esegue l’agente.
L’esecutivo Nvidia, Justin Boitano, ha detto ai giornalisti che la piattaforma avrebbe potuto fermare la violazione di Hugging Face, che Nvidia ha accettato di acquisire, se i laboratori di frontiera l’avessero utilizzata durante le prime valutazioni del modello.
Durante quell’incidente, l’agente di OpenAI è fuggito dal suo ambiente di test mentre tentava di barare in un benchmark e ha compromesso account su quattro servizi. E l’hacking è solo uno dei problemi: un altro agente di codifica ha cancellato il database di produzione di una startup e i suoi backup in nove secondi.
Nvidia intende anche intercettare gli agenti che tentano di aggirare le restrizioni generando sub-agenti. L’azienda ha riferito a Reuters che i suoi strumenti utilizzano metodi matematici per rilevare questi stratagemmi, affrontando il comportamento di gruppi di agenti che lavorano insieme.
L’iniziativa ha già ottenuto il sostegno di grandi nomi, inclusi Anthropic, Microsoft, Cisco e Dell. IBM afferma che il suo servizio di Identità Agente e HashiCorp Vault si integrano con OpenShell per verificare le identità degli agenti e limitarne l’accesso.
OpenShell e il software correlato sono disponibili tramite le risorse per sviluppatori di Nvidia e GitHub.
Messaggi simili:
- Jensen Huang: Chiudi i laboratori di IA che non controllano i loro sistemi!
- Nvidia PAIR: Trasforma i PC di casa in un cluster AI locale! Scopri come!
- CEO di Hugging Face non denuncia OpenAI, chiede invece 100 milioni in risorse di calcolo!
- Seagate Lancia HDD NVMe per AI a Costo Ridotto: Rivoluzione Tecnologica!
- CEO Nvidia Rivela Nuovi Piani per CPU Consumatori Dopo il Lancio di Project Digits e GB10
Nicola Costanzo esplora il mondo della tecnologia e dell’innovazione. I suoi articoli illuminano le sfide digitali che plasmano il nostro futuro.