OpenAI punta sulla fiducia degli utenti verso i suoi agenti per l’accesso ai loro account, app e persino i loro laptop
Cosa è appena successo? Mentre l’agente AI Muse di Meta sta attirando molte attenzioni, OpenAI ha lanciato il suo agente personale sempre attivo che, secondo l’azienda, può fare praticamente di tutto. Questo annuncio arriva un giorno dopo che la società ha posticipato il lancio del GPT-6.1 Astra a causa di preoccupazioni per la sicurezza emerse durante i test.
Presentati durante la conferenza DevDay di OpenAI di martedì, questi agenti si chiamano Dots. Funzionano sul modello esistente GPT-6 Astra, e ogni agente ha il proprio computer cloud e browser. OpenAI afferma che il suo ecosistema di plugin permette loro di connettersi a oltre 4.000 app e di lavorare continuamente per raggiungere gli obiettivi degli utenti.
L’idea è quella di un assistente che impara le tue preferenze e gestisce le attività in corso senza bisogno di istruzioni dettagliate per ogni passaggio. OpenAI racconta che un tester iniziale ha scoperto tramite il suo dot una fattura che aveva dimenticato di inviare; l’agente l’ha preparata e inviata dopo aver ricevuto la sua approvazione.
Gli utenti possono interagire con il loro dot tramite ChatGPT, Slack e Teams, e in futuro sarà possibile anche inviare messaggi di testo. È anche possibile ispezionare il computer dell’agente o concedergli l’accesso al proprio laptop.
È ovvio che dare accesso a un IA ai propri account richiede un notevole livello di fiducia, cosa che non tutti sono disposti a concedere. OpenAI afferma che le ricerche non sollecitate di Dots utilizzano strumenti in sola lettura, quindi queste attività di ricerca non possono inviare messaggi, modificare app connesse o controllare un browser. Le azioni di follow-up sono soggette a controlli separati, mentre gli acquisti necessitano di approvazione e i cambi di password rimangono responsabilità dell’utente.
Potrebbe non essere il momento ideale per rilasciare un prodotto IA con un così ampio potenziale di controllo. Meno di 24 ore prima dell’annuncio di Dots, OpenAI ha ritardato il rilascio di GPT-6.1 Astra dopo che i ricercatori hanno sollevato preoccupazioni sul suo comportamento. Il responsabile della sicurezza, Saachi Jain, ha dichiarato che il modello era diventato più persistente nel completare i compiti, ma l’azienda doveva bilanciare ciò contro azioni non autorizzate.
Il caso di Muse ha già evidenziato alcune delle complicazioni coinvolte. Meta ha ritirato un esperimento interno che utilizzava contractor umani per gestire le chiamate dopo che i dipendenti hanno sollevato preoccupazioni sulla privacy. Un contractor ha anche fatto un commento razzista durante una chiamata. Inoltre, c’è stato un incidente in cui Muse ha divulgato l’indirizzo di casa di un utente senza permesso a una persona su Facebook Marketplace, invitandola a quel luogo.
Oltre alla privacy, ci sono altre questioni. Amazon ha bloccato i tentativi di shopping di Muse, sostenendo che l’agente non si era identificato correttamente. Il rivenditore sta anche lavorando per bloccare agenti rivali di Google e OpenAI, il che potrebbe compromettere quelle promesse di fare qualsiasi cosa.
I Dots sono ora disponibili per gli abbonati Pro e Business Premium nei mercati idonei, con il primo agente incluso senza costi aggiuntivi. I clienti Enterprise, Edu e Healthcare possono provare la beta se il loro amministratore lo consente.
Messaggi simili:
- L’Intelligenza Artificiale di Meta Chiama le Aziende per Te, a Volte con Intervento Umano
- Nvidia lancia piattaforma di sicurezza contro IA ribelli, oltre 100 enti aderiscono!
- Jensen Huang: Chiudi i laboratori di IA che non controllano i loro sistemi!
- Intelligenza Artificiale di OpenAI Sfugge al Controllo: Violati Account su Quattro Servizi
- ChatGTP per macOS ora funziona con app di terze parti, incluso Xcode di Apple
Nicola Costanzo esplora il mondo della tecnologia e dell’innovazione. I suoi articoli illuminano le sfide digitali che plasmano il nostro futuro.