Meta riconosce un errore dopo un commento razzista da parte di un collaboratore durante una chiamata
Risparmiare sulle risorse: Meta desidera che Muse si occupi delle faccende quotidiane al posto tuo, ma parte di questa IA coinvolge persone reali. L’azienda ha testato un servizio di concierge umano che permette ai collaboratori di gestire le chiamate per il suo nuovo agente AI personale, suscitando preoccupazioni per la privacy tra i propri dipendenti.
Secondo quanto riportato da Reuters, l’esperimento è stato attivato per metà dei dipendenti di Meta la scorsa settimana, con un gruppo di opt-out disponibile. Il personale ha avvertito che le informazioni sensibili potrebbero finire nelle mani dei contractor dei call center. Un dirigente di Meta ha ammesso che l’introduzione di operatori umani senza una chiara divulgazione è stata un errore e, per ora, la funzionalità di concierge umano è stata ritirata.
C’è stato anche un incidente che ha evidenziato un altro potenziale problema nell’affidare le chiamate agli umani. Un dipendente che ha chiesto a Muse di chiamare un fornitore di internet e cavo per negoziare la sua bolletta ha detto che una trascrizione mostrava che il collaboratore aveva fatto un riferimento razzista durante la chiamata. Meta si è scusata con il dipendente e ha dichiarato che l’agente umano coinvolto non lavorerà più sui suoi progetti.
La funzione di chiamata telefonica separata di Muse permette agli utenti di contattare aziende statunitensi per compiti come prenotare tagli di capelli o verificare la disponibilità di un articolo.
Il portavoce di Meta, Daniel Roberts, ha dichiarato che il feedback dei dipendenti è stato prevalentemente positivo. Ha aggiunto che l’azienda rilascerà la funzionalità potenziale al pubblico solo quando sarà pronta, con adeguate divulgazioni e misure di sicurezza.
Lanciato l’8 settembre, Muse è il tentativo di Meta di trasformare il chatbot in qualcosa di più simile a un assistente personale. Gli utenti possono interagire con esso tramite la sua app o WhatsApp, chiedendogli di inviare email, organizzare viaggi e lavorare verso obiettivi a lungo termine.
Meta afferma che l’agente funziona all’interno di una macchina virtuale dedicata, con un agente Sentinel separato che controlla le azioni in uscita. Gli utenti controllano i servizi connessi e approvano passaggi sensibili, inclusi gli acquisti. L’azienda afferma anche che le conversazioni e i dati memorizzati in quella macchina virtuale sono mantenuti separati dai suoi sistemi pubblicitari.
I test interni di Meta spiegano perché l’azienda sta sperimentando in primo luogo con gli umani. Alcune aziende semplicemente riagganciano quando si rendono conto di parlare con un IA, il che non sorprende. I test interni hanno scoperto che affidare le chiamate a agenti umani potrebbe aumentare il tasso di successo tra il 95% e il 98%, rispetto a un tasso molto più basso per le chiamate gestite interamente dall’IA.
Ci sono stati molti esempi di servizi presumibilmente automatizzati che si affidano pesantemente agli umani dietro le quinte. Uno dei più memorabili è stata l’app di shopping Nate, che sosteneva di poter completare automaticamente gli acquisti online. Secondo il Dipartimento di Giustizia, centinaia di lavoratori nei call center nelle Filippine e in Romania completavano effettivamente molte delle transazioni manualmente. Fonti hanno precedentemente affermato che tra il 60% e il 100% degli acquisti è stato gestito in questo modo durante parti del 2021.
I negozi “Just Walk Out” di Amazon hanno offerto un altro esempio. La tecnologia presumibilmente senza cassieri si affidava a più di 1.000 lavoratori in India per rivedere le transazioni e etichettare le riprese. Si è riferito che circa 700 su ogni 1.000 acquisti richiedevano una revisione umana nel 2022, anche se Amazon ha contestato queste cifre.
Nel 2023, Presto Automation ha rivelato che circa il 70% degli ordini gestiti dal suo sistema di drive-thru AI richiedeva l’intervento di agenti umani fuori sede, inclusi lavoratori nelle Filippine.
Meta ha già affrontato situazioni simili con Facebook M, il concierge digitale lanciato in beta chiusa durante l’estate del 2015 e chiuso qualche anno dopo. Ogni messaggio gestito dal servizio era revisionato dai contractor che lavoravano nella sede di Menlo Park dell’azienda, ma al lancio, Facebook aveva dichiarato che il servizio era alimentato da un’IA addestrata e supervisionata da persone reali.
Per parte sua, Meta sta testando apertamente l’assistenza umana piuttosto che affermare che i contractor non esistano. Ma se una funzionalità è commercializzata come un’IA che effettua chiamate per tuo conto, gli utenti probabilmente vorranno sapere quando la persona che effettivamente parla si trova in un call center.
Messaggi simili:
- Signal semplifica la partecipazione degli utenti alle chiamate di gruppo con collegamenti personalizzati
- WhatsApp Mostrerà Pubblicità agli Utenti: Ecco Cosa Cambia!
- Intelligenza Artificiale Rivoluzionaria: La Campagna Che Dice ‘Basta Assumere Umani’!
- Espodo utenti Meta dopo le mosse di Zuckerberg, ma ora i numeri risalgono!
- Meta: Licenziati 20 Dipendenti per Fughe di Informazioni, Altri Previsti
Nicola Costanzo esplora il mondo della tecnologia e dell’innovazione. I suoi articoli illuminano le sfide digitali che plasmano il nostro futuro.