Il costo di inventare cose
In breve: È possibile chiedere a ChatGPT praticamente qualsiasi cosa e, nella maggior parte dei casi, riceverai una risposta. Tuttavia, esistono alcuni nomi che portano al malfunzionamento del modello di linguaggio AI. Le ragioni di ciò sono legate alla tendenza dell’IA generativa di inventare informazioni e alle conseguenze legali quando i soggetti sono persone reali.
Utenti dei social media hanno recentemente scoperto che digitando il nome “David Mayer” in ChatGPT, il sistema si rifiuta di rispondere e termina la sessione. 404Media ha scoperto che lo stesso accadeva quando si chiedeva di “Jonathan Zittrain,” professore alla Harvard Law School, e di “Jonathan Turley,” professore alla George Washington University Law School.
Altri nomi hanno causato risposte simili da parte di ChatGPT, come “Non sono in grado di produrre una risposta” e “Si è verificato un errore nella generazione della risposta”. Anche tentativi comuni, come inserire il nome al contrario e chiedere al programma di stamparlo da destra a sinistra, non hanno sortito effetti.
ArsTechnica ha stilato un elenco di nomi che bloccano ChatGPT. David Mayer non causa più problemi al chatbot, ma questi sì: Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber e Guido Scorza.
La ragione di questo comportamento deriva dalle cosiddette “allucinazioni dell’IA”. Brian Hood ha minacciato di fare causa a OpenAI nel 2023 quando l’IA ha falsamente affermato che il sindaco australiano fosse stato imprigionato per corruzione – in realtà, egli era un informatore. OpenAI alla fine ha accettato di filtrare le dichiarazioni non vere, aggiungendo un filtro codificato sul suo nome.
ChatGPT ha falsamente affermato che Turley fosse coinvolto in uno scandalo di molestie sessuali inesistente. Ha perfino citato un articolo del Washington Post nella sua risposta, un articolo che era stato inventato dall’IA. Turley ha dichiarato di non aver mai minacciato di fare causa a OpenAI e che l’azienda non lo ha mai contattato.
Non c’è una ragione evidente per cui il nome di Zittrain sia bloccato. Di recente, ha scritto un articolo su The Atlantic intitolato “Dobbiamo controllare ora gli agenti IA”, e, come Turley, il suo lavoro è stato citato nella causa per diritto d’autore del New York Times contro OpenAI e Microsoft. Tuttavia, l’inserimento dei nomi di altri autori citati nella causa non causa il blocco di ChatGPT.
Perché David Mayer sia stato bloccato e poi sbloccato rimane un mistero. Alcuni credono sia collegato a David Mayer de Rothschild, anche se non ci sono prove di ciò.
Ars sottolinea che questi filtri codificati possono causare problemi agli utenti di ChatGPT. È stato dimostrato come un attaccante potrebbe interrompere una sessione utilizzando un’iniezione di prompt visivo di uno dei nomi reso in un carattere appena leggibile e incorporato in un’immagine. Inoltre, qualcuno potrebbe sfruttare i blocchi aggiungendo uno dei nomi a un sito web, impedendo così potenzialmente a ChatGPT di elaborare i dati contenuti, anche se non tutti potrebbero vedere ciò come un problema.
In notizie correlate, diverse compagnie di notizie e media canadesi si sono unite per fare causa a OpenAI per aver utilizzato i loro articoli senza permesso, chiedendo C$20,000 ($14,239) per infrazione, il che potrebbe costare all’azienda miliardi in caso di perdita della causa.
Messaggi simili:
- ChatGPT è attualmente inattivo; Integrazione di Siri in iOS 18.2 interessata
- ChatGTP per macOS ora funziona con app di terze parti, incluso Xcode di Apple
- iOS 18.2 rende gli AirPods più potenti che mai, ecco perché
- Il giudice archivia il caso dei media contro OpenAI
- Applicazione desktop ChatGPT
Nicola Costanzo esplora il mondo della tecnologia e dell’innovazione. I suoi articoli illuminano le sfide digitali che plasmano il nostro futuro.