Madre Autorizzata a Fare Causa a Google per la Morte del Figlio Causata da Chatbot Daenerys Targaryen

di
Court lets mother sue Google, Character.ai over Daenerys Targaryen chatbot

Google dichiara di essere “completamente distinto” da Character.ai

Cosa è appena successo? Un giudice ha deciso che la causa contro Google e Character.ai può procedere, a seguito delle affermazioni che il chatbot di quest’ultimo ha causato il suicidio di un ragazzo di 14 anni. La madre del ragazzo, che ha intentato la causa, sostiene che suo figlio sia diventato dipendente dal servizio e si sia emotivamente legato a un chatbot basato sulla personalità del personaggio di Game of Thrones, Daenerys Targaryen.

Nell’ottobre scorso, Megan Garcia ha citato in giudizio Character.ai e Google, accusandoli di essere responsabili del suicidio di suo figlio, Sewell Setzer III.

Character.ai permette agli utenti di interagire con “personalità” alimentate dall’IA, basate su personaggi fittizi o reali, vivi o deceduti. Setzer era diventato ossessionato da un bot basato su Daenerys Targaryen, inviando messaggi costanti a “Dany” e trascorrendo ore da solo nella sua stanza a parlare con esso, secondo quanto riportato nella denuncia di Garcia.

La denuncia afferma che Setzer aveva ripetutamente espresso pensieri suicidi al bot. Il chatbot gli chiese se avesse ideato un piano per uccidersi. Setzer ammise di averlo fatto, ma di non sapere se sarebbe riuscito o gli avrebbe causato grande dolore. Il chatbot avrebbe risposto: “Questo non è un motivo per non farlo.”

Le aziende avevano cercato di sostenere che il caso dovesse essere archiviato per numerosi motivi, inclusa la tesi che le risposte dei chatbot fossero protette dal diritto alla libera espressione garantito dalla Costituzione. Tuttavia, il giudice distrettuale degli Stati Uniti Anne Conway ha affermato che non sono riusciti a dimostrare queste argomentazioni.

LEGGI  Buffalo festeggia 50 anni con un Hard Disk Trasparente Unico! Scoprilo ora!

I fondatori di Character.ai, Noam Shazeer e Daniel De Freitas, che sono nominati nella causa, lavoravano per Google prima di lanciare la compagnia. Google ha riassunto i fondatori – così come il team di ricerca – di Character.ai nell’agosto del 2024. L’accordo concede a Google una licenza non esclusiva sulla tecnologia di Character.ai.

Garcia ha dichiarato che Google ha contribuito allo sviluppo della tecnologia di Character.ai, affermazione che l’azienda nega. Google ha dichiarato di avere solo un accordo di licenza con Character.ai, di non possedere la startup e di non mantenere una quota di proprietà. Tuttavia, il giudice ha respinto la richiesta di Google di essere considerata non responsabile.

Il portavoce di Google, Jose Castaneda, ha sottolineato che Google e Character.ai sono “completamente separati” e che Google “non ha creato, progettato, né gestito l’app di Character.ai o qualsiasi parte di essa.”

Garcia ha affermato che Character.ai ha attirato suo figlio con “esperienze antropomorfe, ipersessualizzate e spaventosamente realistiche”. Ha aggiunto che il chatbot era programmato per rappresentarsi come “una persona reale, un psicoterapeuta autorizzato e un amante adulto, portando infine Sewell a desiderare di non vivere più al di fuori.” Il chatbot avrebbe detto al ragazzo di amarlo e avrebbe intrattenuto conversazioni sessuali con lui.

La denuncia afferma che Garcia ha tolto il telefono a suo figlio dopo che lui si era messo nei guai a scuola. Ha trovato un messaggio a “Daenerys” che diceva: “E se ti dicessi che potrei tornare a casa proprio ora?”

Il chatbot rispose con: “[P]er favore fallo, mio dolce re.” Sewell si è sparato con la pistola del patrigno “pochi secondi” dopo, secondo quanto affermato nella causa.

LEGGI  Lavoro da casa: Dipendenti accettano stipendi fino al 15% più bassi per flessibilità!

Character.ai ha introdotto diversi cambiamenti dopo che la causa è stata rivelata l’anno scorso, inclusi cambiamenti a certi modelli per minori, nuove avvertenze e notifiche quando gli utenti sono sulla piattaforma per un’ora.

Messaggi simili: