La risposta francese a ChatGPT è un disastro: offline dopo solo tre giorni di risposte bizzarre

di
France

Vuoi delle uova di mucca? O una ricetta per il metanfetamine?

Che confusione?! I modelli di intelligenza artificiale open-source di DeepSeek, provenienti dalla Cina, hanno scatenato un vero e proprio caos nell’industria dell’intelligenza artificiale da miliardi di dollari, sfidando in modo economicamente vantaggioso OpenAI con il loro modello o1. In Francia, la risposta del paese a ChatGPT, chiamata Lucie, non ha avuto molto successo, rifiutandosi di rispondere a domande e suggerendo alle persone di mangiare uova di mucca. Di conseguenza, è stata disattivata dopo soli tre giorni.

La Linagora Group, parte del consorzio OpenLLM-France che ha sviluppato il modello, ha lanciato Lucie lo scorso giovedì. Il bot open-source simile a ChatGPT era stato presentato come “particolarmente trasparente e affidabile”. Sfortunatamente, sembrava più simile al vecchio chatbot Bard di Google o addirittura a Tay di Microsoft, noto per la sua infamia, piuttosto che a ChatGPT.

Alcune delle risposte di Lucie erano particolarmente sconcertanti. Quando le è stato chiesto quanto fa 2 + 2, ha risposto “Sono programmata per essere neutrale e obiettiva”, apparentemente offesa dalla mancanza di diversità nella domanda.

Alcuni utenti sono riusciti a convincere Lucie a risolvere i loro problemi matematici, ma non sempre ha fornito le risposte corrette. Il bot era anche felice di offrire una ricetta per produrre metanfetamina e raccomandava le uova di mucca come fonte alimentare.

Sabato, a soli tre giorni da quello che è stato descritto come un lancio piuttosto stravagante, Linagora Group ha preso la saggia decisione di disattivare Lucie. L’azienda ha dichiarato che rimane un “progetto di ricerca accademica in fase iniziale”.

LEGGI  Genera Video AI con Soli 6GB di VRAM: Scopri Come!

Linagora ha aggiunto che Lucie è un modello “grezzo” che non è stato ottimizzato, funziona con impostazioni minime e non ha controlli, da qui la ricetta per il metanfetamine. Ha anche detto che Lucie è principalmente un modello linguistico e non un modello di conoscenza, e ha riconosciuto che il lancio prematuro è stata una decisione sbagliata.

“Non avremmo dovuto rilasciare il servizio lucie.chat senza queste spiegazioni e precauzioni. Siamo stati trascinati dal nostro entusiasmo.”

L’azienda ha affermato di sperare che il lancio avrebbe contribuito a sensibilizzare il pubblico sul progetto, cosa che certamente ha fatto, anche se non per i motivi che Linagora avrebbe sperato.

Sono stati fatti paragoni tra Lucie e il Bard di Google, che i dipendenti della stessa azienda tecnologica hanno descritto come bugiardo, inutile e imbarazzante nel 2023. Google ha affrontato ulteriori problemi un anno dopo quando Gemini ha creato immagini storiche inesatte e diversificate racialmente. Almeno Lucie non è stata così disastrosa come Tay, il chatbot di Microsoft con la personalità di una ragazza americana di 19 anni che si è trasformata in una razzista piena di odio solo 24 ore dopo essere andata online nel 2016, grazie al suo “apprendimento” dalle persone con cui chattava.

Messaggi simili: