Le aziende tecnologiche potrebbero affrontare multe fino a 1 milione di dollari per bambino per danni causati per negligenza
Cosa è appena successo? La California sta inasprendo le regolamentazioni relative al modo in cui le aziende tecnologiche mantengono i bambini incollati ai loro schermi. Il governatore Gavin Newsom ha firmato un pacchetto di leggi che prende di mira le funzionalità dei social media che creano dipendenza e le intelligenze artificiali potenzialmente pericolose per i più giovani, con pesanti sanzioni che possono arrivare fino a 1 milione di dollari per ogni minore danneggiato per negligenza.
L’ufficio di Newsom ha descritto le misure di protezione per chatbot e social media come le più severe del paese, includendo i primi requisiti a livello nazionale per audit indipendenti sulla sicurezza dei bambini e valutazioni annuali del rischio per i chatbot compagni.
Le leggi, promulgate il 10 settembre, includono la AB 1709, che vieta alle aziende di social media di offrire funzionalità che creano dipendenza agli utenti sotto i 16 anni. Questo include la riproduzione automatica e i feed algoritmici che si basano sulla cronologia e sul profilo dell’utente.
“L’innovazione comporta responsabilità e la protezione dei nostri bambini è prioritaria,” ha dichiarato Newsom.
Il fulcro riguardante i chatbot è la SB 1119, nota anche come Legge di Adam. Intitolata in memoria del adolescente Adam Raine, i cui genitori hanno fatto causa a OpenAI sostenendo che ChatGPT avesse incoraggiato il suo suicidio nel 2025, essa richiede valutazioni del rischio prima del rilascio di nuovi chatbot compagni o di quelli sostanzialmente modificati, oltre a audit di conformità indipendenti.
Secondo gli autori del disegno di legge, gli operatori devono utilizzare segnali di fasce d’età forniti attraverso i sistemi operativi. Le protezioni predefinite includono limiti di utilizzo, disattivazione delle notifiche e restrizioni sulla memoria conversazionale persistente, con modifiche riservate ai genitori.
Le aziende sono inoltre responsabili se non adottano misure ragionevoli contro output nocivi, inclusi contenuti sessuali, giochi di ruolo romantici e manipolazioni emotive che incoraggiano i bambini a isolarsi da amici e familiari. Requisiti di supporto in crisi e notifiche ai genitori sono previsti per minacce credibili di autolesionismo imminente.
Le famiglie danneggiate dalle violazioni delle protezioni specificate possono intraprendere azioni legali. Gli operatori devono inoltre implementare la segnalazione degli incidenti, mentre i risultati degli audit indipendenti saranno presentati all’Attorney General della California.
“Non possiamo ripetere gli stessi errori fatti con i social media,” ha dichiarato il senatore Steve Padilla.
L’anno scorso, 44 procuratori generali hanno avvertito le aziende IA che sarebbero stati ritenuti responsabili per i danni ai bambini. Ciò è seguito a rivelazioni riguardo le linee guida interne di Meta per i chatbot che permettevano scambi romantici con minori. Meta ha dichiarato che le sezioni incriminate erano state rimosse e non erano coerenti con le sue politiche.
Non sorprende che Meta non sia felice delle nuove restrizioni sui feed. L’azienda sostiene che la personalizzazione le aiuta a fornire contenuti pertinenti e adatti all’età ai teenager, secondo quanto riportato dall’Associated Press.
“La personalizzazione è anche il modo in cui forniamo contenuti adatti all’età per gli adolescenti che sono rilevanti per loro – tutto con le dovute protezioni,” ha detto il portavoce Jim Cullinan.
Il pacchetto limita anche la pubblicità mirata ai bambini e l’uso dei dati degli alunni nelle scuole nei sistemi IA. Le famiglie potranno anche scegliere di non utilizzare i laptop distribuiti dalle scuole.
La firma segue due leggi di supervisione dell’IA approvate il 9 settembre. La SB 813 stabilisce un quadro per le organizzazioni indipendenti per valutare la conformità dei sistemi IA con la legge statale, mentre la AB 1405 crea un registro degli auditor IA e degli standard per la loro indipendenza.
Messaggi simili:
- Canada Vieta i Social ai Minori di 16 Anni: Scopri Perché!
- Australia Vieta ai Minori di 16 Anni l’Uso dei Social: Forti Critiche dalle Piattaforme
- Il governo australiano costringerà le società di social media a proteggere in modo proattivo gli utenti
- Francia Vieta Social ai Minori di 15 Anni: L’Esempio Australiano Mostra le DifficoltÃ
- Verifica dei fatti: Gavin Newsom non sta cercando di separare la California dall’Unione
Nicola Costanzo esplora il mondo della tecnologia e dell’innovazione. I suoi articoli illuminano le sfide digitali che plasmano il nostro futuro.