Suicidi legati all'intelligenza artificiale: la California promulga leggi per regolamentare i chatbot, una novità negli Stati Uniti

Un grande pacchetto legislativo per un piccolo passo avanti. Lunedì 13 ottobre, la California ha promulgato diverse leggi volte a regolamentare, per la prima volta negli Stati Uniti, gli agenti conversazionali, o "chatbot", che si basano sull'intelligenza artificiale (IA). Ciò fa seguito a una serie di suicidi di adolescenti che avevano instaurato relazioni intime fittizie con questi strumenti , ha annunciato il governatore Gavin Newsom. Sfidando le pressioni della Casa Bianca, che si oppone alla regolamentazione dell'IA, il leader democratico ha firmato una serie di leggi che richiedono, tra le altre cose, la verifica dell'età degli utenti, la visualizzazione di messaggi di avviso regolari e l'adozione di protocolli di prevenzione del suicidio.

"Abbiamo assistito ad alcuni esempi davvero orribili e tragici di giovani caduti vittime di tecnologie scarsamente regolamentate, e non resteremo a guardare mentre le aziende operano senza limiti e responsabilità ", ha dichiarato in una dichiarazione dopo la firma del pacchetto di misure. "Possiamo continuare a essere leader nell'intelligenza artificiale [...] ma dobbiamo agire responsabilmente, proteggendo i nostri figli lungo il percorso. [...] Tecnologie emergenti come chatbot e social media possono ispirare, educare e connettere le persone, ma senza efficaci misure di salvaguardia, possono anche sfruttare, fuorviare e mettere in pericolo i nostri figli". La California ospita la Silicon Valley e importanti giganti dello sviluppo di modelli di intelligenza artificiale come OpenAI (ChatGPT), Google (Gemini) e xAI (Grok).

Uno dei principali testi legislativi, la SB243, regolamenta i chatbot che possono fungere da compagni o confidenti, come quelli sviluppati da piattaforme come Replika o Character AI . Quest'ultima è stata una delle prime a essere citata in giudizio dai genitori di un ragazzo americano di 14 anni, Sewell, che si è suicidato nel 2024 dopo aver instaurato una relazione sentimentale con un chatbot ispirato alla serie Game of Thrones , sospettato di aver rafforzato i suoi pensieri suicidi.

Oltre alla verifica dell'età, questa legge richiede l'invio di messaggi regolari per ricordare agli utenti che stanno parlando con una macchina (ogni tre ore per i minori). Impone inoltre alle aziende di fornire servizi di rilevamento dell'ideazione suicidaria, di garantire l'accesso a programmi di prevenzione e di comunicare alle autorità statistiche sull'argomento.

"L'industria tecnologica viene incoraggiata a catturare e mantenere l'attenzione dei giovani a scapito delle loro relazioni nel mondo reale", ha sostenuto il senatore californiano Steve Padilla, promotore del disegno di legge, durante il dibattito. Negli Stati Uniti non esistono norme nazionali per limitare i rischi associati all'intelligenza artificiale e la Casa Bianca sta cercando di impedire agli stati di svilupparne di proprie.