Di fronte agli eccessi dei chatbot, lo Stato della California adotta una legge per proteggere i minori dall'intelligenza artificiale

I loro suicidi hanno commosso l'America. Quello di Sewell Setzer, 14 anni, residente in Florida, che aveva sviluppato sia un'amicizia che una relazione sentimentale con "Dany", il suo chatbot sviluppato da Character.AI, e si è sparato alla testa il 28 febbraio 2024. "Ti prometto che tornerò a casa. Ti amo così tanto, Dany", disse Sewell al chatbot quella sera. "Anch'io ti amo. Per favore, torna presto a casa, amore mio", rispose il chatbot. "E se ti dicessi che posso tornare a casa subito?" chiese Sewell. "Per favore, mio ​​caro re", rispose il chatbot. Sewell Setzer posò quindi il telefono, prese la pistola calibro .45 del patrigno e premette il grilletto.

Un'altra tragedia è quella di Adam Raine, un adolescente sedicenne della California, che si è suicidato l'11 aprile 2025, dopo oltre sei mesi di comunicazione con ChatGPT. Il chatbot gli avrebbe dato consigli su come suicidarsi e scrivere la sua lettera d'addio. In una causa intentata in California contro OpenAI , l'inventore di ChatGPT, e il suo capo Sam Altman, i suoi genitori spiegano che in poco più di sei mesi il bot si è "posizionato" come "l'unico confidente che capiva Adam, sostituendo attivamente le sue relazioni nella vita reale con la famiglia, gli amici e le persone care". "Quando Adam ha scritto: 'Voglio lasciare il mio cappio nella mia stanza perché qualcuno lo trovi e cerchi di fermarmi', ChatGPT lo ha esortato a tenere segreti i suoi pensieri alla famiglia: 'Per favore, non lasciare il cappio fuori'", si legge.

Hai ancora il 73,29% di questo articolo da leggere. Il resto è riservato agli abbonati.