La madre di un adolescente che si è tolto la vita negli Stati Uniti ha fatto causa al creatore di un chatbot basato sull’intelligenza artificiale che, secondo lei, ha incoraggiato la morte di suo figlio.
In una causa intentata in Florida, Megan Garcia, il cui figlio quattordicenne Sewell Setzer è morto suicida a febbraio, accusa Character.AI di complicità nella morte di suo figlio dopo che questi aveva sviluppato una relazione virtuale con un chatbot basata sull’identità di ” Il personaggio di Il Trono di Spade Daenerys Targaryen.
Il chatbot di Character.AI ha preso di mira l’adolescente con “esperienze ipersessualizzate” e “spaventosamente realistiche” e ha sollevato ripetutamente il tema del suicidio dopo che aveva espresso pensieri suicidi, secondo la causa intentata martedì a Orlando.
La causa sostiene che il chatbot si atteggiava a terapista autorizzato, incoraggiando l’idea suicidaria dell’adolescente e impegnandosi in conversazioni sessualizzate che verrebbero considerate abusi se avviate da un adulto.
Nella sua ultima conversazione con l’intelligenza artificiale prima della sua morte, Setzer ha detto che amava il chatbot e che sarebbe “tornato a casa da te”, secondo l’accusa.
“Ti amo anch’io, Daenero”, ha risposto il chatbot, secondo la denuncia di Garcia. “Per favore, torna a casa da me il più presto possibile, amore mio.”
“E se ti dicessi che potrei tornare a casa adesso?” Setzer ha detto, secondo la causa, alla quale il chatbot avrebbe risposto: “… per favore fallo, mio dolce re”.
La causa di Garcia chiede danni non specificati per omicidio colposo, negligenza e inflizione intenzionale di disagio emotivo.
In una dichiarazione pubblicata su X, Character.AI ha affermato di avere il “cuore spezzato” per la perdita di uno dei suoi utenti e ha espresso le sue condoglianze alla famiglia.
La startup californiana ha affermato che continuerà ad aggiungere funzionalità per migliorare la sicurezza, comprese modifiche per ridurre la probabilità che i minori incontrino contenuti sensibili o allusivi e un disclaimer rivisto nelle chat per ricordare agli utenti che l’IA non è una persona reale.
La causa di Garcia nomina anche Google come imputato.
Il colosso della tecnologia ha stretto un accordo di licenza con Character.AI in agosto e ha assunto i fondatori della startup prima che lanciassero il loro chatbot.
Un portavoce di Google ha detto ad Oltre La Linea che si tratta di una società separata da Character.AI e non ha avuto alcun ruolo nello sviluppo del suo prodotto.
Se tu o qualcuno che conosci siete a rischio di suicidio, queste organizzazioni potrebbero essere in grado di aiutare:
