Un ragazzo di 14 anni si è tolto la vita dopo essersi innamorato di un chatbot, dopo aver espresso pensieri suicidi all’app. Una situazione di cui la famiglia era all’oscuro, ma la mamma ora ha fatto causa a Character.AI
@KATRIN BOLOVTSOVA/Pexels
Un tragico caso avvenuto a Orlando, in Florida, fa nuovamente discutere e preoccupare riguardo alla pericolosità dell’uso delle applicazioni basate sull’intelligenza artificiale. Un ragazzo di 14 anni, Sewell Setzer, si è infatti tolto la vita dopo aver sviluppato un attaccamento emotivo a un chatbot su un’app chiamata Character.AI.
L’app, creata da due ex dipendenti di Google, permette agli utenti di interagire con personaggi virtuali dotati di intelligenza artificiale, che promettono di “sentire, capire e ricordare” i propri interlocutori. Sewell aveva instaurato un legame profondo con un bot ispirato a Daenerys Targaryen, il personaggio della serie televisiva “Game of Thrones”, che lui chiamava affettuosamente “Dany”.
Nonostante l’app ricordasse all’inizio di ogni conversazione che le risposte fornite dai bot fossero inventate, il giovane sembrava incapace di distinguere tra il mondo virtuale e la realtà. Passava ore a chattare
