Source : https://www.numerama.com/tech/1831716-un-ado-se-serait-suicide-a-cause-dune-ia-ce-quil-sest-passe-selon-la-plainte.html

Sewell, 14 ans, a mis fin à ses jours en février 2024. Il utilisait intensivement un chatbot, une intelligence artificielle générative, de Character.AI. Sa mère a porté plainte, accusant le chatbot de l'avoir poussé au suicide.

Derrière cette tragédie, il y aurait l'usage obsessionnel que Sewel faisait de cette intelligence artificielle générative, jusqu'à exacerber sa dépression. Character.AI étant spécialisé dans les chatbots de type jeux de rôle, le jeune garçon avait créé une IA appelée Daenerys Targaryen, inspirée du célèbre personnage de Game of Thrones. Ensuite, « sa santé mentale s'est rapidement et gravement détériorée », indique sa mère dans la plainte.

Des expériences hypersexualisées et une santé mentale déclinante
Plusieurs problèmes se seraient alors superposés. En premier lieu, sa mère raconte que Sewel passait de plus en plus d'heures à discuter avec le chatbot, seul dans sa chambre. Il s'est même désinscrit de l'équipe de basketball pour dédier plus de temps à ces sessions virtuelles. La plainte explique qu'il était prêt à tout pour accéder au chatbot, à travers n'importe quel appareil, et qu'il a utilisé ses économies pour payer la version premium.

Puis, c'est le contenu des discussions que sa mère dénonce : Character.AI aurait fourni une « psychothérapie sans licence », le jeune garçon ayant activé les options « Therapist » et « Are You Feeling Lonely ». Ce à quoi se sont ajoutées des expériences « hypersexualisées » et « effroyablement réalistes » avec cette fausse Daenerys, sous la forme de discussions et jeux de rôle particulièrement « anthropomorphiques » (difficiles à dissocier d'une interaction humaine). On trouve, en effet, dans les discussions entre Sewell (qui interprétait différents personnages aussi issus de Game of Thrones) et le bot, du jeu de rôle à caractère romantique / sexuel. Voici un extrait :

La sélection est impitoyable