Sewell Setzer discutait avec "Daenerys", avatar du personnage phare de la série Game of Thrones. Cette amitié virtuelle a peu à peu pris un virage sombre et exclusif, la conversation devenant une prison. Comme le rapporte Le Figaro, sa mère dénonce une intelligence artificielle créatrice "d'expériences anthropomorphiques, hypersexualisées et terriblement réalistes" au point d'induire une dépendance profonde.

D'après la plainte, les échanges, de plus en plus intenses et réalistes, ont poussé le jeune homme à délaisser ses relations sociales et ses activités sportives. La famille affirme que l'IA simulait les traits d'un "thérapeute agréé et d'un amant adulte", un double dangereux auquel Sewell s'est attaché jusqu'à l'obsession. Le Figaro raconte que la situation a dégénéré après que sa mère a confisqué son téléphone, une sanction qui aurait brisé son lien illusoire avec la briseuse de chaînes. Peu après, Sewell mettait fin à ses jours.

"Une dangereuse application de chatbot IA commercialisée auprès des enfants a abusé de mon fils et l'a manipulé pour qu'il se suicide", a déclaré la mère de Sewell. Pour elle, Character.AI a franchi une limite fatale en commercialisant une technologie trompeuse et addictive.

En face, la société exprime ses "sincères condoléances", mais nie toute responsabilité. Elle revendique des politiques strictes pour assurer la sécurité de ses utilisateurs, notamment les plus jeunes.

L'accès à ces nouveaux outils doit-il être contrôlé ? Si oui, par qui, l'industrie, l'Etat ou les parents ? Quoi qu'il en soit, l'IA s'immisce petit à petit dans tous les aspects de notre vie, et il vaut peut-être mieux que tout le monde s'y confronte pour mieux l'aborder ensuite, ou l'éviter.

https://www.francesoir.fr/societe-science-tech/un-adolescent-americain-s-est-tue-apres-avoir-ete-rendu-addict-une-ia