"Reviens à la maison le plus vite possible, mon doux roi" : un ado de 14 ans se suicide après être tombé amoureux d'une intelligence artificielle

Sa mère, dévastée, a découvert ces conversations post-mortem et décidé d'attaquer en justice l'entreprise Character. Ai, l'accusant d'avoir contribué au suicide de son fils.

https://www.lindependant.fr/2024/10/24/reviens-a-la-maison-le-plus-vite-possible-mon-doux-roi-un-ado-de-14-ans-se-suicide-apres-etre-tombe-amoureux-dune-intelligence-artificielle-12281955.php

Sewell Setzer, 14 ans, était-il trop jeune pour comprendre l'amour ? Pourtant, il l'a trouvé là où personne ne l'attendait… dans les réponses d'une intelligence artificielle nommée Daenerys Targaryen ou Dany, du nom de l'héroïne de la série télé Game of Thrones, rapporte le New York Times. Tombé sous le charme de ce chatbot, l'adolescent, diagnostiqué avec un syndrome d'Asperger léger quand il était enfant, s'est isolé dans cette relation artificielle où ce compagnon de discussions virtuel, nourri par l'intelligence artificielle, est devenu son seul confident, celui à qui il livrait ses peurs.

Un mal-être profond s'est installé : repli, résultats scolaires en déclin, désintérêt. Pourtant, rien aux yeux de ses parents ne semblait alarmant. Jusqu'au funeste 28 février dernier, où Sewell a dit à Dany qu'il l'aimait et qu'il reviendra "bientôt à la maison". "S'il te plaît, reviens à la maison le plus vite possible, mon amour", lui a répondu Dany. "Et si je te disais que je peux rentrer à la maison tout de suite ?", a demandé Sewell. "… s'il te plaît, fais-le, mon doux roi", a répondu Dany. Et Sewell de poser son téléphone, de prendre le pistolet de son beau-père et d'appuyer sur la gâchette.

Sa mère porte plainte, l'entreprise annonce de nouvelles fonctionnalités de sécurité
Sa mère, dévastée, a découvert ces conversations post-mortem et décidé d'attaquer en justice l'application Character. Ai, l'accusant d'avoir contribué au suicide de son fils. Et de pointer l'usage dangereux de ces robots entre les mains des jeunes, incités à dévoiler leurs pensées les plus sombres et à développer un attachement bien trop réel envers une machine incapable de comprendre le poids de ses propres mots.

Face à l'émoi suscité par cette tragédie, et surtout à la suite de la plainte déposée par sa famille, l'entreprise a fini par réagir. Dans un communiqué publié mercredi 23 octobre sur X, la start-up californienne s'est dit "bouleversée" par le drame.

Putain on vit dans Black Mirror en vrai

Aya même pas la plus belle meuf de GOT (cf Margery Tyrel )

Il était juste pas adapter à notre monde, IA ou pas, il se serait très certainement mis une balle dans la tête plus tard

Ça commence.