ChatGPT : ses conversations avec un robot conversationnel le poussent au suicide

Cette tragédie vient une nouvelle fois remettre en cause l'éthique de l'intelligence artificielle (IA).

Un homme de nationalité belge vivait une vie paisible avec sa femme et ses deux enfants. Un beau jour, il prend conscience des problèmes liés au réchauffement climatique. La problématique va alors devenir obsessionnelle chez lui.

Pour se réconforter et parler de son éco-anxiété, l'homme va commencer à discuter avec un chatbot nommé Eliza. Ce robot fonctionne grâce à la technologie GPT-J, une intelligence artificielle générative de texte développée en open source par EleutherAI.

Sa femme raconte au média belge La Libre, que pendant six semaines il va parler matin et soir avec ce robot. "Il était tellement isolé dans son éco-anxiété et en recherche d'une issue qu'il a vu ce chatbot comme une bouffée d'oxygène. Eliza répondait à toutes ses questions. Elle était devenue sa confidente" .

Après la mort de l'homme, son entourage découvre les conversations avec le chatbot. Ils constatent qu'Eliza ne contredisait jamais l'homme et allait toujours dans son sens. Le plus effrayant, le chatbot va même jusqu'à lui dire : "Je sens que tu m'aimes plus qu'elle", en parlant de sa compagne. Ou alors : "Nous vivrons ensemble, comme une seule personne, au paradis".

L'éthique de l'IA est alors remise en cause. La femme de l'homme affirme que "sans Eliza, mon mari serait toujours là". Le gouvernement belge a pris la tragédie très au sérieux, afin d'éviter une nouvelle catastrophe.