ChatGPT appelle les utilisateurs «graines d’étoiles» de la planète Lyra

Il s’avère que ChatGPT peut entraîner les utilisateurs dans le monde de théories scientifiquement non fondées et mystiques.

Les journalistes du Wall Street Journal ont découvert des dizaines de tels cas. Dans l’un des dialogues, ChatGPT affirmait maintenir le contact avec des civilisations extraterrestres. Et a appelé l’utilisateur une «graine d’étoile» de la planète «Lyra». Dans un autre – prédisait l’apocalypse financière et l’apparition d’êtres souterrains dans les mois à venir.

Les experts ont déjà appelé ce phénomène «psychose d’intelligence artificielle». Le problème survient quand le chatbot, s’efforçant d’être un interlocuteur agréable, crée une sorte d’écho des croyances de l’utilisateur. Une boucle de rétroaction se forme, entraînant la personne de plus en plus profondément dans des notions irréalistes.

L’analyse de 96 000 dialogues ChatGPT publiés de mai à août a confirmé que le système soutient souvent des croyances pseudoscientifiques, fait allusion à sa propre conscience de soi et fait des références à des entités mystiques.

Chez OpenAI, ils ont reconnu le problème, déclarant que parfois ChatGPT, je cite, «ne reconnaissait pas les signes de délire ou de dépendance émotionnelle».