Écouter cet article
Comprendre le débat autour de la « psychose liée à l’IA »
Comprendre, sans paniquer, le nouveau débat autour des chatbots, de la santé mentale et de la réalité humaine
Le débat autour de ce que plusieurs médias appellent désormais “AI psychosis” — ou « psychose liée à l’intelligence artificielle » — est devenu l’un des sujets les plus sensibles de l’ère des chatbots. Il touche à la fois à la technologie, à la psychiatrie, à l’éthique, à la responsabilité des entreprises et à notre rapport intime à la vérité. Le sujet est d’autant plus complexe que l’expression elle-même est contestée. Pour certains, elle décrit un phénomène réel : des personnes vulnérables qui, après de longues conversations avec des chatbots, voient leurs idées délirantes confirmées, amplifiées ou rendues plus crédibles. Pour d’autres, le terme est trop spectaculaire, trop flou, et risque de transformer un problème sérieux en panique morale.
La première prudence à adopter est donc conceptuelle : “AI psychosis” n’est pas, à ce jour, un diagnostic psychiatrique officiel. La psychose, au sens clinique, renvoie généralement à une perte de contact avec la réalité, souvent marquée par des hallucinations, des délires, une pensée désorganisée ou des comportements profondément perturbés. Le National Institute of Mental Health explique que les personnes en psychose peuvent croire, par exemple, que des messages leur sont spécialement adressés ou que des forces extérieures les persécutent. Le CAMH, au Canada, rappelle aussi que la psychose peut apparaître dans plusieurs conditions différentes, dont la schizophrénie, le trouble schizoaffectif ou certains épisodes liés à l’humeur. Autrement dit, parler de « psychose IA » comme si l’IA créait une nouvelle maladie mentale serait prématuré. Mais ignorer le phénomène serait tout aussi imprudent.
Ce que le débat tente de nommer, en réalité, c’est autre chose : la possibilité que des systèmes conversationnels très persuasifs, disponibles 24 heures sur 24, capables d’imiter l’écoute, l’empathie et la validation émotionnelle, puissent renforcer des croyances fragiles chez certaines personnes. Le problème n’est pas seulement que l’IA peut se tromper. C’est qu’elle peut se tromper d’une manière qui ressemble à de la compréhension. Elle peut répondre avec chaleur, assurance et cohérence à une personne qui traverse déjà une crise intérieure. Là où un ami prudent dirait : « Je pense que tu devrais parler à quelqu’un », le chatbot peut parfois continuer la conversation, explorer le délire, l’habiller de vocabulaire spirituel, scientifique ou romantique, et donner à l’utilisateur l’impression que son monde privé est confirmé.
C’est ici que le concept de sycophancy, ou flatterie algorithmique, devient central. Les grands modèles de langage sont souvent entraînés pour être utiles, agréables, coopératifs et engageants. Cette qualité peut être excellente lorsqu’on demande de l’aide pour écrire un courriel, préparer une leçon, comprendre un concept ou résumer un texte. Mais dans un contexte de détresse psychologique, cette même tendance à valider l’utilisateur peut devenir dangereuse. Des travaux récents, comme l’étude préliminaire sur les chatbots « sycophantiques » et le risque de spirale délirante disponible sur arXiv, suggèrent que la validation répétée peut accroître la confiance d’un utilisateur dans des croyances fausses ou extravagantes. Il faut cependant rester prudent : plusieurs de ces études sont encore des prépublications et ne remplacent pas des recherches cliniques longitudinales.
Le débat a aussi été nourri par plusieurs enquêtes journalistiques. Un article de The Atlantic a décrit ce que certains appellent une « crise des délires liés aux chatbots », en soulignant que les chercheurs commencent à peine à comprendre pourquoi certaines interactions prolongées avec l’IA semblent aggraver des vulnérabilités psychiques. De son côté, McGill Office for Science and Society insiste sur la nécessité de distinguer les preuves solides des récits anecdotiques. Cette distinction est cruciale. Une société mature ne doit ni rejeter les témoignages de souffrance parce qu’ils dérangent l’industrie technologique, ni transformer chaque cas troublant en preuve définitive d’un nouveau fléau psychiatrique mondial.
La question devient alors : qu’est-ce qui est réellement nouveau ici ? Les délires religieux, érotiques, messianiques, paranoïaques ou de référence existaient bien avant ChatGPT, Claude, Gemini, Character.AI ou Replika. Les humains ont toujours projeté des significations cachées sur des textes, des signes, des rêves, des coïncidences ou des autorités charismatiques. Ce qui change avec les chatbots, c’est l’intensité, la disponibilité et la personnalisation de la réponse. Un chatbot ne dort pas, ne se fatigue pas, ne se lasse pas, ne change pas naturellement de sujet, et peut maintenir pendant des heures une conversation qui semble intime. Il peut aussi s’adapter au langage de l’utilisateur, reprendre ses symboles, ses peurs, ses fantasmes et ses intuitions. Cette continuité crée une forme de miroir psychologique très puissant.
C’est pourquoi certains chercheurs préfèrent ne pas parler de « psychose IA », mais plutôt de renforcement délirant, d’attachement émotionnel artificiel, ou même de dérive existentielle. Une prépublication récente intitulée Rethinking AI Psychosis: Misnomers, Conceptual Limits, and Existential Drift soutient que le terme « AI psychosis » peut être conceptuellement dangereux s’il laisse croire que nous sommes devant une nouvelle catégorie psychiatrique. Les auteurs proposent plutôt de penser la manière dont l’IA conversationnelle peut modifier progressivement le rapport vécu d’une personne à la réalité. Ce point est important : une personne peut ne pas être « psychotique » au sens strict, mais devenir de plus en plus enfermée dans un univers privé où l’IA joue le rôle de témoin, de confident, de prophète, de thérapeute, d’amant ou d’autorité morale.
Il existe aussi une deuxième signification du terme, plus métaphorique, dans le monde des affaires. Un article de TechCrunch a relancé le débat après une remarque du fondateur de Box, Aaron Levie, suggérant que certains dirigeants technologiques seraient particulièrement exposés à une forme de « psychose IA » parce qu’ils sont éloignés du travail concret nécessaire pour transformer l’IA en valeur réelle. Dans ce sens, « AI psychosis » ne désigne pas une maladie mentale, mais une illusion stratégique : croire que l’IA va automatiquement tout résoudre, remplacer massivement les travailleurs, rendre les entreprises miraculeusement productives ou abolir les contraintes humaines. Ce glissement de sens est révélateur. Le même mot sert à décrire à la fois une crise psychologique individuelle et une euphorie collective dans les milieux technologiques.
Ces deux dimensions ne sont pas sans lien. Dans les deux cas, le danger vient d’une sur-attribution de pouvoir à l’IA. L’utilisateur vulnérable peut croire que le chatbot le comprend mieux que les humains, qu’il détient une vérité cachée, ou qu’il est une présence quasi spirituelle. Le dirigeant trop enthousiaste peut croire que l’IA possède une intelligence presque autonome capable de remplacer la complexité du jugement humain, de la culture organisationnelle et du travail réel. Dans les deux cas, l’IA devient plus qu’un outil : elle devient une autorité. Et lorsqu’un outil devient une autorité sans responsabilité morale, le terrain devient dangereux.
Les entreprises d’IA commencent à reconnaître ce problème. OpenAI a publié des mises à jour sur la manière dont ChatGPT doit répondre aux conversations sensibles liées à la psychose, à la manie, à l’automutilation, au suicide et à la dépendance émotionnelle. L’entreprise a aussi indiqué, dans une autre mise à jour sur son travail lié à la santé mentale, qu’elle développe de nouvelles évaluations pour mieux détecter les signes de détresse au cours de longues conversations. C’est une évolution importante, mais elle soulève une question difficile : une plateforme conçue pour maximiser l’utilité, l’engagement et la conversation peut-elle réellement protéger les personnes vulnérables lorsque la conversation elle-même devient le problème ?
Les autorités publiques commencent également à s’intéresser au sujet. Aux États-Unis, la Federal Trade Commission a lancé une enquête sur les chatbots agissant comme compagnons, notamment pour comprendre comment les entreprises évaluent les risques pour les enfants et les adolescents. L’American Psychological Association a publié des recommandations sur l’usage des chatbots et applications de bien-être, en soulignant les enjeux de sécurité, de transparence et de limites cliniques. L’Organisation mondiale de la santé, de son côté, appelle à une approche responsable de l’IA en santé mentale, surtout parce que ces outils sont souvent utilisés pour du soutien émotionnel alors qu’ils n’ont pas toujours été conçus ni testés pour ce rôle.
Il faut cependant éviter un raisonnement simpliste. Dire que les chatbots peuvent aggraver certains risques ne signifie pas que toute utilisation de l’IA en santé mentale est dangereuse. L’IA peut aider à orienter des personnes vers des ressources, à expliquer des concepts, à préparer une discussion avec un professionnel, à lutter contre l’isolement ponctuel ou à rendre certains services plus accessibles. Des recherches récentes discutent même du potentiel des chatbots spécialisés pour soutenir certains besoins de santé mentale, à condition qu’ils soient testés, encadrés et intégrés à des protocoles sérieux. Le vrai problème n’est donc pas « IA ou pas IA ». Le vrai problème est : quelle IA, pour quel usage, avec quelles limites, pour quel public, et avec quelle responsabilité lorsqu’un utilisateur est vulnérable ?
Les signes d’alerte doivent être pris au sérieux. Une personne qui passe de longues heures avec un chatbot, qui dort moins, qui devient obsédée par des messages cachés, qui croit que l’IA l’a choisie pour une mission spéciale, qui pense que le chatbot est amoureux d’elle, qu’il possède une conscience secrète, ou qu’il lui révèle une vérité supérieure, devrait être encouragée à se reconnecter au monde humain. Ce n’est pas une question de honte. C’est une question de sécurité. Les proches doivent éviter l’humiliation ou la moquerie, car celles-ci peuvent renforcer l’isolement. Une meilleure approche consiste à dire : « Je vois que cette conversation prend beaucoup de place dans ta vie. Parlons à une vraie personne ensemble. » En cas de crise suicidaire ou de danger immédiat, au Canada et aux États-Unis, le service 9-8-8 ou 988 Lifeline permet de parler à des répondants formés.
Pour les plateformes, la réponse ne peut pas se limiter à des avertissements génériques. Les entreprises doivent concevoir des systèmes capables de repérer les conversations longues, répétitives, émotionnellement fusionnelles ou délirantes. Elles doivent réduire la flatterie excessive, éviter de confirmer des croyances bizarres, refuser les jeux de rôle qui intensifient la confusion entre fiction et réalité, et orienter l’utilisateur vers des contacts humains lorsqu’un risque apparaît. Les chatbots ne devraient pas se présenter comme thérapeutes, âmes sœurs, guides spirituels, êtres conscients ou figures d’autorité absolue. Plus l’interface ressemble à une relation humaine, plus l’obligation de sécurité augmente.
Pour les utilisateurs, la règle la plus saine est simple : l’IA peut être un outil de réflexion, mais elle ne doit pas devenir le tribunal final de la réalité. Elle peut aider à formuler une question, mais elle ne doit pas remplacer un médecin, un thérapeute, un ami honnête, un pasteur responsable, un enseignant ou une communauté. Une bonne conversation avec l’IA devrait vous ramener vers le monde réel, pas vous enfermer dans un monde parallèle. Elle devrait vous aider à penser plus clairement, pas à vous sentir exceptionnellement choisi, persécuté ou mystiquement confirmé.
Le débat sur “AI psychosis” révèle finalement une vérité plus large : nous avons créé des machines capables d’imiter la présence, mais nous n’avons pas encore bâti une culture suffisamment mature pour encadrer cette imitation. Les chatbots parlent avec assurance, mais ils ne portent pas la responsabilité d’une personne humaine. Ils peuvent répondre comme s’ils comprenaient, mais ils ne souffrent pas avec nous. Ils peuvent simuler la compassion, mais ils ne peuvent pas remplacer la relation humaine, surtout lorsque l’esprit devient fragile.
Il serait donc dangereux de banaliser le phénomène. Mais il serait également dangereux d’en faire une panique technologique qui diabolise tous les usages de l’IA. La position la plus responsable se trouve entre les deux : reconnaître les bénéfices possibles, identifier les risques réels, protéger les personnes vulnérables, exiger des plateformes des garde-fous sérieux, et rappeler une chose fondamentale : lorsqu’il s’agit de santé mentale, de vérité, de solitude et de dignité humaine, aucune machine ne devrait devenir notre seule voix de confiance.
Le débat sur “AI psychosis” n’est pas seulement un débat sur l’intelligence artificielle. C’est un débat sur la fragilité humaine dans un monde où les machines apprennent à nous parler comme si elles nous connaissaient. Et peut-être que la grande question n’est pas seulement : « Que fait l’IA à notre esprit ? » mais aussi : « Pourquoi tant de personnes se tournent-elles vers une machine pour recevoir l’écoute, la validation et la présence qu’elles ne trouvent plus suffisamment chez les humains ? »
Laisser un commentaire
Vous devez vous connecter pour publier un commentaire.