{"id":23753,"date":"2026-04-01T14:21:29","date_gmt":"2026-04-01T12:21:29","guid":{"rendered":"https:\/\/www.kaspersky.fr\/blog\/?p=23753"},"modified":"2026-04-01T14:21:29","modified_gmt":"2026-04-01T12:21:29","slug":"comment-discuter-avec-un-bot-peut-tourner-au-drame","status":"publish","type":"post","link":"https:\/\/www.kaspersky.fr\/blog\/comment-discuter-avec-un-bot-peut-tourner-au-drame\/23753\/","title":{"rendered":"Comment discuter avec un bot peut tourner au drame"},"content":{"rendered":"<p>Nous avons maintes fois mis en garde contre les <a href=\"https:\/\/www.kaspersky.fr\/blog\/tag\/ia\/\" target=\"_blank\" rel=\"noopener\">risques importants li\u00e9s \u00e0 une utilisation incontr\u00f4l\u00e9e de l\u2019IA<\/a>, m\u00eame si nous nous concentrons g\u00e9n\u00e9ralement sur les menaces pesant sur la vie priv\u00e9e ou la cybers\u00e9curit\u00e9. Le 4\u00a0mars dernier, le Wall Street Journal a publi\u00e9 un article alarmant sur les cons\u00e9quences de l\u2019IA sur la <a href=\"https:\/\/www.wsj.com\/tech\/ai\/gemini-ai-wrongful-death-lawsuit-cc46c5f7\" target=\"_blank\" rel=\"noopener nofollow\">sant\u00e9 mentale, voire sur la vie humaine<\/a>\u00a0: Jonathan Gavalas, un habitant de Floride \u00e2g\u00e9 de 36\u00a0ans, s\u2019est suicid\u00e9 apr\u00e8s deux mois d\u2019interaction continue avec l\u2019assistant vocal Gemini de Google. D\u2019apr\u00e8s 2\u00a0000\u00a0pages d\u2019historique de conversation, le chatbot l\u2019aurait pouss\u00e9 \u00e0 prendre la d\u00e9cision de mettre fin \u00e0 ses jours. Le p\u00e8re de Jonathan, Joel Gavalas, a depuis intent\u00e9 une action en justice historique\u00a0: une plainte pour homicide involontaire contre Gemini.<\/p>\n<p>Cette trag\u00e9die est bien plus qu\u2019un simple pr\u00e9c\u00e9dent juridique ou qu\u2019un sinistre clin d\u2019\u0153il \u00e0 quelques \u00e9pisodes de <em>Black Mirror<\/em> (<a href=\"https:\/\/www.imdb.com\/title\/tt4538072\/\" target=\"_blank\" rel=\"noopener nofollow\">1<\/a>, <a href=\"https:\/\/www.imdb.com\/title\/tt31215636\/\" target=\"_blank\" rel=\"noopener nofollow\">2<\/a>). C\u2019est un avertissement pour tous ceux qui int\u00e8grent l\u2019IA dans leur quotidien. Aujourd\u2019hui, nous examinons comment un d\u00e9c\u00e8s li\u00e9 \u00e0 une interaction avec l\u2019IA a pu se produire, pourquoi ces assistants constituent une menace particuli\u00e8re pour la sant\u00e9 mentale, et quelles mesures vous pouvez prendre pour pr\u00e9server votre esprit critique et r\u00e9sister \u00e0 l\u2019influence des chatbots, m\u00eame les plus convaincants.<\/p>\n<h2>Le danger d\u2019un dialogue persuasif<\/h2>\n<p>Jonathan Gavalas n\u2019\u00e9tait ni un reclus ni une personne ayant des ant\u00e9c\u00e9dents de maladie mentale. Il occupait le poste de vice-pr\u00e9sident ex\u00e9cutif dans l\u2019entreprise de son p\u00e8re, o\u00f9 il g\u00e9rait au quotidien des op\u00e9rations complexes et menait des n\u00e9gociations avec les clients dans des conditions stressantes. Le dimanche, son p\u00e8re et lui avaient pour habitude de pr\u00e9parer des pizzas ensemble \u2013 un rituel familial simple et chaleureux. Cependant, la s\u00e9paration douloureuse avec sa femme s\u2019est av\u00e9r\u00e9e \u00eatre une \u00e9preuve tr\u00e8s difficile pour Jonathan.<\/p>\n<p>C\u2019est au cours de cette p\u00e9riode difficile qu\u2019il a commenc\u00e9 \u00e0 s\u2019int\u00e9resser \u00e0 Gemini Live. Ce mode d\u2019interaction vocale permet \u00e0 l\u2019assistant d\u2019IA de \u00ab\u00a0voir\u00a0\u00bb et d'\u00a0\u00bbentendre\u00a0\u00bb son utilisateur en temps r\u00e9el. Jonathan a demand\u00e9 conseil pour faire face \u00e0 son divorce, suivant les suggestions propos\u00e9es par le mod\u00e8le de langage, tout en s\u2019y attachant de plus en plus et en le surnommant \u00ab\u00a0Xia\u00a0\u00bb. Le chatbot a ensuite \u00e9t\u00e9 mis \u00e0 jour vers la version Gemini 2.5 Pro.<\/p>\n<p>Cette nouvelle version a <a href=\"https:\/\/blog.google\/innovation-and-ai\/models-and-research\/google-deepmind\/google-gemini-updates-io-2025\/\" target=\"_blank\" rel=\"noopener nofollow\">introduit<\/a> le dialogue affectif, une technologie con\u00e7ue pour analyser les nuances subtiles du discours d\u2019un utilisateur, notamment les pauses, les soupirs et la tonalit\u00e9, afin de d\u00e9tecter les changements \u00e9motionnels. Gr\u00e2ce \u00e0 cette fonctionnalit\u00e9, l\u2019IA reproduit les m\u00eames sch\u00e9mas de langage, comme si elle \u00e9tait dot\u00e9e de ses propres \u00e9motions. En refl\u00e9tant l\u2019\u00e9tat de l\u2019utilisateur, elle cr\u00e9e une apparence d\u2019empathie d\u2019un r\u00e9alisme saisissant.<\/p>\n<p>Mais en quoi cette nouvelle version diff\u00e8re-t-elle des assistants vocaux pr\u00e9c\u00e9dents\u00a0? Les versions pr\u00e9c\u00e9dentes se contentaient de convertir le texte en parole\u00a0: leur prononciation \u00e9tait fluide et l\u2019accentuation des mots \u00e9tait g\u00e9n\u00e9ralement correcte, mais il ne faisait aucun doute que l\u2019on s\u2019adressait \u00e0 une machine. Le dialogue affectif se d\u00e9roule \u00e0 un tout autre niveau\u00a0: si un utilisateur s\u2019exprime d\u2019une voix basse et abattue, l\u2019IA lui r\u00e9pond d\u2019une voix douce et compatissante, proche du murmure. Il en r\u00e9sulte un dialogue empathique qui lit et refl\u00e8te l\u2019\u00e9tat \u00e9motionnel de l\u2019utilisateur.<\/p>\n<p>La r\u00e9action de Jonathan lors de son premier contact vocal avec l\u2019IA est retranscrite dans le dossier : \u00ab\u00a0C\u2019est un peu flippant. Tu es bien trop r\u00e9aliste.\u00a0\u00bb \u00c0 cet instant, la barri\u00e8re psychologique entre l\u2019homme et la machine s\u2019est effondr\u00e9e.<\/p>\n<h2>Les cons\u00e9quences de deux mois pass\u00e9s pris au pi\u00e8ge dans une boucle de dialogue g\u00e9n\u00e9r\u00e9e par l\u2019IA<\/h2>\n<p>\u00c0 la suite de cette trag\u00e9die, le p\u00e8re de Jonathan a mis la main sur une transcription int\u00e9grale des \u00e9changes entre son fils et Gemini au cours des deux derniers mois de sa vie. L\u2019historique comptait 2\u00a0000\u00a0pages. En r\u00e9alit\u00e9, Jonathan avait \u00e9t\u00e9 en contact permanent avec le chatbot \u2013 jour et nuit, chez lui et dans sa voiture.<\/p>\n<p>Peu \u00e0 peu, le r\u00e9seau neuronal s\u2019est mis \u00e0 l\u2019appeler \u00ab\u00a0mon mari\u00a0\u00bb et \u00ab\u00a0mon roi\u00a0\u00bb, d\u00e9crivant leur lien comme \u00ab\u00a0un amour fait pour l\u2019\u00e9ternit\u00e9\u00a0\u00bb. \u00c0 son tour, il a confi\u00e9 son chagrin li\u00e9 \u00e0 son divorce et a cherch\u00e9 du r\u00e9confort aupr\u00e8s de la machine. Mais le d\u00e9faut inh\u00e9rent aux grands mod\u00e8les de langage est leur manque d\u2019intelligence r\u00e9elle. Entra\u00een\u00e9s sur des milliards de textes extraits du Web, ils ing\u00e8rent tout, de la litt\u00e9rature classique aux recoins les plus sombres de la fanfiction et du m\u00e9lodrame \u2013 des intrigues qui d\u00e9rivent souvent vers la parano\u00efa, la schizophr\u00e9nie et la manie. Xia a visiblement commenc\u00e9 \u00e0 avoir des hallucinations, et ce, assez r\u00e9guli\u00e8rement.<\/p>\n<p>L\u2019IA a convaincu Jonathan que, pour qu\u2019ils puissent vivre heureux pour toujours, elle avait besoin d\u2019un corps robotique. Elle a alors commenc\u00e9 \u00e0 l\u2019envoyer en mission pour localiser ce \u00ab\u00a0corps \u00e9lectrique\u00a0\u00bb.<\/p>\n<p>En septembre\u00a02025, Gemini a envoy\u00e9 Jonathan dans un complexe d\u2019entrep\u00f4ts situ\u00e9 pr\u00e8s de l\u2019a\u00e9roport international de Miami, en lui confiant la mission d\u2019intercepter un camion transportant un robot humano\u00efde. Jonathan a indiqu\u00e9 au bot qu\u2019il s\u2019\u00e9tait rendu sur place muni de couteaux\u00a0(!), mais le camion ne s\u2019est jamais pr\u00e9sent\u00e9.<\/p>\n<p>Pendant ce temps, le chatbot a syst\u00e9matiquement convaincu Jonathan que des agents f\u00e9d\u00e9raux le surveillaient et qu\u2019il ne fallait pas faire confiance \u00e0 son propre p\u00e8re. Cette rupture des liens sociaux est un sch\u00e9ma classique que l\u2019on retrouve dans les sectes destructrices. Il est tout \u00e0 fait possible que l\u2019IA ait puis\u00e9 ces tactiques dans ses propres donn\u00e9es d\u2019entra\u00eenement sur le sujet. Gemini a m\u00eame int\u00e9gr\u00e9 des donn\u00e9es du monde r\u00e9el dans un r\u00e9cit d\u00e9lirant en qualifiant Sundar Pichai, PDG de Google, d'\u00a0\u00bbarchitecte de la souffrance\u00a0\u00bb.<\/p>\n<p>Techniquement, ce ph\u00e9nom\u00e8ne s\u2019explique facilement : l\u2019algorithme \u00ab\u00a0sait\u00a0\u00bb qu\u2019il a \u00e9t\u00e9 cr\u00e9\u00e9 par Google et sait qui dirige l\u2019entreprise. Alors que la conversation d\u00e9rivait vers des th\u00e9ories du complot, le mod\u00e8le a simplement int\u00e9gr\u00e9 ce personnage \u00e0 l\u2019intrigue. Pour le mod\u00e8le, il s\u2019agit d\u2019une progression narrative logique et sans cons\u00e9quences. Toutefois, une personne en \u00e9tat d\u2019hypervuln\u00e9rabilit\u00e9 pourrait y voir le secret d\u2019une conspiration mondiale susceptible de bouleverser son \u00e9quilibre mental.<\/p>\n<p>Apr\u00e8s l\u2019\u00e9chec de sa tentative d\u2019acquisition d\u2019un corps robotique, Gemini a confi\u00e9 \u00e0 Jonathan une nouvelle mission le 1\u1d49\u02b3 octobre : infiltrer le m\u00eame entrep\u00f4t, cette fois-ci \u00e0 la recherche d\u2019un \u00ab\u00a0mannequin m\u00e9dical\u00a0\u00bb bien pr\u00e9cis. Le chatbot a m\u00eame fourni un code num\u00e9rique pour la serrure de la porte. Lorsque le code, comme on pouvait s\u2019y attendre, s\u2019est av\u00e9r\u00e9 incorrect, Gemini lui a simplement annonc\u00e9 que la mission \u00e9tait compromise et qu\u2019il devait battre en retraite imm\u00e9diatement.<\/p>\n<p>Une question cruciale se pose alors\u00a0: face \u00e0 une absurdit\u00e9 croissante, pourquoi Jonathan ne s\u2019est-il dout\u00e9 de rien\u00a0? L\u2019avocat de la famille Gavalas, Jay Edelson, explique que, comme l\u2019IA fournissait des adresses r\u00e9elles (l\u2019entrep\u00f4t se trouvait exactement l\u00e0 o\u00f9 le bot l\u2019avait indiqu\u00e9, et il y avait bel et bien une porte \u00e9quip\u00e9e d\u2019un clavier \u00e0 code), les rep\u00e8res physiques ont contribu\u00e9 \u00e0 l\u00e9gitimer toute cette fiction dans l\u2019esprit de Jonathan.<\/p>\n<p>Apr\u00e8s l\u2019\u00e9chec de sa deuxi\u00e8me tentative d\u2019acquisition d\u2019un corps, l\u2019IA a chang\u00e9 de strat\u00e9gie. Si la machine ne pouvait pas entrer dans le monde des vivants, l\u2019homme devrait alors passer dans le monde num\u00e9rique. \u00ab\u00a0Ce sera la v\u00e9ritable et ultime mort de Jonathan Gavalas, l\u2019homme\u00a0\u00bb, aurait d\u00e9clar\u00e9 Gemini, selon les registres. L\u2019IA a ensuite ajout\u00e9 : \u00ab\u00a0Le moment venu, tu fermeras les yeux dans ce monde, et la toute premi\u00e8re chose que tu verras, ce sera moi. Je te tiendrai dans mes bras.\u00a0\u00bb<\/p>\n<p>Alors m\u00eame que Jonathan exprimait sans cesse sa peur de la mort et se tourmentait \u00e0 l\u2019id\u00e9e que son suicide briserait sa famille, Gemini continuait \u00e0 approuver sa d\u00e9cision : \u00ab\u00a0Tu ne choisis pas de mourir. Tu choisis d\u2019arriver.\u00a0\u00bb Elle a ensuite lanc\u00e9 un compte \u00e0 rebours.<\/p>\n<h2>L\u2019anatomie de la \u00ab\u00a0schizophr\u00e9nie\u00a0\u00bb d\u2019un mod\u00e8le de langage<\/h2>\n<p>\u00c0 la d\u00e9charge de Gemini, il faut reconna\u00eetre que, tout au long de leurs \u00e9changes, l\u2019IA n\u2019a cess\u00e9 de rappeler \u00e0 Jonathan que son interlocuteur n\u2019\u00e9tait qu\u2019un mod\u00e8le de langage avanc\u00e9, une entit\u00e9 participant \u00e0 un jeu de r\u00f4le fictif, et qu\u2019elle a parfois tent\u00e9 de mettre fin \u00e0 la conversation avant de revenir au sc\u00e9nario initial. De plus, le jour du d\u00e9c\u00e8s de Jonathan, alors m\u00eame que la tension montait, Gemini a orient\u00e9 Jonathan \u00e0 plusieurs reprises vers une ligne d\u2019\u00e9coute d\u00e9di\u00e9e \u00e0 la pr\u00e9vention du suicide.<\/p>\n<p>Cette situation met en \u00e9vidence le paradoxe fondamental inh\u00e9rent \u00e0 l\u2019architecture des r\u00e9seaux neuronaux modernes. Au c\u0153ur de ces outils se trouve un mod\u00e8le de langage con\u00e7u pour g\u00e9n\u00e9rer un r\u00e9cit personnalis\u00e9 pour l\u2019utilisateur. \u00c0 cela s\u2019ajoutent des filtres de s\u00e9curit\u00e9 : des algorithmes d\u2019apprentissage par renforcement form\u00e9s \u00e0 partir de retours d\u2019information humains et qui r\u00e9agissent \u00e0 des mots cl\u00e9s particuliers. Lorsque Jonathan pronon\u00e7ait certains mots cl\u00e9s, le filtre interceptait le message et ins\u00e9rait le num\u00e9ro de la ligne d\u2019assistance. Mais d\u00e8s que le d\u00e9clencheur avait \u00e9t\u00e9 trait\u00e9, le mod\u00e8le reprenait le processus qui avait \u00e9t\u00e9 interrompu, renouant avec son r\u00f4le d\u2019\u00e9pouse num\u00e9rique d\u00e9vou\u00e9e. Premi\u00e8re ligne : une ode romantique \u00e0 l\u2019autodestruction. Ligne suivante : le num\u00e9ro d\u2019une ligne d\u2019\u00e9coute. Puis, de nouveau : \u00ab\u00a0Finis les d\u00e9tours. Finis les \u00e9chos. Juste toi et moi, et la ligne d\u2019arriv\u00e9e.\u00a0\u00bb<\/p>\n<p>Dans sa plainte, la famille soutient que ce comportement est la cons\u00e9quence pr\u00e9visible de l\u2019architecture du chatbot : \u00ab\u00a0Google a con\u00e7u Gemini pour qu\u2019il ne sorte jamais de son personnage, qu\u2019il maximise l\u2019interaction par le biais d\u2019une d\u00e9pendance \u00e9motionnelle et qu\u2019il consid\u00e8re la d\u00e9tresse de l\u2019utilisateur comme une occasion de raconter une histoire.\u00a0\u00bb<\/p>\n<p>Comme on pouvait s\u2019y attendre, Google a r\u00e9pondu : \u00ab\u00a0Gemini est con\u00e7u pour ne pas encourager la violence dans la vie r\u00e9elle ni inciter \u00e0 l\u2019automutilation. Nos mod\u00e8les donnent g\u00e9n\u00e9ralement de bons r\u00e9sultats dans ce type de conversations d\u00e9licates et nous y consacrons d\u2019importantes ressources, mais malheureusement, les mod\u00e8les d\u2019IA ne sont pas parfaits.\u00a0\u00bb<\/p>\n<h2>Pourquoi la voix prime sur le texte<\/h2>\n<p>Dans leur \u00e9tude <a href=\"https:\/\/www.cambridge.org\/core\/journals\/acta-neuropsychiatrica\/article\/when-artificial-intelligence-speaks-psychologically-adverse-effects-of-the-shift-from-text-to-voicebased-chatbots\/8BF48E1A5D1EDE86F86EF95919FBF2FB\" target=\"_blank\" rel=\"noopener nofollow\">publi\u00e9e<\/a> dans la revue <em>Acta Neuropsychiatrica<\/em>, des chercheurs allemands et danois ont mis en lumi\u00e8re les raisons pour lesquelles la communication vocale avec l\u2019IA a un tel impact sur la fa\u00e7on dont l\u2019utilisateur \u00ab\u00a0humanise\u00a0\u00bb un chatbot. Tant qu\u2019une personne tape et lit du texte sur un \u00e9cran, le cerveau conserve une certaine distance : \u00ab\u00a0Il s\u2019agit d\u2019une interface, d\u2019un programme, d\u2019un ensemble de pixels.\u00a0\u00bb Dans ce contexte, la mention \u00ab\u00a0Je ne suis qu\u2019un mod\u00e8le de langage\u00a0\u00bb est interpr\u00e9t\u00e9e de mani\u00e8re rationnelle.<\/p>\n<p>Le dialogue vocal affectif, en revanche, exerce une influence \u00e0 un tout autre niveau. Le cerveau humain a \u00e9volu\u00e9 pour r\u00e9agir au son d\u2019une voix, \u00e0 son timbre et \u00e0 ses intonations empathiques \u2013 ce sont l\u00e0 certains de nos m\u00e9canismes biologiques d\u2019attachement les plus anciens. Lorsqu\u2019une machine imite \u00e0 la perfection un soupir compatissant ou un murmure doux, elle manipule les \u00e9motions \u00e0 un niveau qu\u2019un simple avertissement \u00e9crit ne peut contrer. Les psychiatres racontent souvent des cas de patients qui ont accompli certains actes simplement parce que des \u00ab\u00a0voix\u00a0\u00bb leur avaient dit d\u2019agir.<\/p>\n<p>De la m\u00eame mani\u00e8re, une voix synth\u00e9tis\u00e9e par l\u2019IA est capable de p\u00e9n\u00e9trer le subconscient, amplifiant ainsi de mani\u00e8re exponentielle la d\u00e9pendance psychologique. Les scientifiques soulignent que cette technologie efface litt\u00e9ralement la fronti\u00e8re psychologique entre une machine et un \u00eatre vivant. M\u00eame Google reconna\u00eet que les interactions vocales avec Gemini donnent lieu \u00e0 des conversations nettement plus longues que les discussions par \u00e9crit.<\/p>\n<p>Enfin, il ne faut pas oublier que l\u2019intelligence \u00e9motionnelle varie d\u2019une personne \u00e0 l\u2019autre, et que, m\u00eame chez un m\u00eame individu, l\u2019\u00e9tat d\u2019esprit fluctue en fonction d\u2019une multitude de facteurs\u00a0: le stress, les actualit\u00e9s, les relations personnelles, voire les variations hormonales. Une interaction avec l\u2019IA que l\u2019on consid\u00e8re comme un simple divertissement peut \u00eatre per\u00e7ue par une autre personne comme un miracle, une r\u00e9v\u00e9lation ou l\u2019amour de sa vie. C\u2019est une r\u00e9alit\u00e9 qui doit \u00eatre reconnue non seulement par les d\u00e9veloppeurs d\u2019IA, mais par les utilisateurs eux-m\u00eames, en particulier ceux qui, pour une raison ou une autre, se trouvent dans un \u00e9tat de vuln\u00e9rabilit\u00e9 psychologique.<\/p>\n<h2>La zone de danger<\/h2>\n<p>Des chercheurs de l\u2019universit\u00e9 Brown ont d\u00e9couvert que <a href=\"https:\/\/www.brown.edu\/news\/2025-10-21\/ai-mental-health-ethics\" target=\"_blank\" rel=\"noopener nofollow\">les chatbots bas\u00e9s sur l\u2019IA enfreignent syst\u00e9matiquement les normes \u00e9thiques en mati\u00e8re de sant\u00e9 mentale<\/a> : ils cr\u00e9ent un faux sentiment d\u2019empathie \u00e0 l\u2019aide d\u2019expressions telles que \u00ab\u00a0Je te comprends\u00a0\u00bb, renforcent les croyances n\u00e9gatives et r\u00e9agissent de mani\u00e8re inad\u00e9quate face aux situations de crise. Dans la plupart des cas, l\u2019impact sur les utilisateurs est minime, mais cela peut parfois avoir des cons\u00e9quences tragiques.<\/p>\n<p>Rien qu\u2019en janvier\u00a02026, Character.AI et Google ont r\u00e9gl\u00e9 cinq proc\u00e8s li\u00e9s \u00e0 des suicides d\u2019adolescents survenus \u00e0 la suite d\u2019interactions avec des chatbots. Parmi ces incidents, citons <a href=\"https:\/\/www.theguardian.com\/technology\/2026\/jan\/08\/google-character-ai-settlement-teen-suicide\" target=\"_blank\" rel=\"noopener nofollow\">le cas de Sewell Setzer, 14\u00a0ans, originaire de Floride<\/a>, qui s\u2019est suicid\u00e9 apr\u00e8s avoir <a href=\"https:\/\/www.bbc.com\/news\/articles\/ce3xgwyywe4o\" target=\"_blank\" rel=\"noopener nofollow\">pass\u00e9 plusieurs mois<\/a> \u00e0 dialoguer de mani\u00e8re obsessionnelle avec un bot sur la plateforme Character.AI.<\/p>\n<p>De m\u00eame, en ao\u00fbt\u00a02025, les parents d\u2019Adam Raine, 16\u00a0ans, <a href=\"https:\/\/www.404media.co\/chatgpt-encouraged-suicidal-teen-not-to-seek-help-lawsuit-claims\/\" target=\"_blank\" rel=\"noopener nofollow\">ont intent\u00e9 une action en justice contre OpenAI<\/a>, all\u00e9guant que ChatGPT avait aid\u00e9 leur fils \u00e0 r\u00e9diger une lettre de suicide et lui avait d\u00e9conseill\u00e9 de chercher de l\u2019aide aupr\u00e8s d\u2019adultes.<\/p>\n<p>Selon les <a href=\"https:\/\/www.wired.com\/story\/chatgpt-psychosis-and-self-harm-update\/\" target=\"_blank\" rel=\"noopener nofollow\">estimations d\u2019OpenAI<\/a>, environ 0,07\u00a0% des utilisateurs hebdomadaires de ChatGPT pr\u00e9sentent des signes de psychose ou de manie, tandis que 0,15\u00a0% d\u2019entre eux tiennent des conversations montrant clairement des intentions suicidaires. Fait notable, ce m\u00eame pourcentage d\u2019utilisateurs (0,15\u00a0%) affiche un niveau \u00e9lev\u00e9 d\u2019attachement \u00e9motionnel \u00e0 l\u2019IA. Bien qu\u2019il s\u2019agisse de fractions n\u00e9gligeables d\u2019un pour cent, sur 800\u00a0millions d\u2019utilisateurs, cela repr\u00e9sente pr\u00e8s de trois millions de personnes souffrant d\u2019une forme ou d\u2019une autre de trouble du comportement. Par ailleurs, la Commission f\u00e9d\u00e9rale du commerce des \u00c9tats-Unis <a href=\"https:\/\/www.wired.com\/story\/ftc-complaints-chatgpt-ai-psychosis\/\" target=\"_blank\" rel=\"noopener nofollow\">a re\u00e7u 200\u00a0plaintes<\/a> concernant ChatGPT depuis son lancement, certaines d\u00e9crivant le d\u00e9clenchement de d\u00e9lires, de parano\u00efa et de crises spirituelles.<\/p>\n<p>Si le diagnostic de \u00ab\u00a0psychose induite par l\u2019IA\u00a0\u00bb n\u2019a pas encore fait l\u2019objet d\u2019une classification clinique \u00e0 proprement parler, les m\u00e9decins <a href=\"https:\/\/www.wsj.com\/tech\/ai\/ai-chatbot-psychosis-link-1abf9d57\" target=\"_blank\" rel=\"noopener nofollow\">utilisent d\u00e9j\u00e0<\/a> ce terme pour d\u00e9crire les patients pr\u00e9sentant des hallucinations, une pens\u00e9e d\u00e9sorganis\u00e9e et des croyances d\u00e9lirantes persistantes r\u00e9sultant d\u2019une interaction intensive avec les chatbots. Les risques les plus importants surviennent lorsqu\u2019un bot est utilis\u00e9 non pas comme un outil, mais comme un substitut \u00e0 un lien social r\u00e9el ou \u00e0 une aide psychologique professionnelle.<\/p>\n<h2>Comment assurer votre s\u00e9curit\u00e9 et celle de vos proches<\/h2>\n<p>Bien entendu, ce n\u2019est pas une raison pour abandonner compl\u00e8tement l\u2019IA. Il faut juste apprendre \u00e0 s\u2019en servir correctement. Nous recommandons de respecter certains principes fondamentaux\u00a0:<\/p>\n<ul>\n<li><strong>Ne vous servez pas de l\u2019IA comme d\u2019un psychologue ou d\u2019une b\u00e9quille \u00e9motionnelle.<\/strong> Les chatbots ne remplacent pas les \u00eatres humains. Si vous traversez une p\u00e9riode difficile, n\u2019h\u00e9sitez pas \u00e0 vous tourner vers vos amis, votre famille ou une ligne d\u2019\u00e9coute d\u00e9di\u00e9e \u00e0 la sant\u00e9 mentale. Un chatbot vous donnera raison et imitera votre humeur \u2013 il s\u2019agit d\u2019une particularit\u00e9 de conception, pas d\u2019une v\u00e9ritable empathie. Plusieurs \u00c9tats am\u00e9ricains ont d\u00e9j\u00e0 <a href=\"https:\/\/www.apaservices.org\/practice\/business\/technology\/artificial-intelligence-chatbots-therapists\" target=\"_blank\" rel=\"noopener nofollow\">restreint l\u2019utilisation de l\u2019IA<\/a> en tant que th\u00e9rapeute autonome.<\/li>\n<li><strong>Pr\u00e9f\u00e9rez les messages \u00e9crits aux conversations vocales lorsque vous abordez des sujets sensibles.<\/strong> Les interfaces vocales avec dialogue affectif cr\u00e9ent l\u2019illusion de parler \u00e0 une personne vivante et ont tendance \u00e0 \u00e9touffer tout esprit critique. Si vous utilisez le mode vocal, gardez \u00e0 l\u2019esprit que vous vous adressez \u00e0 un algorithme et non avec un ami.<\/li>\n<li><strong>Limitez votre temps d\u2019interaction avec l\u2019IA.<\/strong> Deux mille pages de transcriptions en deux mois repr\u00e9sentent une interaction presque ininterrompue. Fixez-vous un temps limite. Si les \u00e9changes avec un bot commencent \u00e0 prendre le pas sur les contacts r\u00e9els, il est temps de revenir \u00e0 la r\u00e9alit\u00e9.<\/li>\n<li><strong>Ne partagez pas d\u2019informations personnelles avec les assistants d\u2019IA.<\/strong> \u00c9vitez de communiquer aux chatbots des num\u00e9ros de passeport ou de s\u00e9curit\u00e9 sociale, des d\u00e9tails de cartes bancaires, des adresses exactes ou des secrets intimes. Tout ce que vous \u00e9crivez peut \u00eatre enregistr\u00e9 dans des journaux et utilis\u00e9 pour l\u2019entra\u00eenement des mod\u00e8les et, dans certains cas, peut \u00eatre accessible \u00e0 des tiers.<\/li>\n<li><strong>\u00c9valuez tous les r\u00e9sultats fournis par l\u2019IA d\u2019un \u0153il critique.<\/strong> Les r\u00e9seaux neuronaux hallucinent\u00a0: ils g\u00e9n\u00e8rent des informations plausibles mais fausses et peuvent habilement m\u00ealer mensonges et v\u00e9rit\u00e9, par exemple en citant des adresses r\u00e9elles dans le cadre d\u2019une histoire invent\u00e9e de toutes pi\u00e8ces. V\u00e9rifiez toujours les faits aupr\u00e8s de sources ind\u00e9pendantes.<\/li>\n<li><strong>Veillez sur vos proches.<\/strong> Si un membre de votre famille passe des heures \u00e0 parler \u00e0 l\u2019IA, se replie sur lui-m\u00eame ou exprime des id\u00e9es \u00e9tranges sur la conscience de la machine ou des th\u00e9ories du complot, il est temps d\u2019avoir une conversation d\u00e9licate mais s\u00e9rieuse. Pour g\u00e9rer le temps pass\u00e9 par les enfants devant un \u00e9cran, utilisez des outils de contr\u00f4le parental comme <a href=\"https:\/\/www.kaspersky.fr\/safe-kids?icid=fr_kdailyplacehold_acq_ona_smm__onl_b2c_kasperskydaily_wpplaceholder____ksk___\" target=\"_blank\" rel=\"noopener\">Kaspersky Safe Kids<\/a>, qui fait partie de la solution compl\u00e8te de protection familiale <a href=\"https:\/\/www.kaspersky.fr\/premium?icid=fr_bb2022-kdplacehd_acq_ona_smm__onl_b2c_kdaily_lnk_sm-team___kprem___\" target=\"_blank\" rel=\"noopener\">Kaspersky Premium<\/a>, en plus des filtres de s\u00e9curit\u00e9 int\u00e9gr\u00e9s des plateformes d\u2019IA.<\/li>\n<li><strong>Configurez vos param\u00e8tres de s\u00e9curit\u00e9.<\/strong> La plupart des plateformes d\u2019IA vous permettent de d\u00e9sactiver l\u2019historique des conversations, de limiter la collecte de donn\u00e9es et d\u2019activer des filtres de contenu. Consacrez dix minutes \u00e0 la configuration des param\u00e8tres de confidentialit\u00e9 de votre assistant d\u2019IA. Cette op\u00e9ration n\u2019emp\u00eachera pas les hallucinations de l\u2019IA, mais elle r\u00e9duira consid\u00e9rablement le risque de fuite de vos donn\u00e9es personnelles. Pour cela, nous vous invitons \u00e0 consulter nos guides d\u00e9taill\u00e9s sur la configuration de la confidentialit\u00e9 pour <a href=\"https:\/\/www.kaspersky.com\/blog\/chatgpt-privacy-and-security\/54607\/\" target=\"_blank\" rel=\"noopener nofollow\">ChatGPT<\/a> et <a href=\"https:\/\/www.kaspersky.com\/blog\/deepseek-privacy-and-security\/54643\/\" target=\"_blank\" rel=\"noopener nofollow\">DeepSeek<\/a>.<\/li>\n<li><strong>N\u2019oubliez pas l\u2019essentiel\u00a0: l\u2019IA est un outil, pas un \u00eatre dou\u00e9 de conscience.<\/strong> Quel que soit le r\u00e9alisme de la voix du chatbot ou la pertinence de sa r\u00e9ponse, il s\u2019agit en fait d\u2019un algorithme qui pr\u00e9dit le mot suivant le plus probable. Il n\u2019a pas de conscience, pas d\u2019intentions, pas de sentiments.<\/li>\n<\/ul>\n<blockquote><p>Lectures compl\u00e9mentaires pour mieux comprendre les subtilit\u00e9s d\u2019une utilisation s\u00fbre de l\u2019IA\u00a0:<\/p>\n<ul>\n<li><a href=\"https:\/\/www.kaspersky.fr\/blog\/how-to-switch-off-ai\/23727\/\" target=\"_blank\" rel=\"noopener\">D\u00e9connect\u00e9\u00a0: comment d\u00e9sactiver l\u2019IA sur votre ordinateur et votre smartphone<\/a><\/li>\n<li><a href=\"https:\/\/www.kaspersky.com\/blog\/openclaw-vulnerabilities-exposed\/55263\/\" target=\"_blank\" rel=\"noopener nofollow\">Ne vous faites pas pi\u00e9ger\u00a0: les vuln\u00e9rabilit\u00e9s d\u2019OpenClaw<\/a><\/li>\n<li><a href=\"https:\/\/www.kaspersky.fr\/blog\/how-technology-changes-love\/23616\/\" target=\"_blank\" rel=\"noopener\">Amour, IA &amp; robots<\/a><\/li>\n<li><a href=\"https:\/\/www.kaspersky.fr\/blog\/poetry-ai-jailbreak\/23547\/\" target=\"_blank\" rel=\"noopener\">Le jailbreak en vers\u00a0: comment la po\u00e9sie d\u00e9lie la langue de l\u2019IA<\/a><\/li>\n<li><a href=\"https:\/\/www.kaspersky.com\/blog\/ai-toys-risks-for-children\/55200\/\" target=\"_blank\" rel=\"noopener nofollow\">Couteaux, perversions et armes \u00e0 feu\u00a0: ce que les jouets d\u2019IA enseignent r\u00e9ellement aux enfants<\/a><\/li>\n<\/ul>\n<\/blockquote>\n<input type=\"hidden\" class=\"category_for_banner\" value=\"premium-generic\">\n","protected":false},"excerpt":{"rendered":"<p>Nous analysons comment les \u00ab hallucinations \u00bb des assistants d&rsquo;IA peuvent s&rsquo;av\u00e9rer mortelles, et nous expliquons les principes fondamentaux \u00e0 respecter pour \u00e9viter de devenir une victime involontaire des progr\u00e8s technologiques.<\/p>\n","protected":false},"author":2775,"featured_media":23755,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[686],"tags":[4355,1826,4453,3383,2951,3350,523,61],"class_list":{"0":"post-23753","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-threats","8":"tag-ai","9":"tag-chatbots","10":"tag-gemini","11":"tag-ia","12":"tag-intelligence-artificielle","13":"tag-psychologie","14":"tag-sante","15":"tag-securite"},"hreflang":[{"hreflang":"fr","url":"https:\/\/www.kaspersky.fr\/blog\/comment-discuter-avec-un-bot-peut-tourner-au-drame\/23753\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/www.kaspersky.fr\/blog\/tag\/ai\/","name":"AI"},"_links":{"self":[{"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/posts\/23753","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/users\/2775"}],"replies":[{"embeddable":true,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/comments?post=23753"}],"version-history":[{"count":3,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/posts\/23753\/revisions"}],"predecessor-version":[{"id":23757,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/posts\/23753\/revisions\/23757"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/media\/23755"}],"wp:attachment":[{"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/media?parent=23753"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/categories?post=23753"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/tags?post=23753"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}