sextorsion
En 2025, des chercheurs en cybersécurité ont découvert plusieurs bases de données ouvertes appartenant à divers outils de génération d’images par IA. Ce simple fait nous amène à nous interroger sur l’importance accordée par les start-ups spécialisées dans l’IA à la confidentialité et à la sécurité des données de leurs utilisateurs. Cependant, la nature du contenu de ces bases de données est bien plus alarmante.
La plupart des images générées dans ces bases de données représentaient des femmes en lingerie ou entièrement nues. Certaines ont clairement été créées à partir de photos d’enfants, ou destinées à faire paraître des femmes adultes plus jeunes (et dénudées). Enfin, le plus inquiétant : certaines images pornographiques ont été générées à partir de photos tout à fait innocentes de personnes réelles, probablement tirées des réseaux sociaux.
Dans cet article, nous abordons la question de la sextorsion et expliquons pourquoi les outils d’IA font que tout le monde peut en être victime. Nous détaillons le contenu de ces bases de données ouvertes et vous donnons des conseils pour éviter d’être victime de sextorsion à l’ère de l’IA.
Qu’est-ce que la sextorsion ?
L’extorsion sexuelle en ligne est devenue si courante qu’elle a désormais son propre nom international : sextortion (mot-valise formé à partir des termes sex et extortion). Nous avons déjà détaillé les différents types de sextorsion dans notre article intitulé Cinquante nuances de sextorsion. Pour résumer, cette forme de chantage consiste à menacer de publier des images ou des vidéos intimes afin de contraindre la victime à accomplir certaines actions ou de lui extorquer de l’argent.
Auparavant, les victimes de sextorsion étaient généralement des travailleurs de l’industrie pour adultes ou des personnes qui avaient partagé du contenu intime avec une personne malintentionnée.
Cependant, les progrès rapides de l’intelligence artificielle, en particulier de la technologie de conversion de texte en image, ont fondamentalement changé la donne. Désormais, toute personne ayant publié des photos tout à fait anodines peut devenir victime de sextorsion. En effet, l’IA générative permet de déshabiller rapidement, facilement et de façon convaincante les personnes présentes sur n’importe quelle image numérique, ou d’ajouter en quelques secondes un corps nu généré à la tête d’une personne.
Bien entendu, ce type de falsification était déjà possible sans IA, mais le travail de retouche sur Photoshop était fastidieux et minutieux. Aujourd’hui, il suffit de décrire le résultat souhaité avec des mots.
Pour couronner le tout, de nombreux services d’IA générative ne se soucient guère de protéger le contenu qui a servi à générer l’image. Comme mentionné précédemment, l’année dernière, des chercheurs ont découvert au moins trois bases de données accessibles au public appartenant à ces services. Cela signifie que les clichés nus générés étaient accessibles non seulement à l’utilisateur qui les avait créés, mais aussi à n’importe qui sur Internet.
Comment la fuite de la base de données d’images d’IA a été découverte
En octobre 2025, Jeremiah Fowler, chercheur en cybersécurité, a découvert une base de données ouverte contenant plus d’un million d’images et de vidéos générées par l’IA. Selon le chercheur, la grande majorité de ce contenu était de nature pornographique. La base de données n’était ni chiffrée ni protégée par mot de passe, ce qui signifie que n’importe quel internaute pouvait y accéder.
Le nom de la base de données et les filigranes sur certaines images ont conduit J. Fowler à penser que sa source était l’entreprise américaine SocialBook, qui propose des services destinés aux influenceurs et des services de marketing numérique. Le site Internet de l’entreprise donne également accès à des outils permettant de générer des images et du contenu à l’aide de l’IA.
Cependant, une analyse plus approfondie a révélé que SocialBook ne générait pas directement ce contenu. Les liens dans l’interface du service renvoyaient vers des produits tiers (les services IA MagicEdit et DreamPal) qui étaient les outils utilisés pour créer les images. Ces outils permettaient aux utilisateurs de générer des images à partir de descriptions textuelles, de modifier des photos chargées et d’effectuer diverses manipulations visuelles, notamment la création de contenu explicite et le remplacement de visages.
La fuite était liée à ces outils particuliers, et la base de données contenait le résultat de leur travail, y compris des images générées et modifiées par l’IA. Une partie des images a amené le chercheur à soupçonner qu’elles avaient été transmises à l’IA pour servir de références à la création d’images suggestives.
- Fowler déclare qu’environ 10 000 photos étaient ajoutées à la base de données chaque jour. SocialBook nie tout lien avec la base de données. Après que le chercheur a informé l’entreprise de la fuite, plusieurs pages du site Internet SocialBook qui mentionnaient auparavant MagicEdit et DreamPal sont devenues inaccessibles et ont affiché des messages d’erreur.
Quels services étaient à l’origine de la fuite ?
Les deux services, MagicEdit et DreamPal, ont initialement été commercialisés comme des outils permettant aux utilisateurs de réaliser des expériences visuelles interactives avec des images et des personnages artistiques. Malheureusement, une grande partie de ces fonctionnalités étaient directement liées à la création de contenu à caractère sexuel.
Par exemple, MagicEdit proposait un outil permettant de changer virtuellement les vêtements à l’aide de l’IA, ainsi qu’un ensemble de stylisations qui rendaient les images de femmes plus provocantes après retouche, par exemple en remplaçant leur tenue quotidienne par un maillot de bain ou de la lingerie. Ses arguments de vente promettaient de transformer un look ordinaire en un look sexy en quelques secondes.
DreamPal, pour sa part, était initialement positionné comme un service de chat basé sur l’IA et axé sur les jeux de rôle, et était encore plus clair sur son positionnement destiné aux adultes. Le site proposait de créer une petite amie IA idéale, certaines pages faisant directement référence à du contenu érotique. La FAQ indiquait également que les filtres pour les contenus explicites dans les chats étaient désactivés afin de ne pas limiter les fantasmes les plus intimes des utilisateurs.
Les deux services ont suspendu leurs activités. Au moment de la rédaction de cet article, le site DreamPal renvoyait une erreur, tandis que MagicEdit semblait de nouveau fonctionnel. Leurs applications ont été retirées de l’App Store et de Google Play.
Jeremiah Fowler affirme avoir découvert plus tôt en 2025 deux autres bases de données ouvertes contenant des images générées par l’IA. L’une d’entre elles appartenait au site sud-coréen GenNomis et contenait 95 000 entrées, dont une grande partie était constituée d’images de personnes « dénudées ». La base de données comprenait notamment des images représentant des versions enfant de célébrités : les chanteuses américaines Ariana Grande et Beyoncé, ainsi que la star de téléréalité Kim Kardashian.
Comment éviter d’être victime d’une telle attaque
Au vu des incidents de ce type, il est clair que les risques liés à la sextorsion ne se limitent plus aux messages privés ni à l’échange de contenus intimes. À l’ère de l’IA générative, même des photos ordinaires, lorsqu’elles sont publiées, peuvent être utilisées pour créer du contenu compromettant.
Ce problème concerne davantage les femmes, mais les hommes ne doivent pas pour autant se sentir à l’abri : le chantage classique du type « J’ai piraté ton ordinateur et utilisé ta webcam pour te filmer en train de consulter des sites pornographiques » pourrait prendre une toute nouvelle dimension grâce aux outils d’IA permettant de générer des photos et des vidéos.
Il est donc essentiel de protéger votre vie privée sur les réseaux sociaux et de contrôler les données publiques vous concernant afin de préserver votre réputation et votre tranquillité d’esprit. Pour éviter que vos photos ne soient exploitées pour créer des contenus douteux générés par l’IA, nous vous recommandons de rendre tous vos profils sur les réseaux sociaux aussi privés que possible. En effet, ils pourraient servir de source d’images pour la création de contenus à caractère sexuel générés par l’IA.
Nous avons déjà publié plusieurs guides détaillés sur les façons de réduire votre empreinte numérique en ligne ou même de supprimer vos données d’Internet, d’empêcher les courtiers en données de compiler des dossiers à votre sujet et de vous protéger contre l’utilisation abusive d’images intimes.
Nous proposons également un service dédié, Privacy Checker, idéal pour tous ceux qui recherchent une approche simple mais systématique des paramètres de confidentialité partout où cela est possible. Il compile des guides étape par étape sur la sécurisation des comptes de réseaux sociaux et de services en ligne toutes plateformes confondues.
Et pour garantir la sécurité et la confidentialité des données de votre enfant, Kaspersky Safe Kids peut vous venir en aide : il permet aux parents de surveiller les réseaux sociaux sur lesquels leur enfant passe du temps. Vous pouvez alors les aider à régler les paramètres de confidentialité de leur compte afin que les photos qu’ils publient ne puissent pas être exploitées pour créer du contenu inapproprié. Parcourez ensemble notre guide sur la sécurité en ligne des enfants, et si votre enfant rêve de devenir un blogueur populaire, discutez avec lui de notre guide étape par étape sur la cybersécurité destiné aux blogueurs en herbe.
