Pour apprendre à vous protéger contre les fausses informations, vous devez d’abord comprendre ce que sont les deepfakes. Les deepfakes sont des images ou des vidéos générées par l'IA pour produire un contenu hautement réaliste.
Comment sont fabriqués les deepfakes ?
L'apprentissage en profondeur est une méthode avancée d'intelligence artificielle (IA), qui utilise plusieurs couches d'algorithmes d'apprentissage automatique pour extraire progressivement des fonctionnalités de niveau supérieur à partir d'entrées brutes. Il est capable d'apprendre de données non structurées – comme le visage humain.
Ces données sont traitées pour créer une vidéo Deepfake via un GAN (Generative Adversarial Network) - un système d'apprentissage automatique spécialisé. Deux réseaux neuronaux sont mis en concurrence dans l'apprentissage des caractéristiques d'un ensemble d'apprentissage (photos de visages, par exemple), puis dans la génération de nouvelles données présentant les mêmes caractéristiques (nouvelles « photos »).
À mesure que le réseau teste les images créées par rapport à l’ensemble d’entraînement, les fausses images, vidéos et audios deviennent plus convaincants. Cela fait de Deepfake une menace encore plus puissante, car ils peuvent utiliser des techniques de synthèse pour reproduire des voix.
Une autre méthode pour créer des deepfakes consiste à utiliser une architecture d’autoencodeur. Un réseau neuronal auto-encodeur est conçu pour encoder des données (comme une image) dans une représentation latente de dimension inférieure (c'est-à-dire dans des vecteurs mathématiques au lieu de pixels), compresser les données, puis reconstruire les mêmes données à l'autre extrémité du pipeline. Les autoencodeurs sont utilisés à de nombreuses fins en vision par ordinateur, telles que l'analyse de l'écriture manuscrite et la reconnaissance faciale.
Étant donné que les autoencodeurs recherchent des données « essentielles » à partir d’une image (comme une image de visage), ils sont très efficaces pour éliminer le bruit visuel. Dans le cas d'un logiciel deepfake, cela signifie qu'une architecture d'auto-encodeur peut apprendre les caractéristiques et les traits fondamentaux d'une image de visage tout en ignorant largement les facteurs externes tels que le grain, les ombres et d'autres éléments « non faciaux » qui peuvent être présents dans l'image, ce qui donne lieu à des modèles polyvalents et bien généralisés (c'est-à-dire des modèles qui peuvent effectuer des transformations utiles sur des données différentes de leurs données d'entraînement d'origine).
Comment les deepfakes sont-ils utilisés ?
Bien que le concept de deepfakes soit également utilisé pour créer des effets visuels dans les films, les deepfakes en ligne ont de nombreuses intentions :
Campagnes de désinformation, notamment pendant les élections, pour influencer l’opinion publique.
Le chantage consiste pour quelqu'un à créer une vidéo ou une image deepfake de vous et à menacer de la publier si vous ne cédez pas à ses exigences.
Le phishing deepfake consiste à se faire passer pour quelqu'un en temps réel sous prétexte d'aider un ami, un membre de la famille ou un collègue.
Fraude financière utilisant des deepfakes et vol d'identité .
Les dangers des deepfakes
À mesure que la technologie et l’IA évoluent, les vidéos et images deepfake en ligne deviennent plus faciles à générer et plus convaincantes. Les dangers d’être victime de deepfakes représentent un risque élevé pour les entreprises, les célébrités, les employés, les candidats aux élections et les particuliers ordinaires.
Fraude
En 2023, un employé du secteur financier à Hong Kong a payé 25 millions de dollars à un escroc grâce à une technologie deepfake. Le travailleur a été invité à participer à un appel vidéo avec ses collègues et le directeur financier de l'entreprise. Au cours de l'appel, l'employé a accepté de transférer 200 millions de dollars de Hong Kong.
Bien qu'il ait vu les autres employés et le directeur financier lors de la réunion, il s'agissait d'une IA deepfake qui a manipulé les fonctionnalités de reconnaissance faciale pour ressembler aux collègues et au directeur financier.
Chantage et extorsion
En 2020, la police sud-coréenne a découvert un réseau d'hommes prenant des images de lycéennes pour les créer et les diffuser sur l'application de messagerie Telegram. Des lycéens aidaient les hommes en prenant des photos de leurs camarades de classe, dont certains étaient mineurs, et en les envoyant ensuite aux créateurs.
Ces vidéos seraient diffusées sur diverses plateformes , laissant les filles impuissantes à faire quoi que ce soit. Même s'ils ne sont pas impliqués dans l'acte, les fausses preuves ont un impact sur la façon dont ils sont perçus par la société et restent traumatisantes.
Phishing deepfake
En 2024, Nikki, une Britannique de 77 ans, a été escroquée de 17 000 £ grâce à des vidéos deepfake. La femme a rencontré une autre femme en ligne et elles ont noué une relation – du moins, c'est ce qu'elle pensait. L'escroc a affirmé qu'il travaillait sur une plate-forme pétrolière et qu'il ne pouvait pas passer d'appel vidéo, et que sa victime devait payer des bons pour pouvoir avoir accès à Internet. Lorsque Nikki a commencé à avoir des soupçons, l'agresseur a commencé à lui envoyer des vidéos d'elle-même sur la plate-forme pétrolière, dissipant ainsi les soupçons de Nikki. Au fur et à mesure que la relation se poursuivait, Nikki demandait souvent un appel vidéo, qui était toujours refusé, mais peu de temps après, elle recevait des documents, des images et des vidéos générés par l'IA pour la mettre à l'aise - puis demandait plus d'argent.
Nikki n'a été informée de l'arnaque que lorsqu'elle essayait de transférer de l'argent sur le compte bancaire de son partenaire.
Des deepfakes inoffensifs
Certains deepfakes en ligne peuvent être purement destinés à des fins de divertissement dans le but de gagner plus d'abonnés sur les plateformes de médias sociaux.
L'un des deepfakes les plus populaires était celui de Tom Cruise , publié sur TikTok. Le compte comptait un million d'abonnés et certaines vidéos atteignaient près de 50 millions de vues, même si ce n'était pas Tom Cruise. Au début, les gens pensaient que la célébrité avait rejoint la plateforme parce que les vidéos, la ressemblance, la voix et même la personnalité étaient très convaincantes.
En 2022 , un créateur YouTube, Shamook, a repris la nouvelle bande-annonce du film Spider-man et a remplacé l'acteur Tom Holland par l'acteur original Tobey Maguire. La vidéo étant répertoriée comme Deepfake dans le titre, elle est purement destinée à des fins de divertissement.
Comment prévenir les deepfakes?
Les deepfakes devenant rapidement une préoccupation croissante et un risque de sécurité, vous pouvez prendre des mesures pour éviter que cela ne vous arrive ou n'arrive à votre entreprise.
Vérifier toutes les demandes
Si l'on vous demande des informations personnelles ou sensibles, confirmez l'identité de l'appelant via un canal secondaire, par exemple en le rappelant à l'entreprise dont il a déclaré être issu.
Utilisez les paramètres de confidentialité sur tous les comptes en ligne
Limitez l’accès aux comptes de réseaux sociaux contenant des vidéos ou des images de vous afin de réduire les possibilités de reproduire votre image.
Protection des mots de passe
Modifiez régulièrement vos mots de passe. Assurez-vous que tous les mots de passe sont forts , uniques, complexes et comportent au moins 16 caractères. Sur les comptes partagés, utilisez un logiciel de partage de mot de passe afin de ne pas avoir à divulguer votre mot de passe à votre famille ou à vos employés.
Ajouter une authentification à deux facteurs pour les comptes
Assurez-vous que tous les comptes en ligne nécessitent que vous vérifiiez votre identité avant d'y accéder avec l'authentification à deux facteurs. Cela rend plus difficile pour les escrocs de pirater vos comptes.
Mettre à jour régulièrement le logiciel
Les mises à jour logicielles sont essentielles pour garantir que vos appareils sont protégés contre les derniers logiciels malveillants , logiciels espions et bugs.
Formation des salariés
Tout comme la technologie évolue, le mode opératoire de la fraude deepfake évolue également. Il est essentiel de se tenir au courant des dernières escroqueries et de discuter avec les employés sur la manière de les identifier.
Savoir identifier une vidéo deepfake
Suivez les traits du visage de l’individu dans la vidéo pour vérifier qu’ils correspondent aux mouvements humains normaux.
La vidéo est-elle saccadée ou sa clarté est-elle incohérente ?
Vérifiez les mouvements naturels, comme le clignement des yeux. Est-ce trop peu ou trop ?
Regardez les ombres et l’éclairage dans la vidéo pour voir s’ils sont cohérents.
Prenez une capture d’écran et téléchargez-la sur Google pour authentifier la source.
ce qu'il faut faire en cas d'attaque ;
Documenter les preuves
Assurez-vous de sauvegarder les deepfakes et tout ce qui s'y rapporte, cela inclut les commentaires, les plateformes sur lesquelles ils ont été partagés (le cas échéant), les captures d'écran et toutes les données qui y sont associées. Prenez note de la date, de l’heure et de la plateforme sur laquelle cela s’est produit.
Notifier les plateformes
Si le contenu deepfake provient d'une plateforme, signalez-le à la plateforme hôte sur laquelle vous l'avez vu, par exemple YouTube, Facebook ou X. La plupart des plateformes ont des politiques de suppression des médias manipulés .
Contacter les autorités
Les deepfakes qui impliquent un vol d’identité ou un vol financier sont des crimes. Informez les forces de l’ordre locales et présentez vos preuves afin que les autorités puissent établir un rapport officiel. Ce rapport peut être utilisé pour votre banque, votre assurance et d’autres comptes officiels du crime.
Demander une action en justice
Recherchez les lois sur la diffamation, le droit d’auteur ou la confidentialité dans votre juridiction pour vous assurer d’avoir un dossier convaincant. Vérifiez si d’autres personnes n’ont pas été victimes de la même arnaque et, si possible, enquêtez sur une action collective.
Engager une agence de relations publiques
Si votre réputation ou celle de votre entreprise est en jeu, travailler avec un expert en relations publiques peut vous aider à élaborer une réponse et à la distribuer aux parties nécessaires pour atténuer les dommages.
Technologie anti-contrefaçon de pointe
Plusieurs entreprises technologiques produisent des outils de détection de deepfakes pour aider à stopper la propagation de la désinformation, de la fraude et des escroqueries par hameçonnage SAD.
Certaines technologies émergentes aident aujourd'hui les vidéastes à authentifier leurs vidéos. Un algorithme cryptographique peut être utilisé pour insérer des hachages à des intervalles définis de la vidéo ; si la vidéo est altérée, les hachages seront modifiés. L'IA et la blockchain peuvent enregistrer une empreinte numérique inviolable pour les vidéos. C'est comme la mise de filigrane de documents ; la difficulté avec la vidéo, c'est que les hachages doivent demeurer si la vidéo est compressée pour une utilisation avec différents codecs.
Un autre moyen de repousser les tentatives de deepfake consiste à utiliser un programme qui insère des « artefacts » numériques spécialement conçus dans les vidéos pour dissimuler les structures de pixels qu'utilise le logiciel de détection de visages. Ces artefacts ralentissent ensuite les algorithmes deepfake et donnent des résultats de mauvaise qualité – le deepfake risque donc d'être moins convaincant.
Protection de sécurité préventive :
Vous assurer que vos salariés et votre famille comprennent comment fonctionne le deepfake et les défis qu'il peut poser.
Vous former, vous et les autres, à la détection d'un deepfake
Vous assurer d'être éduqué aux médias et d'utiliser des sources d'information de qualité.
Avoir de bons protocoles de base. L'adoption d'une attitude sceptique à l'égard des messages vocaux et des vidéos ne veut pas dire que vous ne vous ferez jamais duper, mais cela peut vous aider à éviter de nombreux pièges.
La réalisation de sauvegardes régulières protège vos données contre les ransomwares et vous offre la possibilité de restaurer les données endommagées.
Utilisez différents mots de passe forts pour vos différents comptes afin que, si un de vos réseaux ou services est piraté, les autres ne soient pas compromis. Si quelqu'un pirate votre compte Facebook, vous n'avez pas envie qu'il puisse également accéder à vos autres comptes.
Utilisez un bon package de sécurité tel que Kaspersky Antivirus pour protéger votre réseau domestique, votre ordinateur portable et votre smartphone contre les cybermenaces. Ce package fournit un logiciel antivirus, un VPN pour empêcher le piratage de vos connexions Wi-Fi et une protection pour vos webcams également.
Quel est l’avenir du Deepfake ?
Le deepfake continue à évoluer. Il y a encore deux ans, il était très facile de repérer les vidéos deepfake à la maladresse des mouvements et à l'absence de battements de paupières. En veillant à votre sécurité en ligne et en restant vigilant et méfiant à l’égard de toute activité en ligne, en particulier lorsqu’il s’agit d’informations personnelles, vous aidez les gens à identifier la fraude avant qu’elle ne se produise.
FAQ
QU'EST-CE QUE LE PHISHING ?
Les attaques d'ingénierie sociale visant à tromper sont un type d'escroquerie par hameçonnage qui escroque et manipule les individus en se faisant passer pour des personnes. L’objectif de ces escroqueries est d’extraire des informations sensibles et d’inciter les victimes à transférer de l’argent ou à accéder à des systèmes.
Dois-je m'inquiéter des arnaques aux deepfakes vocaux utilisés ?
Oui. Les escrocs peuvent désormais générer des fichiers audio deepfake qui vous ressemblent exactement, pour extorquer de l'argent à vos amis, à votre famille ou à vos collègues sous prétexte de vous aider. Pour contourner ce problème, établissez un mot de code ou une question de sécurité avec vos proches, dont un escroc ne connaîtra pas la réponse, et que vous pourrez poser lors d'un appel, pour vérifier leur identité.
Comment se présente l'usurpation d'identité ?
Les fraudeurs peuvent utiliser votre image ou votre voix pour falsifier des documents, modifier des numéros de compte ou se faire passer pour vous par téléphone.
Comment sont fabriqués les deepfakes ?
Les vidéos, l'audio et les images Deepfake sont créés par l'IA. L’apprentissage automatique prend en compte toutes les données de votre apparence physique et crée une version synthétisée.
Produits recommandés :
