Un « deepfake » est une vidéo, une photo ou un extrait audio généré ou manipulé par l'IA, dans lequel le visage ou la voix d'une personne est imité. Le résultat est si convaincant qu'il est pratiquement impossible de le distinguer du vrai à l'œil nu.
Ce qui avait commencé comme une vidéo loufoque de Will Smith mangeant des spaghettis est devenu un instrument de fraude. En janvier 2024, un employé du cabinet d'ingénierie Arup a effectué quinze virements vers cinq comptes, pour un montant total d'environ 25 millions de dollars, après une visioconférence avec son directeur financier et ses collègues. Tous les participants à cet appel étaient des faux profils. Le 2 août 2026, le contexte juridique change : c'est à cette date que l'obligation de transparence concernant les deepfakes, prévue par la loi sur l'intelligence artificielle, entre en vigueur.
Cet article explique ce qu'est un deepfake, comment cette technique fonctionne, à quoi elle sert et pourquoi l'œil humain est en train de perdre la bataille.
En bref
- Un « deepfake » est un contenu multimédia synthétique : une image, une vidéo ou un enregistrement audio généré par l'IA représentant une personne qui n'a jamais tenu ces propos ni accompli ces actes.
- Ce terme vient de apprentissage profond plus faux. Cette technique repose sur les GAN et, depuis peu, sur les modèles de diffusion.
- On a besoin de moins en moins de matériel source. Quelques secondes de vidéo ou une poignée de photos issues d'un profil public suffisent souvent.
- Les deepfakes sont utilisés pour commettre des escroqueries au président-directeur général, des escroqueries liées aux candidatures à un emploi et pour contourner la reconnaissance faciale lors des contrôles d'identité.
- L'œil humain n'est plus un détecteur fiable. Les conseils de reconnaissance sont utiles, mais la technologie va de l'avant.
- À compter du 2 août 2026, l'article 50 de la loi sur l'intelligence artificielle (AI Act) exigera que les deepfakes soient étiquetés comme étant artificiels. Les amendes pourront atteindre 15 millions d'euros ou 3 % du chiffre d'affaires mondial.
- La détection s'effectue en plusieurs étapes : détection de la présence d'une personne vivante, analyse de l'image par IA et vérification de la puce intégrée au document d'identité.
Table des matières
- Qu'est-ce qu'un « deepfake » exactement ?
- Comment fabrique-t-on un deepfake ?
- Quels sont les différents types de deepfakes ?
- À quoi servent les deepfakes ?
- Comment reconnaître un deepfake ?
- Deepfake, usurpation d'identité ou identité synthétique ?
- La création d'un deepfake est-elle punissable ?
- Que faire si vous êtes victime ?
- Comment la technologie détecte les deepfakes
Qu'est-ce qu'un « deepfake » exactement ?
Un Deepfake Il s'agit de contenus synthétiques : des images, des vidéos ou des sons générés ou manipulés par l'intelligence artificielle, dans lesquels une personne réelle semble dire ou faire quelque chose qui ne s'est jamais produit.
Ce nom est une contraction de apprentissage profond, la technologie d'IA qui la sous-tend, et faux. Ce mot est apparu en 2017 comme nom d'utilisateur sur Reddit et est depuis devenu le terme générique désignant tout ce qui est imité de manière réaliste par l'IA.
Ce qu’il faut retenir, c’est ce qu’un deepfake n’est pas. Une vidéo recadrée, un extrait au ralenti ou un enregistrement tiré de son contexte de manière trompeuse s’appelle un shallowfake. Cela n'implique pas d'IA, mais simplement une astuce de montage. Cette distinction est importante, car un « shallowfake » peut être démasqué si l'on dispose du bon contexte. Un « deepfake », en revanche, doit être démontré techniquement.
En bref : Dans le cas d'un « shallowfake », l'enregistrement est authentique, mais il a été modifié ou sorti de son contexte. Dans le cas d'un « deepfake », l'enregistrement lui-même est faux : cet événement n'a jamais eu lieu.
Comment fabrique-t-on un deepfake ?
La technique classique consiste à Réseau antagoniste génératif (GAN) : deux modèles d'IA qui fonctionnent en opposition. Le générateur crée des images fausses. Le discriminateur tente de distinguer le faux du vrai. Au fil de milliers d'itérations, ils se corrigent mutuellement, jusqu'à ce que le générateur produise des images que le discriminateur ne parvient plus à détecter comme fausses.
Les deepfakes les plus récents s'appuient en outre sur modèles de diffusion, les mêmes techniques qui sont à la base des générateurs d'images. Celles-ci permettent d'obtenir des résultats plus nets avec moins d'apprentissage.
Ce qui a surtout changé, c’est la quantité de matériel source nécessaire. Alors qu’auparavant, il fallait rassembler des centaines de photos prises sous différents angles, quelques secondes de vidéo suffisent désormais souvent. Les deepfakes des dirigeants d’Arup ont été réalisés à partir de contenus accessibles au public : des présentations enregistrées, des vidéos, des profils sur les réseaux sociaux. Autant de contenus que tout dirigeant d’une grande entreprise publie en ligne.
Du matériel source au deepfake en temps réel
Quatre étapes, avec de moins en moins de sources qu'il y a quelques années
01
Collecte de sources
Présentations enregistrées, vidéos, profils publics. Souvent, quelques secondes d'images suffisent.
02
Entraînement des mannequins
Un réseau GAN ou un modèle de diffusion apprend à reconnaître le visage et la voix jusqu’à ce que le résultat ne se remarque plus.
03
Projeter un visage
Le visage généré est superposé à l'image filmée par la caméra du fraudeur.
04
En direct dans l'émission
L'autre voit un collègue, un candidat ou un dirigeant. Pas la personne qui se trouve là.
Quels sont les différents types de deepfakes ?
Échange de visages. Le visage de la personne A est superposé sur le corps de la personne B, dans une vidéo existante. La version classique.
Échange de visages en temps réel. C'est la même chose, mais en direct lors d'un appel vidéo. Le fraudeur est devant sa propre caméra ; ce que voit son interlocuteur, c'est un autre visage. C'est la technique utilisée dans l'affaire Arup et dans les fraudes à l'embauche lors d'appels vidéo.
Clonage vocal. Une voix est imitée à partir d'un enregistrement de quelques secondes. Cette technique est utilisée dans le cadre de fraudes de type « CEO fraud » et d'escroqueries visant des particuliers.
Des personnages entièrement synthétiques. Il ne s'agit pas d'une imitation d'une personne existante, mais d'un visage qui n'a jamais existé. Associé à des données personnelles réelles ou volées, cela donne lieu à une identité synthétique : une personne qui, sur le papier, semble cohérente, mais qui n'existe pas. Il s'agit là d'une forme de fraude à part entière, qui mérite un article à part entière.
À quoi servent les deepfakes ?
À l'intention des particuliers
La grande majorité des deepfakes est de nature pornographique et non consensuelle. À cela s’ajoutent les escroqueries utilisant des voix clonées de proches, ainsi que l’atteinte à la réputation. Les dommages sont souvent irréversibles, même après que l’image a été démentie.
À l'encontre des entreprises
C'est là que se situent les pertes financières les plus importantes, et l'affaire Arup en est l'exemple type.
En janvier 2024, un collaborateur du service financier du bureau de Hong Kong du cabinet d'ingénierie britannique Arup a reçu un e-mail du directeur financier au Royaume-Uni concernant une transaction confidentielle. Il s'est méfié. Il a fait exactement ce que toute formation à la sécurité recommande : il a demandé un appel vidéo pour confirmation.
Le directeur financier participait à cette visioconférence. Il y avait également quelques collègues qu’il a reconnus. Ils étaient tous générés par l’IA, à partir d’images et d’enregistrements audio accessibles au public.
Il a effectué quinze virements vers cinq comptes à Hong Kong, pour un montant total de 200 millions de HK$, soit environ 25,6 millions de dollars. Ce n’est que lorsqu’il a appelé le siège social par la suite que la fraude a été découverte. Arup a confirmé par la suite qu’aucun système interne n’avait été piraté. Il n’y avait ni logiciel malveillant, ni faille exploitée. Seulement un appel vidéo et un récit crédible.
C'est précisément ce qui rend cette menace si difficile à contrer. Les mesures de sécurité dans lesquelles les organisations investissent le plus – authentification multifactorielle, détection au niveau des terminaux, filtres de messagerie – ne sont pratiquement d'aucune utilité face à cette attaque.
Contre les processus de recrutement et de vérification
Et puis la catégorie à laquelle nous appartenons DataChecker auxquels nous sommes confrontés au quotidien.
Dès lors que la vérification d'identité s'effectue à distance – ce qui est désormais la norme lors de la procédure d'intégration –, le visage qui apparaît à l'écran devient la preuve d'identité. Or, ce visage peut désormais être généré.
Fraude à la candidature. Un candidat suit un processus d'intégration entièrement numérique : entretien vidéo, téléchargement de la pièce d'identité, vérification par selfie. Le visage filmé par la caméra n'est pas le sien. La pièce d'identité a été volée ou falsifiée. Cela peut aboutir à l'embauche d'un salarié qui n'est pas autorisé à travailler, avec toutes les responsabilités que cela implique au titre de la Loi sur la responsabilité en chaîne.
Comment contourner la reconnaissance faciale. Ce n'est pas une théorie. La police de Hong Kong a signalé, à la même période que l'affaire Arup, que des fraudeurs avaient utilisé huit cartes d'identité volées pour déposer quatre-vingt-dix demandes de prêt et ouvrir cinquante-quatre comptes bancaires. Dans au moins vingt de ces tentatives, un « deepfake » généré par IA a été utilisé pour tromper un système de reconnaissance faciale.
Utilisation multiple d'une même identité. Les réseaux criminels associent des identités volées à un visage généré par ordinateur, puis utilisent cette même identité légale simultanément auprès de différentes agences d'intérim.
En bref : Un appel vidéo n'a jamais été conçu comme un moyen de vérification d'identité. Il a pourtant été utilisé à cette fin, car pendant des décennies, le fait de voir un visage à l'écran constituait une preuve suffisante. Ce n'est plus le cas aujourd'hui.
Comment reconnaître un deepfake ?
Il y a des signes. Mais ils s'affaiblissent d'année en année.
Les yeux et le clignement des paupières. Les premiers deepfakes ne clignaient pratiquement pas des yeux. Les modèles modernes s'en sortent bien mieux à cet égard, mais un contact visuel peu naturel ou un regard figé reste un indice révélateur.
Les contours du visage. Autour des cheveux, des oreilles et de la mâchoire, on remarque parfois des transitions floues, des différences de couleur ou des pixels qui ne s'alignent pas parfaitement.
Lipsync. Les mouvements des dents, de la langue et des lèvres ne correspondent pas toujours au son. Les consonnes telles que le « f » et le « v » sont techniquement difficiles.
Lumière et ombre. Le visage est éclairé différemment que le reste de la scène, ou les ombres tombent du mauvais côté.
La voix. Les voix clonées ont souvent un son un peu trop lisse : pas assez de souffle, pas assez de variations de hauteur.
Peau. D'une régularité suspecte. Pas de pores, pas d'imperfections.
Et voici la conclusion honnête : ce n'est plus un moyen de défense fiable. Un deepfake bien réalisé, visionné par un recruteur qui mène trente entretiens par semaine, passera inaperçu. L'employé d'Arup a été suffisamment vigilant pour se méfier de l'e-mail. Il s'est tout de même laissé convaincre, car il a vu et entendu son directeur financier.
Le regard face à la technologie
Deux façons d'appréhender la même image
Ce que voit l'œil humain
- Cette personne cligne-t-elle des yeux normalement ?
- Les mouvements des lèvres correspondent-ils au son ?
- L'ombre sur le visage est-elle correcte ?
- La peau a-t-elle l'air réelle ?
Il devient de moins en moins fiable d'année en année. Un deepfake bien réalisé parvient à passer entre les mailles du filet.
Ce que mesure la technologie de détection
- Y a-t-il une personne vivante devant la caméra ?
- L'image présente-t-elle des artefacts liés à la génération par IA ?
- La géométrie de la face est-elle cohérente d'une image à l'autre ?
- La signature figurant sur la puce du document est-elle valide ?
Mesure des propriétés que l'œil ne perçoit pas.
Conseil : En cas de demandes inhabituelles, ne vous fiez jamais au visage qui apparaît à l'écran, aussi convaincant soit-il. Vérifiez toujours les informations via un deuxième canal indépendant : rappelez un numéro que vous avez vous-même recherché, et non celui qui a été mentionné pendant la conversation.
Deepfake, usurpation d'identité ou identité synthétique ?
Ces termes sont souvent confondus. C'est cette différence qui détermine quelle défense est efficace.
| De quoi s'agit-il ? | Ce qu'il attaque | |
|---|---|---|
| Deepfake | Image ou son d'une personne généré par l'IA | Ta confiance en ce que tu vois et entends |
| Usurpation d'identité | Se faire passer pour quelqu’un d’autre en utilisant un moyen de communication falsifié, tel qu’un numéro de téléphone ou une adresse e-mail | Votre confiance envers l'expéditeur |
| Identité synthétique | Une personne qui n'existe pas, constituée de données réelles et fictives | Votre confiance dans ce dossier |
Dans la pratique, ces deux éléments se rejoignent. La fraude chez Arup a commencé par un e-mail usurpé et a dégénéré en un appel vidéo « deepfake ».
La création d'un deepfake est-elle punissable ?
Aux Pays-Bas, il n'existe pas d'article de loi intitulé « deepfake ». Ce qui existe, ce sont des dispositions pénales existantes qui s'y appliquent.
En ce qui concerne les deepfakes à caractère sexuel, c’est l’article 139h du Code pénal néerlandais qui sert de référence ; depuis 2020, celui-ci érige en infraction la production et la diffusion d’images à caractère sexuel sans consentement. En 2023, le tribunal d'Amsterdam a estimé qu'une vidéo pornographique de type « deepfake » relevait de cet article, à condition que l'image paraisse suffisamment réelle pour qu'une personne raisonnable puisse la prendre pour authentique. En outre, selon les cas, des éléments tels que l'escroquerie, la diffamation, la contrainte et l'usurpation d'identité peuvent entrer en ligne de compte.
Le WODC avait déjà conclu que le problème ne réside pas tant dans la législation que dans son application : prouver qu'un contenu est un deepfake nécessite une expertise technique qui fait encore défaut.
Ce qui va changer le 2 août 2026
À compter du 2 août 2026, l'article 50 de la loi relative à l'IA (règlement (UE) 2024/1689) s'applique. Cet article instaure une obligation de transparence explicite concernant les deepfakes : toute personne publiant des images, des fichiers audio ou vidéo générés ou manipulés par IA et suffisamment réalistes pour être confondus avec du contenu réel doit clairement indiquer leur nature artificielle.
Deux points sont importants à cet égard. Premièrement, cette obligation n'a pas été reportée. Les obligations à haut risque prévues par la loi sur l'IA ont été maintenues via le paquet Digital Omnibus, mais l'obligation de transparence concernant les deepfakes reste fixée au 2 août. Deuxièmement, l'intention malveillante n'est pas requise : un deepfake réalisé avec de bonnes intentions ou à but commercial est également concerné. Une forme allégée de cette obligation s'applique aux œuvres clairement artistiques, satiriques ou de fiction. Les amendes peuvent atteindre 15 millions d'euros ou 3 % du chiffre d'affaires annuel mondial.
Il s'agit là, bien entendu, d'une obligation de transparence pour les créateurs de deepfakes, et non d'une protection contre ceux qui les utilisent à des fins malveillantes. Les fraudeurs n'indiqueront pas la provenance de leurs deepfakes. Pour les organismes chargés de la vérification des identités, peu de choses changent donc juridiquement sur ce point ; la défense demeure de nature technique.
Pour en savoir plus sur l'impact de la loi sur l'IA sur les applications biométriques, consultez notre article consacré à La loi sur l'IA et l'identification biométrique.
Que faire si vous êtes victime d'un deepfake ?
- Conservez les preuves. Faites des captures d'écran ou téléchargez le contenu avant qu'il ne disparaisse. Notez où et quand vous l'avez trouvé.
- Signalez-le à la plateforme. En vertu de la loi sur les services numériques (Digital Services Act), les plateformes sociales sont tenues de supprimer les contenus illicites et ont mis en place des procédures de signalement à cet effet.
- Faites une déclaration. Dans le cas de deepfakes à caractère sexuel ou liés à l'identité, il est possible et utile de porter plainte, même si il est difficile d'apporter des preuves.
- Demandez de l'aide. L'association « Slachtofferhulp Nederland » accompagne les victimes d'abus en ligne.
- Envisagez de déposer une plainte auprès de l'Autorité néerlandaise de protection des données. Des données personnelles sont utilisées pour créer un deepfake d'une personne réelle, généralement sans fondement juridique. Cela peut donner lieu à une plainte auprès de l'Autorité néerlandaise de protection des données (AP).
Comment la technologie détecte les deepfakes
Lorsque l'œil humain ne suffit plus, c'est à la vérification de prendre le relais. Une détection efficace repose sur plusieurs niveaux, car chaque niveau pris isolément peut être contourné.
Ainsi, DataChecker l'a aménagé.
Détection en quatre couches
Chaque couche peut être contournée individuellement. Ensemble, elles rendent la tâche beaucoup plus difficile.
Couche 1 · Détection de présence
À la fois actif et passif. Y a-t-il une personne en chair et en os devant la caméra, ou s'agit-il d'une photo, d'un enregistrement ou d'un visage généré par ordinateur ?
Niveau 2 · Détection par IA des contenus synthétiques
Analyse des motifs de texture, de la géométrie du visage et des artefacts de génération. Fournit un score de risque, et non une simple réponse par « oui » ou par « non ».
Couche 3 · La puce intégrée au document
Les données de la puce sont signées numériquement par l'autorité émettrice. Ceci garantit l'authenticité du document, indépendamment des conditions de prise de vue.
Couche 4 · Où se trouvent les données ?
Certifié ISO/IEC 27001:2022 par BSI. Toutes les données de vérification sont traitées au sein de l'UE.
Couche 1 : détection de présence
FaceVerify Il ne s'agit pas simplement de comparer un selfie avec la photo figurant sur la pièce d'identité. Le système vérifie qu'il s'agit bien d'une personne réelle devant l'objectif, et non d'une photo, d'un enregistrement d'écran ou d'un visage généré par une IA.
Cela se fait de deux manières à la fois. La « liveness » active demande à l'utilisateur d'effectuer une action. La « liveness » passive analyse l'image en arrière-plan, sans que l'utilisateur s'en rende compte. Cette combinaison est délibérée : une attaque qui contourne l'une des couches se heurte généralement à l'autre.
Niveau 2 : Détection par l'IA des contenus synthétiques
En plus de la couche de vérification de l'authenticité, DataChecker les images vidéo en fonction des caractéristiques propres à la génération par IA : motifs de texture inhabituels, incohérences dans la géométrie des visages, artefacts typiques des images générées.
Le résultat n'est pas un simple oui ou non, mais un score de risque en temps réel. Ce choix est délibéré. Un « oui » ou un « non » catégorique obligerait le système à toujours trancher en cas de doute, et donc parfois à se tromper. Un score permet à l'évaluateur de réaliser lui-même l'évaluation, en tenant compte du contexte de l'application.
Couche 3 : la puce intégrée au document
Il s'agit d'une couche de protection robuste, et c'est la raison pour laquelle la vérification des documents est fondamentalement différente de la vérification faciale.
Un visage peut être généré. Les données contenues dans la puce d'un passeport conforme aux normes de l'OACI sont signées numériquement par l'autorité qui a délivré le document. DataChecker lit les données du document original à partir de la puce NFC et vérifie si la signature est correcte.
Cela fait de la vérification par puce l'un des contrôles les plus fiables pour garantir l'authenticité d'un document d'identité. La comparaison faciale et la détection de présence permettent de déterminer si la personne devant la caméra est bien le titulaire du document. C'est précisément cette combinaison qui rend la contrefaçon difficile.
Couche 4 : où se trouvent les données
DataChecker L'entreprise est certifiée ISO/IEC 27001:2022 par BSI (certification ISC 365) pour le développement et la mise en œuvre de la vérification des données personnelles. Toutes les données de vérification sont traitées au sein de l'UE.
Dernière mise à jour : novembre 2026. L’entrée en vigueur de l’article 50 de la loi sur l’IA est prévue pour le 2 août 2026 ; la Commission européenne finalise encore les lignes directrices et le code de conduite.
Foire aux questions sur les deepfakes
Que signifie « deepfake » ?
« Deepfake » est une contraction de apprentissage profond et faux. Ce terme désigne une image, une vidéo ou un son généré ou manipulé par l'IA, dans lequel une personne semble dire ou faire quelque chose qui ne s'est jamais produit.
Quelle est la différence entre un « deepfake » et un « shallowfake » ?
Dans le cas d'un « shallowfake », l'enregistrement est authentique, mais il a été manipulé par montage ou par un contexte trompeur. Dans le cas d'un « deepfake », l'enregistrement lui-même est généré par l'IA.
Les deepfakes peuvent-ils être utilisés lors d'entretiens d'embauche ?
Oui. Lors des procédures d'intégration en ligne et des appels vidéo, un fraudeur peut recourir à un « face swap » en temps réel. La police de Hong Kong a constaté que, dans au moins vingt cas, des « deepfakes » générés par l'IA avaient réussi à tromper les systèmes de reconnaissance faciale.
La création d'un deepfake est-elle punissable aux Pays-Bas ?
Il n'existe pas d'article de loi spécifique aux deepfakes. Toutefois, les dispositions existantes sont appliquées : en 2023, le tribunal d'Amsterdam a estimé qu'une vidéo pornographique de type deepfake relevait de l'article 139h du Code pénal néerlandais. Selon les cas, des éléments tels que l'escroquerie, la diffamation ou l'usurpation d'identité peuvent également entrer en ligne de compte.
Quels changements interviendront le 2 août 2026 ?
Dans ce cas, l'article 50 de la loi sur l'IA s'applique, imposant une obligation de transparence concernant les deepfakes. Toute personne publiant des images réalistes générées par IA doit indiquer qu'elles sont artificielles, même sans intention malveillante. Les amendes peuvent atteindre 15 millions d'euros ou 3 % du chiffre d'affaires mondial.
Peut-on reconnaître un deepfake à l'œil nu ?
De moins en moins fiable. Certains indices, comme des clignements de paupières anormaux, des contours du visage flous et une synchronisation labiale incorrecte, aident à les repérer, mais les deepfakes bien réalisés parviennent à passer entre les mailles du filet. Une détection technique est nécessaire.
La détection de présence humaine est-elle efficace contre les deepfakes ?
La détection de présence seule ne suffit pas pour contrer les attaques les plus sophistiquées. C'est pourquoi DataChecker vérification active et passive de l'authenticité, avec détection par IA des médias synthétiques et lecture de la puce NFC intégrée au document d'identité. Les données de cette puce sont signées numériquement par l'autorité émettrice et sont indépendantes du degré de réalisme du visage capturé par la caméra.
