Deepfakes : comprendre et détecter les contenus générés par IA

Les pertes mondiales documentées à cause des deepfakes atteignent 3,7 milliards de dollars, selon une étude de Surfshark qui couvre la période allant de janvier 2020 à juin 2026. La courbe raconte l’essentiel : 335 millions de dollars en 2024, 2,5 milliards en 2025, puis 764 millions sur le seul premier semestre 2026. La fraude se banalise, et le cadre juridique s’est durci en même temps : l’AI Act oblige depuis le 2 août 2026 à marquer les contenus générés par IA. Ces deux mouvements avancent en parallèle, et il vaut mieux connaître les deux.

Qu’est-ce qu’un deepfake

Un deepfake est un contenu — image, vidéo ou audio — généré ou modifié par intelligence artificielle pour imiter une personne réelle. Le visage, la voix, les expressions et les mouvements peuvent être reproduits à partir d’enregistrements publics. Le terme combine « deep learning » (apprentissage profond) et « fake » (faux). La CNIL emploie de son côté le mot français « hypertrucage » et retient la même définition : un contenu audio, photo ou vidéo créé ou modifié grâce à des techniques d’intelligence artificielle.

Il en existe deux grandes catégories. Les deepfakes asynchrones sont enregistrés, manipulés puis diffusés : un faux discours de dirigeant, une fausse vidéo compromettante. Les deepfakes en temps réel superposent un visage et une voix sur un intervenant pendant une visioconférence. Cette seconde famille alimente la fraude en entreprise, parce qu’elle permet de répondre aux questions de la victime. Notre dossier sur le clonage vidéo par IA détaille les techniques employées, du face swap à la génération complète.

Les outils qui rendent les deepfakes accessibles

La génération vidéo grand public a connu une année agitée. OpenAI a retiré son application Sora le 24 mars 2026 et débranché l’accès qui allait avec, faute d’usage et devant l’ampleur de la modération nécessaire : notre article sur la fermeture de Sora revient sur cette décision. Son départ n’a rien freiné, car Kling, Runway et Seedance ont récupéré le trafic. Google propose de son côté Veo 3.1 et Veo 3.1 Lite, avec audio synchronisé nativement, et SpaceXAI met Grok Imagine à disposition de ses abonnés. Notre comparatif des générateurs vidéo IA donne l’état du marché.

Côté voix, le clonage demande moins de matière qu’on ne le croit souvent, sans être instantané pour autant. ElevenLabs recommande une à deux minutes d’audio propre pour un clonage immédiat, et précise que trente secondes suffisent parfois à obtenir un bon résultat. Son clonage professionnel, plus fidèle, réclame en revanche entre trente minutes et trois heures d’enregistrement. Un discours public, un podcast ou une story vidéo fournissent donc largement la matière première. Notre guide du clonage de voix par IA explique ce que ces outils savent faire et ce qu’ils exigent.

Les éditeurs sérieux encadrent cet usage. ElevenLabs interdit de cloner la voix d’un tiers, même avec son accord, et impose une vérification pour son clonage professionnel. Les outils qui ignorent ces règles circulent néanmoins, et c’est cette zone grise qui alimente les arnaques.

Ce que les deepfakes coûtent déjà

L’étude de Surfshark, publiée le 14 juillet 2026, ventile les 3,7 milliards de dollars de pertes recensées par canal. Les réseaux sociaux concentrent 1,73 milliard de dollars, soit 47 % du total, principalement via de fausses publicités d’investissement empruntant le visage d’une célébrité. L’usurpation d’identité pèse 911 millions de dollars, les distributeurs automatiques de cryptomonnaies 333 millions sur la seule année 2025, les faux candidats à l’embauche 100 millions, les appels téléphoniques 71 millions et les plateformes de visioconférence 62 millions. Le travail repose sur des incidents vérifiés par la presse, ce qui en fait un plancher plutôt qu’un total réel.

La projection la plus citée vient de Deloitte, qui estimait les pertes de fraude liées à l’IA générative à 12,3 milliards de dollars aux États-Unis en 2023 et les voit atteindre 40 milliards en 2027, soit une croissance annuelle moyenne de 32 %. Ces ordres de grandeur expliquent pourquoi les banques et les assureurs ont fait de la détection un sujet de direction générale.

Qui est visé et comment

Les deepfakes frappent à trois niveaux, avec des modes opératoires distincts.

En entreprise, la fraude au président reste le scénario dominant. Un faux dirigeant ordonne un virement urgent et confidentiel par visioconférence ou message vocal, et la victime ne dispose d’aucun moyen simple de vérifier. L’affaire Arup, qui a coûté environ 25 millions de dollars en 2024, a fait école parce que tous les participants à la réunion sauf la victime étaient synthétiques. Les recruteurs constituent l’autre cible : des candidats se présentent à des entretiens à distance avec un visage et une voix qui ne sont pas les leurs, pour décrocher un accès aux systèmes de l’entreprise.

Les personnalités publiques subissent surtout la désinformation et le détournement publicitaire. Leur image sert à vendre de faux placements, et leurs propos sont réécrits en période électorale. YouTube impose désormais aux créateurs de déclarer tout contenu réaliste généré ou modifié par IA qui fait dire ou faire à une personne réelle quelque chose qui n’a pas eu lieu. La plateforme affiche alors une étiquette sur la vidéo pour les contenus photoréalistes, et dans la description pour les autres.

Chez les particuliers, la violence est d’abord sexuelle. Sensity relevait dès 2023 que 96 % des deepfakes recensés étaient sexuellement explicites et représentaient des femmes. En octobre 2024, les robots de dénudation hébergés sur Telegram comptaient environ quatre millions d’utilisateurs mensuels. Le phénomène a atteint les grands modèles : SpaceXAI a restreint la génération d’images aux abonnés payants le 9 janvier 2026 après la production de deepfakes sexuellement explicites par Grok, et la ville de Baltimore a poursuivi l’entreprise le 24 mars 2026 pour la génération d’images sexualisées de personnes sans leur accord. S’ajoutent les arnaques sentimentales avec des visages générés et les faux messages vocaux d’un proche en difficulté.

Ce que la loi européenne impose désormais

L’article 50 de l’AI Act s’applique depuis le 2 août 2026, et le Digital Omnibus qui a reporté d’autres pans du règlement ne l’a pas touché. Il pose deux obligations différentes selon que l’on fabrique l’outil ou qu’on l’utilise. Le fournisseur d’un système génératif doit marquer ses sorties dans un format lisible par machine, détectable comme artificiellement généré ou manipulé, avec des solutions techniques efficaces, interopérables et robustes au regard de l’état de l’art. Celui qui diffuse un hypertrucage doit, lui, révéler que le contenu a été généré ou manipulé.

Le texte prévoit des exceptions, et elles comptent. Une œuvre artistique, une satire ou une fiction échappent à la divulgation complète, qui se limite alors à une mention ne gâchant pas l’expérience du spectateur. Un texte publié sur un sujet d’intérêt public doit être signalé comme généré par IA, sauf s’il a fait l’objet d’une relecture humaine et d’un contrôle éditorial avec une responsabilité clairement attribuée. Les usages autorisés par la loi pour la détection ou la poursuite d’infractions pénales sortent également du champ.

Une nuance de calendrier mérite d’être connue. Les systèmes mis sur le marché avant le 2 août 2026 bénéficient d’un délai de quatre mois pour se conformer au marquage, soit jusqu’au 2 décembre 2026. Les systèmes lancés après cette date devaient s’y conformer immédiatement. La Commission a par ailleurs publié un code de bonnes pratiques volontaire sur le marquage et l’étiquetage des contenus générés, accompagné d’un jeu d’icônes proposé aux créateurs : adhérer à ce code reste facultatif, respecter l’article 50 ne l’est pas. Notre guide de l’AI Act pour les dirigeants détaille le calendrier complet, et notre présentation de l’AI Act européen replace ces obligations dans l’architecture du règlement.

Le Digital Omnibus, entré en vigueur le 27 juillet 2026, a aussi ajouté une interdiction pure et simple. Elle vise les systèmes qui génèrent ou manipulent des images, des vidéos ou des sons montrant les parties intimes d’une personne identifiable sans son consentement explicite. Le matériel d’abus sexuel sur mineurs produit par IA tombe sous la même interdiction. Pour un fournisseur, elle joue quand cet usage constitue la finalité prévue, mais aussi quand il devient un résultat prévisible et reproductible faute de garde-fous techniques suffisants. La Commission situe l’entrée en application de cette interdiction en décembre 2026.

Ce que dit le droit français

La France n’a pas attendu le règlement européen. L’article 226-8 du code pénal punit d’un an d’emprisonnement et de 15 000 euros d’amende le fait de diffuser le montage de l’image ou des paroles d’une personne sans son consentement, dès lors qu’il n’apparaît pas à l’évidence qu’il s’agit d’un montage. Les peines sont aggravées quand le contenu revêt un caractère sexuel ou quand il circule sur un réseau social.

D’autres qualifications se cumulent selon les faits, et la CNIL les rappelle dans sa fiche consacrée aux hypertrucages. Le harcèlement en ligne expose à deux ans d’emprisonnement et 30 000 euros d’amende. L’escroquerie, qui couvre la fraude au faux dirigeant comme le faux conseiller bancaire, monte à cinq ans et 375 000 euros. La détention ou la diffusion de matériel pédopornographique généré par IA relève de l’article 227-23 du code pénal, avec cinq ans d’emprisonnement et 75 000 euros d’amende. Un contenu haineux diffusé sous forme de deepfake peut enfin être sanctionné comme contravention.

Le RGPD s’ajoute à ce socle pénal, puisqu’un visage et une voix sont des données personnelles. Utiliser l’image de quelqu’un pour fabriquer un contenu sans base légale constitue un traitement illicite, indépendamment du préjudice moral. Notre article sur l’IA et le RGPD explique ce que le règlement protège et comment faire valoir ses droits.

Comment vérifier un contenu

Trois approches existent, et aucune ne se suffit à elle seule. L’observation humaine, les signatures de provenance et les détecteurs automatiques répondent à des questions différentes.

Les indices visuels et sonores

Certains signes restent repérables : lèvres mal synchronisées avec le son, clignements trop rares ou trop réguliers, contours du visage instables, éclairage incohérent entre le visage et l’arrière-plan, pixellisation localisée, voix légèrement métallique ou prosodie trop lisse. La CNIL cite la même liste dans ses conseils au grand public. Ces artefacts s’effacent toutefois avec chaque génération de modèles, et les chiffres douchent les illusions : sur un échantillon de cinquante vidéos, des observateurs ordinaires identifient correctement les faux dans 69 à 72 % des cas. Autant dire qu’un examen à l’œil nu trie, mais ne tranche pas.

Les signatures de provenance : C2PA et SynthID

La piste la plus prometteuse consiste à marquer les contenus à la source. La coalition C2PA a normalisé les Content Credentials, une sorte d’étiquette nutritionnelle cryptographique qui indique quel outil a produit un fichier, quand et après quelles modifications. Son comité de pilotage réunit Adobe, Amazon, la BBC, Google, Meta, Microsoft, OpenAI, Publicis, Sony, TikTok et Truepic. N’importe qui peut déposer une image sur l’outil de vérification public de Content Credentials pour voir si un historique est attaché.

Google marque de son côté ses générations avec SynthID, un filigrane invisible appliqué aux images, aux vidéos, à l’audio produit par Lyria et même au texte de l’application Gemini. Un portail de vérification existe, mais il reste en test auprès de journalistes et de professionnels des médias inscrits sur liste d’attente. OpenAI combine les deux approches : les images produites par ChatGPT, Codex et son API portent à la fois des métadonnées C2PA et un filigrane SynthID.

La limite est reconnue par ceux qui déploient ces standards. OpenAI écrit que les métadonnées peuvent être supprimées par les plateformes, les logiciels d’édition ou une simple conversion de format, et qu’un signal de provenance ne garantit ni l’exactitude ni le contexte d’un contenu. Une capture d’écran, un repartage ou une recompression suffisent donc à faire disparaître la preuve. L’absence de signature ne prouve rien, sa présence prouve seulement l’origine.

Les détecteurs automatiques et ce qu’ils valent vraiment

Plusieurs plateformes analysent un fichier pour y repérer les traces d’une génération. Attestiv note le degré de manipulation d’une vidéo sur une échelle de 1 à 100, Deepware Scanner cherche des déformations de visage, Deepfake-o-Meter, développé à l’université de Buffalo, combine plusieurs méthodes d’analyse, tandis que Sensity AI et Reality Defender s’adressent aux entreprises via des interfaces de programmation. Pour le texte, le sujet relève d’une autre famille d’outils, que nous traitons dans notre dossier sur les détecteurs de contenu généré par IA.

Le décalage entre la démonstration commerciale et le terrain a été mesuré. Des chercheurs ont rassemblé sous le nom de Deepfake-Eval-2024 des contenus réellement en circulation : 45 heures de vidéo, 56,5 heures d’audio et 1 975 images, collectées sur 88 sites et dans 52 langues. Confrontés à ce corpus, les détecteurs en accès libre perdent 50 % de performance en vidéo, 48 % en audio et 45 % en image par rapport à leurs scores sur les jeux d’essai habituels. Les modèles commerciaux et les modèles réentraînés font mieux, sans atteindre la précision d’analystes forensiques humains. Le meilleur modèle du concours Deepfake Detection Challenge plafonnait pour sa part à 65 % de justesse.

Un détecteur de deepfakes sert donc à trier, pas à arbitrer. Un détecteur entraîné sur des générations anciennes rate les contenus récents, puisque les marqueurs d’hier — texte brouillé, doigts en trop, dents déformées — ont été corrigés. Chaque outil ne couvre qu’une partie des techniques, et un fichier très compressé ou republié plusieurs fois a perdu les traces exploitables. Plus l’enjeu monte, plus il faut croiser le verdict automatique avec la source, le contexte et, si nécessaire, une expertise humaine.

Vérifier l’information, pas seulement le fichier

Un deepfake convaincant se démonte souvent par le contexte plutôt que par l’analyse du pixel. Cherchez l’origine du contenu, remontez au compte qui l’a publié le premier, vérifiez si un média identifié reprend l’information et comparez avec les images d’archive de la personne concernée. Les services de vérification collaborative rendent cette étape accessible : l’assistant Vera, joignable par téléphone et sur WhatsApp, interroge plus de 300 sources de fact-checking et renvoie une réponse sourcée en quelques secondes.

Se protéger et réagir

Les réflexes à installer avant l’incident

La meilleure défense reste de réduire la matière première et de créer un canal de confiance. Limitez la diffusion publique de longues séquences de votre voix et de votre visage, surtout en haute qualité. Convenez avec vos proches d’un mot de passe oral qu’un inconnu ne peut pas connaître, à demander en cas d’appel inhabituel. La CNIL propose de son côté une application de floutage des visages sur les photos que l’on partage. Et gardez en tête que voir et entendre ne constituent plus des preuves suffisantes.

Ce qu’une entreprise doit mettre en place

La technologie ne remplace pas le protocole. Instaurez une double validation pour tout virement inhabituel, quelle que soit l’urgence invoquée. Rappelez systématiquement sur le numéro officiel du demandeur, jamais sur celui fourni dans la demande. Formez les équipes finance et ressources humaines aux signaux d’alerte, en citant des cas réels. Ajoutez un exercice de crise deepfake à vos simulations, car une visioconférence truquée est aujourd’hui un scénario plus probable qu’une panne de serveur. Pour les entretiens à distance, demandez un geste imprévu ou un document tenu à la caméra, ce que les systèmes temps réel gèrent encore mal.

Que faire si un deepfake vous vise

Agissez dans cet ordre, et conservez des preuves à chaque étape. Faites d’abord des captures d’écran et notez les adresses des pages, car un contenu supprimé devient impossible à qualifier. Signalez ensuite le contenu avec les outils de la plateforme, qui sont tenus d’agir sur les contenus trompeurs ou abusifs. Les contenus gravement illicites se signalent en parallèle sur la plateforme PHAROS, prévue pour cet usage. Déposez plainte auprès de la police ou de la gendarmerie, la démarche restant indispensable pour ouvrir une enquête. Saisissez enfin la CNIL si vos données personnelles ont été utilisées sans votre accord, en sachant que cette plainte ne remplace pas la plainte pénale. Le service public 17Cyber, opéré par la police nationale, la gendarmerie et Cybermalveillance.gouv.fr, vous guide pas à pas et vous oriente vers le bon interlocuteur.

Ce que les deepfakes changent pour vous

Le deepfake a fait tomber une certitude ancienne : une vidéo ou un enregistrement valaient preuve. Cette époque est révolue, et aucun logiciel ne la fera revenir. La réponse repose sur deux piliers : un marquage à la source, qui progresse mais reste fragile, et un doute méthodique chez celui qui regarde.

Retenez trois choses. Un contenu qui vous pousse à agir dans l’urgence mérite trente secondes de vérification par un autre canal, et ce réflexe vaut mieux que n’importe quel détecteur. Un résultat d’outil automatique se lit comme un indice, jamais comme un verdict. Et si vous êtes visé, le droit français offre déjà des qualifications précises, à condition de conserver les preuves et de porter plainte.