Deepfakes et fraude au président : l’IA générative relance l’ingénierie sociale

À jour au 31 octobre 2026. Les obligations de transparence de l’AI Act s’appliquent depuis le 2 août 2026 ; la période de transition pour le marquage des contenus générés se termine le 2 décembre 2026.

En janvier 2024, un employé du bureau de Hong Kong du groupe d’ingénierie Arup participe à une visioconférence avec le directeur financier du groupe et plusieurs collègues. Sur leurs instructions, il effectue quinze virements, pour un total de 200 millions de dollars de Hong Kong (environ 25 millions de dollars américains). Tous les participants à la réunion étaient des deepfakes, fabriqués à partir de vidéos et d’enregistrements publics. Arup a confirmé l’incident en mai 2024.

La fraude au président n’est pas nouvelle. Ce qui change, c’est que l’IA générative la rend beaucoup plus crédible, et beaucoup moins coûteuse à monter.

Ce que l’IA change

La crédibilité : quelques extraits publics (interviews, conférences, vidéos d’entreprise) suffisent à imiter la voix d’un dirigeant. Les visages peuvent être animés en direct dans une visioconférence. Les messages sont rédigés sans faute, dans n’importe quelle langue, avec le ton de la personne imitée.
L’échelle : les escrocs exploitent les informations publiques (organigrammes, profils professionnels, actualité de l’entreprise) pour personnaliser leurs attaques à moindre coût.
Le multicanal : un courriel est confirmé par un appel, puis par une visioconférence ou un message instantané. Chaque canal renforce la crédibilité des autres.

Les scénarios les plus courants

La fraude au président : un faux dirigeant demande un virement urgent et confidentiel, souvent pour une prétendue acquisition ou une opération sensible.
Le faux fournisseur : un partenaire habituel annonce un changement de coordonnées bancaires.
Le faux collaborateur auprès du support informatique : l’escroc se fait passer pour un salarié afin d’obtenir la réinitialisation d’un mot de passe ou d’une authentification multifacteur, puis s’introduit dans le système d’information.

Les signaux d’alerte restent les mêmes qu’avant l’IA : l’urgence, la confidentialité, le contournement des procédures, un canal inhabituel, des coordonnées bancaires nouvelles et le refus d’un contre-appel.

Pourquoi la technique ne suffira pas

Ce que prévoit l’AI Act

L’article 50 de l’AI Act impose deux obligations utiles :

les fournisseurs de systèmes d’IA générative doivent marquer leurs contenus de façon lisible par une machine et détectable ;
les professionnels qui diffusent des hypertrucages (deepfakes) doivent indiquer que le contenu a été généré ou manipulé.

Ces obligations s’appliquent depuis le 2 août 2026. Les systèmes mis sur le marché avant cette date ont jusqu’au 2 décembre 2026 pour se conformer à l’obligation de marquage. Pour aider les acteurs à s’y conformer, la Commission européenne a publié en juin 2026 un code de bonnes pratiques, d’application volontaire.

En France, la loi SREN du 21 mai 2024 a par ailleurs étendu la répression des montages réalisés sans consentement aux hypertrucages générés par algorithme.

Les limites

Ces règles encadrent les usages légitimes. Un escroc, lui, n’apposera aucune étiquette sur sa fausse visioconférence, et peut utiliser des outils détournés ou non conformes. Les outils de détection des deepfakes progressent, mais ils restent imparfaits et engagés dans une course permanente avec les outils de génération.

La protection repose donc d’abord sur les procédures et sur les réflexes des équipes.

Les procédures qui résistent

Aucun virement sur la seule foi d’un échange, quel que soit le canal (courriel, appel, visioconférence) : double validation par deux personnes au-delà d’un seuil défini.
Un contre-appel systématique sur un numéro connu, issu de l’annuaire interne, jamais sur celui fourni dans le message.
Une question ou un code de vérification convenu hors ligne pour les demandes sensibles émanant de la direction.
Une procédure stricte pour les changements de coordonnées bancaires des fournisseurs : vérification indépendante et délai avant le premier paiement.
Une vérification d’identité renforcée au support informatique, en particulier pour la réinitialisation des accès des comptes à privilèges.
Un droit explicite à la vérification : la direction affirme qu’aucun reproche ne sera fait à un collaborateur pour avoir vérifié une demande, même venant d’elle.
Une exposition publique maîtrisée : informations sur l’organisation, les procédures internes et les déplacements des dirigeants.

Sensibiliser sans faire peur

La sensibilisation fonctionne quand elle est concrète : exemples réels, simulations d’hameçonnage et d’appels frauduleux, retours d’expérience après chaque tentative détectée. Les populations à cibler en priorité sont la comptabilité et la trésorerie, les assistants de direction, le support informatique et les ressources humaines.

Si la fraude a réussi

Prévenir immédiatement votre banque pour tenter de bloquer ou de rappeler les fonds : chaque heure compte.
Porter plainte, et rapidement : pour être indemnisée par une assurance cyber, une entreprise victime d’une cyberattaque doit porter plainte dans les 72 heures.
Conserver les preuves : messages, enregistrements, journaux de connexion.
Prévenir votre assureur et vous faire accompagner, par exemple via Cybermalveillance.gouv.fr.

Ces démarches s’ajoutent à vos autres obligations de notification, détaillées dans notre analyse Un incident, plusieurs horloges.

Sources

← Toutes les analyses