Deepfakes et fraude financière : l’affaire Arup qui a coûté 25 millions de dollars

Eh oui, les deepfakes ne sont plus seulement l’apanage des vidéos virales ou des créations humoristiques sur Internet. Cette technologie révolutionnaire, capable de générer des médias synthétiques ultra-réalistes, est désormais utilisée à des fins malveillantes, notamment dans le cadre d’escroqueries financières. Et le géant britannique Arup vient d’en faire les frais, perdant la somme astronomique de 25 millions de dollars dans une arnaque impliquant des deepfakes vocaux et visuels. (On n’est plus à l’abri nulle part, les gars !)

Qu’est-ce qu’un deepfake, au juste ?

Avant d’entrer dans les détails croustillants de cette affaire, commençons par définir ce qu’est un deepfake. Ce terme, inventé en 2017 sur Reddit, désigne des contenus multimédias (images, vidéos, voix) générés par des algorithmes d’intelligence artificielle, notamment les réseaux antagonistes génératifs (GAN) et les autoencodeurs variationnels (VAE). L’objectif ? Créer des médias synthétiques ultra-réalistes, capables de tromper même l’œil le plus averti.

Les deepfakes exploitent des techniques de reconnaissance faciale et de synthèse vocale pour remplacer de manière convaincante le visage ou la voix d’une personne par ceux d’une autre. Résultat ? Des vidéos où votre patron semble vous donner des instructions farfelues, ou bien votre conjoint(e) prononçant des paroles qu’il/elle n’a jamais dites. Flippant, non ?

Comment Arup s’est fait avoir par des deepfakes

Revenons à nos moutons, ou plutôt à notre affaire de deepfakes. Selon les informations divulguées par la police de Hong Kong, un employé du département financier d’Arup a été piégé par une escroquerie particulièrement élaborée. Tout a commencé par un courriel douteux, prétendument envoyé par le siège britannique de l’entreprise, mentionnant une « transaction secrète » à effectuer.

L’employé a d’abord soupçonné un hameçonnage, mais ses doutes se sont envolés après un appel vidéo avec des interlocuteurs ressemblant trait pour trait à ses collègues, y compris le directeur financier.

Sauf que, vous l’aurez deviné, ces « collègues » n’étaient autres que des deepfakes vocaux et visuels créés par les arnaqueurs. Complètement bernés, l’employé a procédé à 15 transactions représentant un total ahurissant de 25,6 millions de dollars (environ 200 millions de dollars de Hong Kong). Un véritable jackpot pour les escrocs !

Les techniques d’IA derrière les deepfakes

Mais comment les arnaqueurs ont-ils pu créer des deepfakes aussi convaincants ? Grâce aux progrès fulgurants de l’intelligence artificielle dans les domaines de la vision par ordinateur et du traitement du langage naturel. Les réseaux antagonistes génératifs (GAN) permettent de générer des images et vidéos d’une qualité époustouflante, tandis que les modèles de synthèse vocale comme les codeurs prédictifs neuronaux (ci-dessus un exemple)

Vous l’aurez compris, les deepfakes représentent une menace grandissante pour la sécurité et la désinformation. Et l’affaire Arup n’est que la pointe de l’iceberg en matière de fraude financière utilisant cette technologie.

Les défis de la détection des deepfakes

Face à cette prolifération inquiétante, la course est lancée pour développer des outils de détection fiables. Le domaine de la criminalistique des images explore diverses pistes, comme l’analyse des imperfections dans les images générées par l’IA ou la détection d’incohérences temporelles dans les vidéos. Certaines approches misent sur l’apprentissage profond pour apprendre à reconnaître les deepfakes, tandis que d’autres se basent sur des techniques plus traditionnelles de traitement d’image.

Cependant, à mesure que les deepfakes deviennent plus sophistiqués, leur détection devient un défi de taille. C’est un véritable bras de fer technologique entre les créateurs de deepfakes et les outils de détection.

Au-delà des aspects techniques, la lutte contre les deepfakes soulève également des enjeux juridiques et éthiques complexes. Comment réglementer cette technologie sans entraver la liberté d’expression et la créativité artistique ? Comment protéger la vie privée des individus dont l’image est détournée ? Autant de questions brûlantes qui nécessitent un débat de société approfondi.

Deepfakes : un phénomène à prendre au sérieux

L’affaire Arup nous rappelle avec force que les deepfakes ne sont pas seulement un phénomène marginal ou une curiosité technologique. Ils représentent une menace tangible pour les entreprises, les gouvernements et les individus. Avec des sommes astronomiques en jeu et des techniques de plus en plus perfectionnées, la lutte contre les deepfakes malveillants devient une priorité absolue.

Cependant, malgré les risques évidents, les deepfakes ouvrent également la voie à des applications positives dans des domaines comme le divertissement, l’éducation ou la préservation du patrimoine culturel. Tout est une question d’équilibre et de réglementation éclairée.

Une chose est sûre : nous devons rester vigilants face à cette technologie à double tranchant. Développer des outils de détection fiables, sensibiliser le public aux dangers des deepfakes et encadrer leur utilisation de manière responsable sont autant de défis cruciaux à relever dans les années à venir. Alors, prêts à affronter cette nouvelle ère de la désinformation ?