Les escroqueries par imposteur deepfake génèrent une nouvelle vague de fraude

Sep 02, 2023

Les voix d'enfants générées par ordinateur sont si réalistes qu'elles trompent leurs propres parents. Masques créés avec des photos des réseaux sociaux qui peuvent pénétrer dans un système protégé par Face ID. Cela ressemble à de la science-fiction, mais ces techniques sont déjà à la disposition des criminels qui s’attaquent aux consommateurs ordinaires.

La prolifération des technologies frauduleuses a alarmé les régulateurs, la police et les personnes aux plus hauts niveaux du secteur financier. L’intelligence artificielle en particulier est utilisée pour « booster » la fraude, a averti en juin la présidente de la Federal Trade Commission américaine, Lina Khan, appelant à une vigilance accrue de la part des forces de l’ordre.

Même avant que l’IA ne se déchaîne et ne devienne accessible à toute personne disposant d’une connexion Internet, le monde avait du mal à contenir une explosion de la fraude financière. Rien qu'aux États-Unis, les consommateurs ont perdu près de 8,8 milliards de dollars l'année dernière, soit une hausse de 44 % par rapport à 2021, malgré un investissement record dans la détection et la prévention. Les experts en criminalité financière de grandes banques, dont Wells Fargo & Co. et Deutsche Bank AG, affirment que le boom de la fraude qui se profile à l'horizon est l'une des plus grandes menaces auxquelles est confronté leur secteur. En plus de payer le prix de la lutte contre les escroqueries, le secteur financier risque de perdre la confiance de ses clients épuisés. "C'est une course aux armements", déclare James Roberts, responsable de la gestion de la fraude à la Commonwealth Bank of Australia, la plus grande banque du pays. "Il serait exagéré de dire que nous gagnons."

L’histoire des escroqueries est sûrement aussi ancienne que l’histoire du commerce et des affaires. L'un des premiers cas connus, il y a plus de 2 000 ans, impliquait un marchand grec qui tentait de couler son navire pour obtenir un paiement frauduleux sur une police d'assurance. Parcourez les archives des journaux et vous découvrirez d'innombrables tentatives pour séparer les crédules de leur argent. Mais l’économie sombre de la fraude – tout comme l’économie dans son ensemble – connaît périodiquement des explosions d’innovations déstabilisatrices. Les nouvelles technologies réduisent le coût d’une escroquerie et permettent au criminel d’accéder à un plus grand nombre de cibles non préparées. Le courrier électronique a présenté à tous les utilisateurs d'ordinateurs du monde un groupe de princes en difficulté qui avaient besoin d'aide pour sauver leur fortune perdue. La crypto a entraîné une floraison de stratagèmes à la Ponzi diffusés de manière virale sur les réseaux sociaux.

L’explosion de l’IA offre non seulement de nouveaux outils, mais aussi le potentiel de pertes financières qui changeront la vie. Et la sophistication et la nouveauté croissantes de la technologie signifient que tout le monde, et pas seulement les crédules, est une victime potentielle. Les confinements liés au COVID-19 ont accéléré l’adoption des services bancaires en ligne dans le monde entier, les téléphones et les ordinateurs portables remplaçant les interactions en face-à-face dans les agences bancaires. Cela a apporté des avantages en matière de réduction des coûts et d'augmentation de la rapidité pour les sociétés financières et leurs clients, ainsi que des opportunités pour les fraudeurs.

Certaines des nouvelles techniques vont au-delà de ce que la technologie standard actuelle peut faire, et il n'est pas toujours facile de savoir si vous avez affaire à un fraudeur de variétés potagères ou à un acteur étatique. « Nous commençons à voir beaucoup plus de sophistication en matière de cybercriminalité », déclare Amy Hogan-Burney, directrice générale de la politique et de la protection en matière de cybersécurité chez Microsoft Corp.

À l'échelle mondiale, les coûts de la cybercriminalité, y compris les escroqueries, devraient atteindre 8 000 milliards de dollars cette année, dépassant la production économique du Japon, la troisième économie mondiale. D’ici 2025, il atteindra 10 500 milliards de dollars, après avoir plus que triplé en une décennie, selon le chercheur Cybersecurity Ventures.

À Redfern, dans la banlieue de Sydney, certains membres de l'équipe de plus de 500 personnes de Roberts passent leurs journées à écouter les escrocs pour découvrir comment l'IA remodèle leur combat. Une fausse demande d’argent de la part d’un proche n’est pas nouvelle. Mais maintenant, les parents reçoivent des appels qui clonent la voix de leur enfant grâce à l'IA pour qu'elle soit impossible à distinguer de la voix réelle. Ces astuces, connues sous le nom d’escroqueries d’ingénierie sociale, ont tendance à avoir les taux de réussite les plus élevés et à générer des retours parmi les plus rapides pour les fraudeurs.

Cloner la voix d'une personne est de plus en plus simple. Une fois qu'un escroc télécharge un court extrait d'un clip audio provenant d'un réseau social ou d'un message vocal d'une personne (cela peut durer seulement 30 secondes), il peut utiliser les outils de synthèse vocale de l'IA facilement disponibles en ligne pour créer le contenu dont il a besoin.