La menace des deepfakes augmente à mesure que les outils d'IA pour les créer deviennent largement accessibles. Il y a eu une augmentation de 245% des deepfakes dans le monde de 2023 à 2024, une hausse favorisée en partie par les cycles électoraux à venir, selon le fournisseur de vérification Sumsub. Cela affecte également le secteur corporatif ; une récente enquête de Business.com a révélé que 10% des entreprises ont été confrontées à des fraudes aidées par des deepfakes, comme des voix clonées.

La tendance, sans surprise, a été une aubaine pour les entreprises qui commercialisent des outils de défense contre les deepfakes et les technologies utilisées pour les produire. L'une de ces entreprises, Pindrop, a annoncé mercredi avoir obtenu un prêt de 100 millions de dollars sur cinq ans auprès de Hercules Capital, que le PDG Vijay Balasubramaniyan dit être destiné au développement de produits et à l'embauche.

"Avec les avancées en IA générative, le clonage vocal en particulier est devenu un outil puissant", a déclaré Balasubramaniyan à TechCrunch. "La détection de deepfake utilisant des technologies de détection d'IA est désormais nécessaire pour chaque centre d'appels afin de rester une longueur d'avance sur les fraudeurs."

Pindrop développe des produits de lutte contre les deepfakes et d'authentification à facteurs multiples ciblant les entreprises dans les secteurs bancaire, financier et connexe. La société affirme que ses outils peuvent identifier les appelants des centres de contact, par exemple — et avec une plus grande précision que les solutions rivales.

"Pindrop utilise un ensemble de données de plus de 20 millions d'énoncés, à la fois synthétiques et réels, pour entraîner les modèles d'IA à différencier les voix humaines authentiques des voix synthétiquement générées", a déclaré Balasubramaniyan. "Nous avons également entraîné plus de 330 modèles de text-to-speech (TTS) pour aider à identifier les modèles TTS utilisés pour créer le deepfake."

Le biais est un problème courant dans les modèles de détection de deepfake. De nombreux modèles audio ont tendance à être biaisés en faveur de la reconnaissance des voix occidentales, américaines et fonctionnent mal avec différents accents et dialectes, ce qui pourrait amener un détecteur à classer une voix légitime comme un deepfake.

Il est discutable de savoir si les données d'entraînement synthétiques — des données d'entraînement générées par les modèles AI eux-mêmes — atténuent ou exacerbent les biais. Pour ce que cela vaut, Balasubramaniyan pense que c'est le premier cas et affirme que les produits d'authentification vocale de Pindrop se concentrent sur les "caractéristiques acoustiques et spectro-temporelles" des voix plutôt que sur la prononciation ou la langue.

"Les systèmes de reconnaissance vocale basés sur l'IA tendent à afficher des résultats biaisés en fonction des différences tonales, d'accent, de langage et de dialecte qui pourraient avoir des implications raciales", a déclaré Balasubramaniyan. "Ces biais proviennent de l'homogénéité des données utilisées pour entraîner les systèmes qui peuvent manquer de représentation de diverses différences ethniques, raciales, de genre ou autres, limitant ainsi la variété de données sur lesquelles les systèmes d'IA sont formés."

Quelles que soient l'efficacité de ses produits, Pindrop a réalisé des avancées substantielles depuis 2011, lorsque Balasubramaniyan, un ancien employé de Google, a fondé l'entreprise avec l'ancien directeur de la recherche de Barracuda Networks, Paul Judge, et Mustaque Ahamad. À ce jour, l'entreprise basée à Atlanta, qui emploie environ 250 personnes, a levé 234,77 millions de dollars de capital-risque auprès d'investisseurs tels que Vitruvian Partners, CapitalG, IVP et Andreessen Horowitz.

Interrogé sur la raison pour laquelle Pindrop a opté pour de la dette plutôt que des actions cette fois-ci, Balasubramaniyan a déclaré que c'était une "option attrayante" pour "lever efficacement du capital de croissance" sans diluer les actions de Pindrop. (C'est une stratégie courante.)

Les fonds du prêt permettront à Pindrop de mettre sa technologie sur de nouveaux secteurs, a ajouté Balasubramaniyan, tels que la santé, la vente au détail, les médias et les voyages.

"Avec l'avènement de l'IA générative, nous constatons une demande massive pour nos solutions dans le monde entier, et prévoyons de nous étendre dans des pays qui sont confrontés à des menaces importantes en raison des deepfakes", a déclaré Balasubramaniyan. "Pindrop est positionné pour aider les entreprises à se protéger, ainsi que leurs consommateurs, contre les menaces croissantes de fraude et de deepfake avec des solutions de prévention de la fraude, d'authentification et de liveness."