Des appels truqués et la menace de la désinformation par l’IA inquiètent les experts
La présidentielle américaine de novembre sous l’ombre de l’intelligence artificielle
La présidentielle américaine de novembre est largement considérée comme la première élection marquée par l’intelligence artificielle aux États-Unis. Cependant, des appels truqués imitant la voix du président Joe Biden ont récemment exacerbé les craintes des experts quant à l’utilisation croissante de l’IA à des fins de désinformation.
La manipulation numérique de la voix du président Joe Biden
Un appel automatisé (robocall) a été diffusé, utilisant la voix manipulée numériquement du président pour inciter les habitants du New Hampshire à ne pas participer à la primaire démocrate. Cette manipulation a conduit les autorités locales à lancer une enquête sur une potentielle tentative illégale de perturber le scrutin de fin janvier.
L’émergence des deepfakes et leur impact sur les élections
Les chercheurs spécialisés en désinformation craignent une multiplication des détournements dans cette année électorale cruciale, notamment grâce aux outils accessibles pour cloner des voix avec l’IA. Ils soulignent la facilité d’utilisation, la faible coût et la difficulté à tracer ces manipulations, constituant ainsi la partie émergée de l’iceberg.
Les acteurs impliqués et les réactions
L’entreprise de cybersécurité Pindrop a identifié que le logiciel de clonage de voix développé par la startup ElevenLabs a été utilisé pour créer les faux appels de Joe Biden. Les équipes de campagne des deux camps, ainsi que les investisseurs, intensifient leurs investissements dans ces technologies.
Les réponses à cette menace
Face à cette montée des deepfakes, les experts appellent à des mesures réglementaires pour encadrer l’utilisation de ces technologies. Ils suggèrent l’intégration de filigranes audios ou de signatures numériques dans les logiciels de clonage vocal, ainsi que la vérification des utilisateurs autorisés à les utiliser.
Des enjeux pour la confiance démocratique
La présidentielle de novembre est largement considérée comme la première élection marquée par l’IA aux États-Unis, soulevant des inquiétudes quant à son impact sur la confiance dans le processus démocratique. Les manipulations audios représentent un point particulièrement vulnérable, avec la difficulté de détecter ces faux en raison de la prolifération rapide des logiciels d’IA par rapport à ceux dédiés à la détection de faux.
Appel à des mesures concrètes pour la protection des élections
Les experts plaident pour la mise en place de garde-fous et la réglementation de l’utilisation des logiciels de clonage vocal. Ils soulignent la nécessité d’investir davantage pour assurer l’intégrité des élections face à cette menace croissante.
La montée des deepfakes et l’utilisation croissante de l’IA à des fins de désinformation soulèvent des défis majeurs pour la préservation de la confiance démocratique. Les appels des experts à des mesures concrètes suggèrent que cette menace devrait être prise au sérieux par les acteurs politiques et les régulateurs.
