Un message téléphonique automatique, appelé « robocall », imite la voix du président Joe Biden et demande aux électeurs du New Hampshire de ne pas se rendre aux urnes pour les primaires de l’élection présidentielle de novembre. En Indonésie, une vidéo générée par l’intelligence artificielle (IA) devient virale : l’image et la voix de Suharto, le dictateur indonésien décédé, sont utilisées pour appeler les électeurs à voter pour le parti Golkar.

Deux exemples parmi tant d’autres de l’exploitation de l’intelligence artificielle pour manipuler l’opinion publique.

« L’intelligence artificielle renforce le pouvoir de la désinformation, a déclaré Olivier Lechien, expert Citoyens et institutions à l’AFD, lors de la conférence sur l’IA organisée à Paris par l’AFD en janvier. Les images semblent très crédibles, le son imite parfaitement la voix du président américain appelant les électeurs à ne pas voter aux primaires. Plus ces productions sont plausibles, plus les gens peuvent être tentés de croire des choses tout à fait fausses. »

Une tromperie de masse, produite à grande échelle

La désinformation et les deepfakes (contenus vidéo ou audio réalisés ou modifiés grâce à l’IA) qui ont influencé les élections ces dernières années sont de plus en plus puissants. Sur les réseaux sociaux, des individus créent et diffusent de fausses informations depuis un certain temps déjà mais, avec la nouvelle technologie d’IA générative, ces messages peuvent être produits en quelques minutes et se propager comme une traînée de poudre.

L’écran dans l’auditorium de la conférence diffuse des images spectaculaires : le candidat à la présidence américaine Donald Trump en train de fuir la police, le président français Emmanuel Macron manifestant contre la réforme des retraites portée par son propre gouvernement, et le pape François vêtu d’une grande doudoune dans le style de celles que portent les rappeurs. Toutes ces images sont fausses, elles ont été générées par un logiciel d’IA. 

« Nous avons constaté un développement rapide de l’IA, déclare Peter Addo, lead data scientist à l’AFD et responsable de l’Emerging Tech Lab. En 2024, je m’attends à de nombreux scandales électoraux liés aux deepfakes. C’est déjà le cas. Aujourd’hui, les outils qui ont été créés sont bien établis : tout le monde peut se procurer un outil d’IA et commencer à l’utiliser. »