Deepfakes, bots et appels automatisés dans la campagne électorale israélienne
Pour la première fois, l'intelligence artificielle joue un rôle majeur dans les élections israéliennes, rapporte Deutsche Welle. Des observateurs mettent en garde contre l'influence exercée sur les électeurs par des deepfakes, des bots, des appels automatisés et d'autres contenus générés par IA à l'approche du scrutin législatif du 27 octobre.
Un clip de 19 secondes publié sur le compte du Premier ministre Benjamin Netanyahou montre son rival Gadi Eizenkot, ancien chef d'état-major, courant au ralenti dans une prairie vers une personne ressemblant à son fils, avant de la dépasser pour étreindre Mansour Abbas, député arabe et chef du parti Raam. La vidéo, apparemment destinée à attiser les sentiments anti-arabes, a été vue plus d'un million de fois et a suscité l'indignation, car le fils d'Eizenkot a été tué en 2023 pendant la guerre entre Israël et le Hamas. Les sondages donnent Netanyahou et Eizenkot au coude à coude.
Quelle place pour l'IA dans la campagne
ZebeAI, un projet de recherche de l'Université ouverte d'Israël, a dénombré plus de 2 000 publications générées par IA du Likoud de Netanyahou au 23 octobre, soit environ un quart du matériel du Likoud qu'il a analysé. Depuis fin juillet, l'équipe suit toutes les publications des responsables politiques sur les réseaux sociaux, en ayant collecté plus de 52 000 sur Facebook, Instagram, X et TikTok, et a trouvé de l'IA dans plus de 14 % d'entre elles. L'approche est surtout hybride : de l'IA pour certaines parties du matériel de campagne, comme les images, la musique, les sous-titres et les logos, mais de vrais deepfakes existent aussi. En proportion, le contenu IA est le plus élevé chez certains petits partis ; en chiffres absolus, le Likoud domine, loin devant les rivaux de l'opposition, le Yashar d'Eizenkot et les Démocrates.
En juillet, la Commission électorale centrale d'Israël a statué que tout contenu de campagne généré ou manipulé par IA devait être étiqueté, mais peu d'autres limites s'appliquent. « Il n'y a pas de loi sur l'IA ni de loi sur les services numériques, et la loi sur la vie privée est assez dépassée », déclare la responsable du projet, Anat Ben-David, de sorte que « l'on peut voir un usage de l'IA qui serait impossible en Europe ».
Exemples issus de la campagne
Une vidéo IA photoréaliste partagée en septembre par le ministre des Finances Bezalel Smotrich prétendait montrer la procureure générale Gali Baharav-Miara et plusieurs juges de la Cour suprême arrêtés lors d'une manifestation contre le gouvernement. Le ministre de la Sécurité nationale Itamar Ben-Gvir a partagé une vidéo IA montrant des Palestiniens transportés sur un tapis roulant vers quelque chose ressemblant à un camp de concentration, que le ministère allemand des Affaires étrangères a qualifiée de « totalement inacceptable » et d'« abjecte ». L'autorité électorale est intervenue dans certains cas, ordonnant en juillet à Smotrich de retirer une vidéo IA non étiquetée qu'elle jugeait trompeuse.
Appels automatisés, bots et faux publics
Certains électeurs reçoivent un nouveau type d'appel automatisé, bien plus réaliste. La chercheuse en désinformation Nitsan Yasur, de l'Association israélienne d'Internet, a fait écouter à DW un appel de quatre minutes dans lequel une voix se présente comme « Danielle », enquêtrice d'opinion ; pressée de dire si elle était humaine, elle a admis qu'il n'y avait personne au bout du fil, puis a demandé s'il fallait poursuivre le « court sondage ». À cinq reprises, Yasur a demandé qui l'avait commandité sans obtenir de réponse. Environ un quart des Israéliens sont prêts à envisager des outils d'IA pour les aider à choisir leur vote, selon une enquête de l'Association israélienne d'Internet.
La société de veille médiatique Scooper a indiqué à DW avoir découvert un réseau de faux comptes gonflant le nombre d'abonnés de Netanyahou, avec plus de 1 000 nouveaux comptes créés chaque jour sur X qui le suivent immédiatement ; environ 70 % des comptes partageant ses contenus sur X se trouvent hors d'Israël et ressemblent à des bots. La plateforme FakeReporter a mis au jour un réseau de plus de 100 comptes, certains dotés d'images et d'identités générées par IA, lié à la campagne de Ben-Gvir et ciblant Smotrich et d'autres ; son bureau nie tout lien. Tehilla Shwartz Altshuler, de l'Institut israélien de la démocratie, voit en Israël un cas d'école de la façon dont l'IA transforme les élections dans le monde : « Toute la machinerie de la propagande politique est en train d'être transformée de fond en comble. »
Plus d'informations dans notre rubrique Technologie.