AI深度伪造、机器人账号和自动来电影响以色列竞选

据德国之声报道,人工智能首次在以色列选举中扮演重要角色。观察人士警告称,在10月27日议会选举之前,深度伪造、机器人账号、自动来电及其他AI生成内容可能影响选民。

总理本雅明·内塔尼亚胡账号发布了一段19秒的视频:他的对手、前总参谋长加迪·艾森科特在草地上以慢动作奔向一个酷似其儿子的人,却从他身边跑过,去拥抱阿拉伯议员、拉姆党领导人曼苏尔·阿巴斯。这段视频显然意在煽动反阿拉伯情绪,观看次数超过一百万,并引发愤怒,因为艾森科特的儿子于2023年在以色列与哈马斯的战争中阵亡。民调显示,内塔尼亚胡和艾森科特不相上下。

竞选中有多少AI

以色列开放大学的研究项目ZebeAI统计称,截至10月23日,内塔尼亚胡所在的利库德集团发布了2000多条AI生成的帖子,约占其分析的利库德材料的四分之一。自7月下旬以来,该团队一直跟踪所有政客的社交媒体帖子,在Facebook、Instagram、X和TikTok上共收集了5.2万多条,发现其中超过14%含有AI。其方式多为混合型:将AI用于竞选材料的部分内容,如图像、音乐、字幕和标志,但也存在完整的深度伪造。按比例计算,一些较小政党的AI内容占比最高;按绝对数量计算,利库德遥遥领先于反对派对手——艾森科特的亚沙尔党和民主党。

7月,以色列中央选举委员会裁定,所有由AI生成或篡改的竞选内容都必须加注标签,但除此之外几乎没有其他限制。项目负责人阿纳特·本-大卫说:“没有AI法,没有数字服务法,而隐私法相当过时”,因此“你可以看到在欧洲不可能出现的AI使用方式”。

竞选中的例子

财政部长贝扎莱尔·斯莫特里奇9月分享了一段照片级逼真的AI视频,声称显示检察长加利·巴哈拉夫-米亚拉和几位最高法院法官在反政府抗议中被捕。国家安全部长伊塔马尔·本-格维尔分享了一段AI视频,画面中巴勒斯坦人被传送带运往类似集中营的地方,德国外交部称其“完全不可接受”且“令人憎恶”。选举主管机构在一些案例中进行了干预,7月责令斯莫特里奇删除一段未加标签的AI视频,称其具有误导性。

自动来电、机器人账号和虚假受众

一些选民接到了一种听起来真实得多的新型自动来电。以色列互联网协会的虚假信息研究员尼察恩·亚苏尔给德国之声播放了一段四分钟的来电,其中一个声音自称“丹妮尔”,是一名民调员;被追问是否为真人时,她承认线路另一端没有人,然后问是否继续进行“简短调查”。亚苏尔五次询问是谁委托了这次调查,都没有得到回答。以色列互联网协会的一项调查显示,约四分之一的以色列人愿意考虑借助AI工具来决定投票给谁。

媒体监测公司Scooper告诉德国之声,它发现了一个虚假账号网络,正在虚增内塔尼亚胡的粉丝数:X上每天新建1000多个账号并立即关注他;在X上分享其内容的账号中,约70%位于以色列境外,类似机器人。FakeReporter平台揭露了一个由100多个账号组成的网络,其中一些使用AI生成的图像和身份,与本-格维尔的竞选活动有关,并针对斯莫特里奇等人;他的办公室否认存在关联。以色列民主研究所的泰希拉·施瓦茨·阿尔特舒勒认为,以色列是AI如何改变全球选举的试验案例:“整个政治宣传机器正在从根本上被改变。”

更多内容请见我们的科技栏目。