AI 딥페이크·봇·자동전화가 이스라엘 선거운동을 좌우한다

도이체벨레(DW)에 따르면 이스라엘 선거에서 인공지능이 처음으로 중요한 역할을 하고 있다. 관찰자들은 10월 27일 총선을 앞두고 딥페이크, 봇, 자동 전화 및 기타 AI 생성 콘텐츠를 통한 유권자 영향력 행사를 경고한다.

베냐민 네타냐후 총리 계정에 올라온 19초 분량의 영상은 그의 경쟁자인 전 참모총장 가디 아이젠코트가 초원을 슬로모션으로 달려 아들을 닮은 인물에게 향하다가 그를 지나쳐 아랍계 의원이자 라암당 대표인 만수르 압바스를 껴안는 모습을 보여준다. 반아랍 감정을 부추기려는 것으로 보이는 이 영상은 100만 회 이상 조회되며 분노를 샀는데, 아이젠코트의 아들이 2023년 이스라엘-하마스 전쟁 중 전사했기 때문이다. 여론조사에서는 네타냐후와 아이젠코트가 접전을 벌이고 있다.

선거운동에 AI가 얼마나 쓰이나

이스라엘 개방대학의 연구 프로젝트 ZebeAI는 10월 23일까지 네타냐후의 리쿠드당이 올린 AI 생성 게시물이 2,000건 넘게 확인됐으며, 이는 분석한 리쿠드당 자료의 약 4분의 1이라고 집계했다. 연구팀은 7월 말부터 모든 정치인의 소셜미디어 게시물을 추적해 페이스북, 인스타그램, X, 틱톡에서 5만 2천 건 넘게 수집했고, 그중 14% 넘게에서 AI를 발견했다. 방식은 대체로 혼합형으로, 이미지, 음악, 자막, 로고 등 선거운동 자료의 일부에 AI를 쓰지만 완전한 딥페이크도 존재한다. 비율로는 일부 소규모 정당에서 AI 콘텐츠가 가장 많고, 절대 수치로는 리쿠드당이 야당 경쟁자인 아이젠코트의 야샤르당과 민주당을 크게 앞선다.

7월 이스라엘 중앙선거관리위원회는 AI가 생성하거나 조작한 모든 선거운동 콘텐츠에 표시를 해야 한다고 결정했지만, 그 밖의 제한은 거의 없다. 프로젝트 책임자 아나트 벤다비드는 “AI 법도 없고 디지털 서비스법도 없으며 개인정보보호법은 상당히 낡았다”며, 그래서 “유럽에서는 불가능할 AI 활용을 볼 수 있다”고 말한다.

선거운동 사례

재무장관 베잘렐 스모트리치가 9월에 공유한 사실적인 AI 영상은 갈리 바하라브미아라 검찰총장과 대법관 여러 명이 반정부 시위에서 체포되는 모습을 보여주는 것처럼 꾸몄다. 국가안보장관 이타마르 벤그비르는 팔레스타인인들이 컨베이어 벨트에 실려 집단수용소 같은 곳으로 옮겨지는 AI 영상을 공유했고, 독일 외무부는 이를 “전적으로 용납할 수 없다”며 “혐오스럽다”고 했다. 선거 당국은 일부 사례에 개입해 7월 스모트리치에게 표시 없는 AI 영상을 오해를 부른다며 삭제하라고 명령했다.

자동전화, 봇, 가짜 청중

일부 유권자는 훨씬 더 실제처럼 들리는 새로운 유형의 자동 전화를 받는다. 이스라엘 인터넷협회의 허위정보 연구자 니찬 야수르는 DW에 4분짜리 통화를 들려주었는데, 한 목소리가 여론조사원 “다니엘”이라고 자신을 소개했고, 사람이냐는 추궁에 전화선 너머에 아무도 없다고 인정한 뒤 “짧은 설문”을 계속할지 물었다. 야수르는 다섯 번이나 누가 의뢰했는지 물었지만 답을 얻지 못했다. 이스라엘 인터넷협회 조사에 따르면 이스라엘인의 약 4분의 1이 누구에게 투표할지 정하는 데 AI 도구의 도움을 받는 것을 고려할 용의가 있다.

미디어 모니터링 업체 스쿠퍼는 DW에 네타냐후의 팔로워 수를 부풀리는 가짜 계정 네트워크를 발견했다고 밝혔다. X에서 매일 1,000개 넘는 새 계정이 만들어져 즉시 그를 팔로우하며, X에서 그의 콘텐츠를 공유하는 계정의 약 70%가 이스라엘 밖에 있고 봇처럼 보인다. 플랫폼 FakeReporter는 일부는 AI 생성 이미지와 신원을 사용하는 100개 넘는 계정 네트워크가 벤그비르의 선거운동과 연결돼 있으며 스모트리치 등을 겨냥한다고 폭로했는데, 그의 사무실은 연관성을 부인한다. 이스라엘민주주의연구소의 테힐라 슈워츠 알트슐러는 이스라엘을 AI가 전 세계 선거를 어떻게 바꾸는지 보여주는 시험 사례로 본다. “정치 선전의 전체 기계가 밑바닥부터 바뀌고 있습니다.”

기술 섹션에서 더 많은 소식을 확인하세요.