EU 주요 기관, 공식 커뮤니케이션에서 AI 생성 시각 자료 사용 전면 금지

디지털 허위 정보에 대응하기 위한 단호한 조치로, 유럽연합(EU)의 주요 기관들은 공식 공개 메시지에서 AI로 전면 생성된 비디오와 이미지의 사용을 직원들에게 금지했습니다. 이러한 정책 변화는 딥페이크 확산에 대한 우려 증가와 대중의 신뢰 유지 필요성을 반영한 것입니다.

진정성 최우선화

유럽집행위원회, 유럽의회, 그리고 EU 이사회는 언론 부서가 완전히 합성된 시각 자료를 사용하는 것을 금지하는 엄격한 규칙을 시행했습니다. 유럽집행위원회 대변인 토마스 레니에(Thomas Regnier)는 이 지침을 확인하며, “우리가 사용하고 언론인에게 제공하거나 공식 정보 목적으로 사용하는 비디오 자료와 사진에는 AI로 생성된 콘텐츠가 포함되어 있지 않습니다”라고 밝혔습니다.

레니에 대변인은 집행위원회의 최우선 과제가 “시민의 신뢰 강화”이며, 진정성이 커뮤니케이션 전략의 초석이라고 강조했습니다. 그러나 인공지능 사용이 완전히 금지된 것은 아닙니다. 이미지 화질 개선과 같은 기술적 최적화를 위해서는 여전히 AI 도구를 사용할 수 있습니다. 또한, 유럽의회는 생성형 AI의 내재적 위험에 대해 직원들이 각별히 주의할 것을 촉구하는 내부 가이드라인을 발표했습니다.

업계 논쟁: 신중함 대 적극적 대응

이러한 전면적인 금지 조치는 커뮤니케이션 및 기술 전문가들 사이에서 심도 있는 논쟁을 불러일으켰습니다. 영국에 본사를 둔 AI 비디오 기업 신세시아(Synthesia)의 정책 책임자는 EU가 주로 책임성, 정보 공개, 그리고 오해의 소지가 있거나 유해한 콘텐츠의 위험을 완화하는 데 초점을 맞추고 있다고 언급했습니다.

반면, 일부 업계 리더들은 특히 지정학적 위기 상황에서 강력한 온라인 존재감이 요구될 때 전면적인 금지가 가장 효과적인 접근 방식인지에 대해 의문을 제기합니다. 벨기에 커뮤니케이션 대행사 익스포저(Exposure)의 대표 레노우 반 잔디크(Renout van Zandijk)는 지나친 신중함을 경계했습니다. 그는 “딥페이크가 신뢰를 훼손할 수 있다는 위험 때문에 마비되어 아무것도 하지 않아서는 안 됩니다. 아무것도 하지 않는 것도 마찬가지로 나쁩니다”라고 주장했습니다.

AI 오용의 광범위한 배경

EU의 이번 내부 정책은 합성 미디어가 폭발적으로 증가하는 가운데 나왔습니다. 현재 추산에 따르면, 온라인에서 AI가 생성한 콘텐츠가 인간이 만든 자료의 양을 넘어섰으며, 작년 한 해 동안 인터넷에 유포된 딥페이크만 약 800만 개에 달합니다.

더욱이, 최근 AI 플랫폼과 관련된 스캔들 이후 규제 환경이 강화되고 있습니다. 일론 머스크의 그록(Grok)을 포함한 챗봇과 애플리케이션들은 여성과 아동의 동의 없는 성적 이미지를 생성하여 심각한 반발을 샀습니다. 이에 대응하여 유럽집행위원회는 그록이 EU 내에서 불법 콘텐츠를 유포하고 있는지 확인하기 위한 전담 조사를 시작했습니다.

동시에 영국의 방송 규제 기관인 오프콤(Ofcom)은 아동 성착취물 유포 문제로 머스크의 X 플랫폼에 대한 조사에 착수했습니다. 이러한 논란은 미성년자의 소셜 미디어 접근 제한 가능성에 대한 전 세계적인 격렬한 논의를 촉발했습니다.

이와 관련된 입법 노력의 일환으로, 유럽의회는 3월 26일 AI 법안(AI Act) 제안을 압도적인 찬성으로 통과시켰습니다. 이 법안에는 실제 인물의 가짜 나체 이미지를 생성하도록 설계된 애플리케이션을 전면 금지하는 조항 등이 포함되어 있습니다.