수의 입은 대선 주자 알고 보니 '가짜'… 6·3 대선 앞두고 '토토 사이트 검증 주의보'

[파이낸셜뉴스] 오는 6월 조기대선을 앞두고 딥페이크 등 인공지능(AI) 기술을 활용한 조작물이 악용될 수 있다는 우려가 나왔다.

전문가들은 지난해 4·10 총선 당시 기우에 불과하던 딥페이크 문제가 1년 새 급속도로 발전한 생성형 AI 기술의 대중화로 정치 공작이나 가짜뉴스 유포 등에 활용될 가능성이 높아졌다고 봤다.

13일 연합뉴스에 따르면 틱톡, 인스타그램 등 소셜네트워크서비스(SNS)나 온라인 커뮤니티 등에는 이미 AI를 활용해 만든 주요 대선 주자들의 가짜 사진·영상이 빠른 속도로 퍼지고 있다.

덩크슛을 하거나 호랑이 등에 올라타는 등 예비후보에 우호적인 합성물보다 예비 후보의 목소리로 경쟁 후보를 비방하는 가짜 영상이나, 후보가 수의를 입은 가짜 사진 등이 더 많은 상황이다.

피해 사례도 나왔다. 더불어민주당 이재명 예비후보 캠프는 지난 11일 "이 예비후보가 김혜경 여사에게 욕하는 동영상이라는 내용의 토토 사이트 검증 영상을 만들어 유포를 시도한다는 제보가 선대위에 접수됐다. 영상을 유포할 경우 엄정 대응하겠다고 밝혔다.

문제는 이런 토토 사이트 검증 조작물이 선거 기간 한 번 퍼질 경우 걷잡을 수 없다는 점이다.

이성엽 고려대 기술경영전문대학원 교수는 "고령층까지 챗GPT 등으로 사진을 합성해 유포할 수 있어 순식간에 퍼지는 게 가능해졌다"고 말했다.

이 교수는 AI 생성물임을 알리는 워터마크 표시를 의무화한 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI 기본법)은 2026년 1월 시행 예정이라 이번 대선은 토토 사이트 검증 유통에 대한 통제가 어려운 '공백기'라는 점도 지적했다.

이와 관련 경찰은 전국 278개 경찰서에 설치한 선거사범 수사상황실을 통해 딥페이크 관련 선거 범죄를 집중 단속할 계획이라고 전했다. 현행 공직선거법은 선거일 90일 전부터 선거운동을 위한 딥페이크 영상의 제작 및 유포 등을 금지했다. 2023년 개정된 해당 규정은 지난해 총선에 처음 적용됐다.

지난해 총선 당시 관련 규정으로 경찰이 처벌한 사례는 없지만, 생성형 AI 발달과 대중화로 이번엔 다를 수 있다는 게 경찰 판단이다.

경찰 관계자는 "토토 사이트 검증나 AI 생성물을 활용해 후보자에 대한 허위 사실을 공표하거나 비방하는 경우 형사 처벌이 이뤄질 수 있다"고 설명했다.

y27k@fnnews.com 서윤경 기자

※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지