진짜 같은 폭우 영상, 알고 보니 가짜…AI 영상 '홍수'

AI 영상 제작 대중화 두 달…사회 곳곳서 변화·혼란

'워터마크' 의무화 내년 1월부터…추가 규제 주장도

"와, 비가 엄청 왔습니다. 경복궁이 완전히 물에 잠겼어요."

노란 우비를 입은 남성이 경복궁을 배경으로 말한다. 뒤로는 바지를 걷은 사람들이 양동이로 물을 퍼낸다. 그러다 화면을 돌리자 갑자기 물개가 물에 잠긴 궁내를 수영하는 모습이 나타난다. "잠깐, 저거 물개야? 대박, 물개야!"

얼핏 진짜 같아 보이는 이 영상은, 당연히도 가짜다. 21일 현재 유튜브에서 '장마', '폭우' 같은 키워드와 동영상 생성 AI '비오3(Veo3)'를 검색하면 비슷한 영상이 수십 개가 나온다. 물이 가슴까지 차오른 지하철이나 침수된 강남역을 배경으로 중계방송하는 장면 등에 누리꾼들은 "곧 진짜와 구별하기 어려울 거 같다"며 놀라움을 표하고 있다.

생성형 AI는 이미지, 영상, 글 등 다양한 콘텐츠를 자동으로 만들어내는 기술이다. 불과 5년 전만 해도 AI 영상 제작은 전문가의 영역으로 여겨졌다.

그런데 지난 5월 구글이 음성 생성까지 지원하는 비오3를 일반에 내놓으며 상황이 달라졌다. 약간의 구독료만 내면 누구나 쉽게 짧은 고품질 영상을 제작할 수 있게 된 것이다. 구글에 따르면 비오3 출시 두 달 만에 제작된 AI 영상은 전 세계적으로 4천만건이 넘는다. 하루 60만개 이상의 '진짜 같은' 영상이 공급되고 있는 셈이다.

AI 영상의 '범람'은 우리 사회 전 분야에 빠르게 스며들며 갖가지 변화와 논란을 불러일으키고 있다.

가장 두드러지는 곳은 방송과 광고업계다. 외국인 대역배우 연기로 잘 알려진 MBC '서프라이즈'는 지난달 AI로 만든 영상을 방송에 활용해 화제를 모았다. '최초의 우주 유영', '모나리자 도난 사건' 같이, 재연이 쉽지 않은 에피소드들을 구현한 것이다.

MBC 유튜브엔 "배우, 분장, 카메라, 오디오, 그 외 스태프들…이 하나에 잃은 일자리가 몇인지 가늠도 안 간다"는 등의 댓글이 달렸다. 다른 방송도 프로그램 예고편 등을 AI로 제작하는 사례가 늘고 있다.

영상의 현실감이 높아지며 부작용도 커지고 있다. 최근 일부 방송사들이 참새가 러브버그를 쪼아먹는 AI 영상을 실제 상황으로 오인해 '천적이 등장했다'는 오보를 내기도 했다. 여성 환경운동가가 러브버그 학살 반대를 외치다가 자신에게 러브버그가 붙자 욕설을 내뱉는 영상 캡처 이미지도 논란이 일자 뒤늦게서야 AI로 만든 것이 확인됐다.

실제 인물을 합성하는 '딥페이크' 영상이 보이스피싱, 연애 빙자 사기 등에 악용되는 사례도 급증하고 있다. 한국형사·법무정책연구원에 따르면 딥페이크 관련 경찰 신고는 2021년 156건에서 지난해 964건으로 6배 이상 늘었다. 올해도 증가세는 계속되는 중이다.

한 총경은 "최근 들어 과거와 비교도 안 될 정도의 정교한 조작 영상으로 범죄가 이뤄지고 있다"고 말했다. 고삼석 동국대학교 AI 융합대학 석좌교수는 "(AI 영상의 무분별한 범람이) 사회적 불신과 갈등을 조장하고 공동체 파괴로 이어질 수 있다"고 경고했다.

AI 영상이 빠르게 확산하는 데 비해 법과 제도 보완은 더딘 실정이다. AI 영상에 '워터마크' 표기를 의무화하는 AI 기본법은 내년 1월 22일 시행된다. 하지만 워터마크가 쉽게 제거될 수 있다는 실효성 논란이 크다.

최병호 고려대 AI연구소 교수는 "AI 모델 제작사가 (AI 영상임을) 식별할 수 있는 기술을 제공하는 것이 사회적 비용이 들지 않는 현명한 방법"이라고 제언했다. 다만 일각에서는 과도한 규제가 국산 AI 기술 발전을 저해할 수 있다는 지적도 나오고 있다.

<연합>