영국 BBC도 도움 요청했다…‘딥페이크 범죄’ 잡는 韓교수

Factpl Interview

딥페이크, 1%를 잡아라

우사이먼성일 성균관대 소프트웨어학과 교수

#1.⚠️경고: ‘딥페이크 범죄’ 엄하게 처벌됩니다.

올해 초, 한 초등학교 졸업 앨범 한 편에 적힌 문구다. 추억의 상징이었던 졸업 앨범이 요즘엔 언제 터질지 모르는 시한폭탄이 됐다. 그 배경에는 AI(인공지능)로 이미지를 합성하는 기술, ‘딥페이크’가 있다. 교사 10명 중 9명이 졸업 앨범 사진을 이용한 딥페이크 범죄를 걱정할 정도다.(지난해 10월, 한국교총 자체 조사)

#2.💀죄수복 입은 대선 후보자가 수감돼 있는 영상

진짜처럼 자연스럽지만 사실 딥페이크로 만든 가짜였다. 지난달 29일 21대 대통령 선거 닷새를 앞두고 중앙선거관리위원회는 해당 영상을 만든 유튜버 등 3명을 공직선거법 위반 혐의로 고발했다. “선거운동을 위해 딥페이크를 제작·편집·유포·상영·게시하면 안 된다”는 선거법 조항이 2023년 신설된 이후 첫 고발이다.

정치권부터 학교·회사까지, 딥페이크에서 자유로운 안전지대는 없다. AI를 악용한 이미지와 영상은 끝없이 쏟아지고, 이에 맞서 진짜와 가짜를 구별하려는 인간의 대응도 현재진행형이다. 우사이먼성일 성균관대 소프트웨어학과 교수는 7년째 딥페이크에 맞설 탐지 기술을 연구해온 전문가다. 미 항공우주국(NASA)에서 사이버 보안 관련 연구를 수행했던 그는 2019년 성균관대 합류 후 정부 차원에서 추진하는 딥페이크 탐지 연구를 진행하고 있다. 팩플은 우 교수를 만나 딥페이크와의 싸움에서 필승법에 대해 물었다.

1. 가짜가 판치는 세상

최근 21대 대선에서 중앙선거관리위원회가 적발한 선거 운동 관련 딥페이크 콘텐트는 1만 건이 넘는다. 지난해 총선의 26배 수준이다. 선거 운동이 한창이었던 지난달 중순 만난 우 교수는 “딥페이크는 이제 공인뿐 아니라 일반 대중의 삶까지 뒤흔들 정도로 파급력이 크다”고 짚었다.

대선 기간, 딥페이크 콘텐트가 역대급으로 쏟아졌다.

크게 놀랍지 않다. 꼭 정치적 이슈가 아니더라도 딥페이크가 가짜 뉴스를 퍼뜨린다거나 성범죄 등에 악용되는 사례는 이미 모두 예견했던 일이다. 앞으로 더 심해질 거라 생각한다. 진짜보다 가짜가 더 많은 상황이 올 수도 있다. 가장 큰 걱정은 일반인을 겨냥한 악용 사례가 늘고 있다는 점이다. 그동안은 연예인·정치인 등 공인을 대상으로 했는데, 점차 10대 등 일반인 사이에서 퍼지고 있다.

딥페이크를 왜 만들까.