[기술농담] 딥페이크 성착취물, 자유의 이름으로 세탁된 자본

인공지능의 성능이 발전하면서 진실과 허위의 경계는 한층 더 허물어졌다. BBC는 인공지능으로 제작된 아동 성착취물의 증가로 인해 실제 위험에 빠진 아동을 구하는 데 쓰여야 할 시간이 낭비되고 있는 현실을 보도했다. 관련 기관들은 존재하지도 않는 아동이 혹여나 진짜 사람일까 우려하며 확인을 거듭하게 되었다. 이대로라면 실제 위험에 처한 아동을 ‘가짜’라고 잘못 판단하여 구조에 나서지 않는 오류를 범할 가능성도 무시할 수 없다.

그러니 생성형 인공지능으로 만들어진 성착취물에는 실제 피해자가 존재하지 않는다는 주장은 허위다. 온라인 플랫폼을 통해 유통되고 있는 성착취물이 실제 도움이 필요한 사람들로부터 생존의 기회를 앗아버릴 수 있으니 말이다.

혹자는 인공지능이 생성한 성착취물을 또 다른 인공지능으로 식별해내면 되는 문제가 아니겠느냐고 주장한다. 기술 잡는 기술을 기대하면서 말이다. 기술의 문제를 다른 기술로 막고, 이를 우회하는 다른 기술이 등장하며, 서로의 꽁무니를 쫓는 추격전이 과연 문제를 해결할 수 있을까. 근본적인 해결책은 단연 기업과 이용자 모두의 기술 윤리 회복이다. 표현의 자유가 다른 모든 것에 우선하지는 않는다는 당연한 사실을 주지하는 것 말이다.

표현의 자유가 갖는 의의를 조롱이라도 하듯, ‘자유로운’ 온라인 플랫폼 텔래그램이 성착취물 유통의 온상으로 기능하고 있다는 사실을 떠올려보자. 2013년 에드워드 스노든의 내부고발을 통해 9.11 테러 이후 국가와 기업이 결탁하여 전 세계인을 감시하고 있음이 드러났다. 텔레그램은 표현의 자유가 사라졌다는 세계적인 두려움 속에서 혜성같이 등장했다. 텔레그램은 ‘지구상 모든 사람을 위한 자유’라는 아이디어 그 자체였다.

그러나 출시 12년여가 지난 지금, 텔레그램은 딥페이크 성착취물 문제를 증폭한 기업이 되었다. 텔레그램이 약속한 ‘통신의 자유’는 비밀 채널에서 아동성착취물(Child Sexual Abuse Material, CSAM)을 비롯한 온갖 종류의 성착취를 사실상 방조했다. 스탠포드 인터넷 감시소(Stanford Internet Observatory, SIO)는 텔레그램이 사적 채널에서의 아동성착취물 거래 행위를 암묵적으로 허용하고 있음을 지적한다. 사인 간 통신에 대한 텔레그램의 정책은 다른 빅테크 플랫폼에 비해 너무도 자유로워서, 아동성착취물 유통과 어린이에 대한 성애화, 그루밍 등에 대해 아무런 제재도 이루어지지 않고 있다는 것이다.

기술은 인간의 행위를 유도한다. 텔레그램의 익명성과 보안, 사법 공백은 자극적인 ‘표현’을 통해 수익을 좇는 이용자를 만들어냈다. 국가의 감시에서 자유로운 공간이라는 이상은 인권을 적극적으로 희롱하는 이용자들의 피난처로 전락했다. 그렇게 텔레그램은 자유의 이름으로 세탁된 부를 축적했다.

산적한 정치 현안과 복잡하게 전개되는 해외 정세 속에서도 성착취물 유통 문제는 멈추지 않았다. 딥페이크 성착취물 산업은 자유를 앞세워 유지되고 있다. 누구의 자유이고 무엇을 위한 자유인가. 표현의 자유를 내세워 누구를 침묵시키고 있는가.