AI ‘환각 뉴스’의 역습…구글·MS 등 상대 ‘명예훼손 소송’ 비상

인공지능(AI)이 환각(Hallucination)의 기술적 오류를 넘어, 기업의 영업 기반과 명예에 직접적인 타격을 입히고 있다. 결과물의 '의도(intent)'를 따지는 기존 명예훼손 판례를 벗어나, AI 개발사가 도구 제공자가 아니라 발행인으로서 책임을 져야 한다는 논의가 가속화되고 있다고 미국 일간지 뉴욕타임스(NYT)가 최근 보도했다. 인간이 아니라 AI가 만든 콘텐츠를 명예훼손으로 규정하려는 이번 소송들이 향후 AI 산업의 발전과 규제에 중대한 영향을 미칠 ‘시대적 재판’이 될 것이라고 법조계는 평가하고 있다.

NYT에 따르면, “AI가 틀렸을 때, 누가 비용을 지불하는가”가 미국에서 쟁점이 되고 있다. 새로운 법원 소송들은 AI가 생성한 콘텐츠를 명예훼손으로 의율하려 시도하고 있다. 이는 일부 법률 전문가들의 이목을 사로잡은 새로운 개념.

지난해 말 미네소타의 태양광 계약업체인 울프 리버 일렉트릭(wolf river electric)의 영업 담당자들은 평소와 달리 계약 취소가 급증하는 것을 발견했다고 한다. 계약 취소 고객들에게 이유를 묻자, 그들은 깜짝 놀랄 만한 답변을 내놓았다.

고객들은 “당신네 회사가 기만적인 판매 관행으로 주 법무장관과 소송을 합의했다는 사실을 구글 검색을 통해 알고 나서 계약을 취소했다”고 말했다는 것. 그러나 이 회사는 정부로부터 소송을 당한 적이 전혀 없으며, 그러한 주장이 관련된 사건을 합의한 적도 없었다.

울프 리버 경영진이 직접 확인했을 때, 혼란은 우려로 바뀌었다고 NYT는 말했다. 구글의 AI 기술인 제미나이가 페이지 상단에 제공한 검색 결과에 이 허위 사실이 포함돼 있었기 때문이다. 그들이 검색창에 ‘wolf river electric’을 입력하자, 법적 합의에 대한 언급이 자동으로 채워졌다.

NYT에 따르면, 울프 리버 경영진은 계약 취소가 계속 쌓이고 구글의 자체 도구를 사용해 문제를 해결하려는 시도가 결실을 맺지 못하자 이 빅테크 기업을 명예훼손으로 고소하는 수밖에 없다고 결정했다. 2014년에 세 명의 절친한 친구와 함께 울프 리버를 설립하고 미네소타주 최대 태양광 계약업체로 성장시킨 저스틴 닐슨은 “우리는 좋은 명성을 쌓기 위해 많은 시간과 에너지를 투자했다”며, “고객들이 그런 붉은 깃발(경고 신호)을 보고 난 뒤에는 그들을 다시 설득하는 것이 거의 불가능하다”고 말했다.

그들의 소송은 텍스트 및 이미지를 생성하는 AI 도구가 만들어낸 콘텐츠를 겨냥해 제기됐다고 NYT는 밝혔다. 지난 2년 동안 이런 명예훼손 소송은 미국에서 최소 6건. 이들은 최첨단 AI기술이 개인이나 단체에 대한 허위의 해로운 정보를 생성하고 유포했다고 주장했다. 이뿐만 아니라 많은 경우 AI 모델을 구축하고 이익을 얻는 기업들이 문제점을 인지한 후에도 계속 해당 정보를 내보냈다고 한다.

다른 명예훼손 소송과 달리 이 소송들은 ‘인간이 만들지 않은 콘텐츠’를 명예훼손으로 규정하려 한다. 이 점에서 이는 일부 법률 전문가들을 사로잡은 새로운 개념이라고 NYT는 강조했다.

캘리포니아 대학교 로스앤젤레스캠퍼스의 저명한 수정헌법 제1조 학자인 유진 볼로흐는 “이러한 (AI) 모델들이 해로운 주장을 발표할 수 있다는 점에는 의문의 여지가 없다”고 말했다. 2023년 그는 자신의 간행물인 ‘자유 언론법 저널’ 전체 호를 AI 명예훼손 문제에 할애했다. “문제는 누가 그것에 대한 책임이 있느냐 하는 것”이라고 볼로흐는 말했다.

최초의 AI 명예훼손 소송 중 하나는 2023년 조지아주에서 제기됐다. 원고인 토크 라디오 진행자이자 수정헌법 제2조 옹호자인 마크 월터스는 챗GPT의 챗봇이 그의 명예를 훼손했다고 주장했다. 총기 권리에 대한 기자의 질문에 응답하면서 월터스가 횡령 혐의로 기소됐다는 허위 진술을 했다는 것.

미국에서 많은 명예훼손 소송의 근본적인 과제는 ‘의도를 입증하는 것’이다. 그러나 챗GPT 같은 AI 모델을 구동하는 알고리즘 내부에서 무슨 일이 일어나고 있는지 아는 것은 불가능하다. 이 때문에 이 소송과 유사한 다른 소송들은 코드 작성 회사, 즉 이 경우 오픈AI에 책임을 전가하려고 한다고 NYT는 분석했다.

월터스의 변호사인 존 먼로는 “프랑켄슈타인이 돌아다니며 사람들을 살해하는 괴물을 만들고 나서, 자신은 아무 관련이 없다고 주장할 수는 없다”고 말했다. 월터스의 소송은 재판까지 가기 훨씬 전인 5월에 기각됐다. 다른 이유들 중에서도 법원은 기자가 챗GPT의 주장을 신뢰하지 않았으며 그것이 사실이 아님을 신속하게 확인했다는 점에 주목했다. 도전받는 내용이 사실이라고 제3자가 믿을 가능성이 있는지 여부는 이러한 사건에서 매우 중요하다.

트레이시 케이슨 판사는 판결문에서 “도전받는 진술을 읽는 개인이 주관적으로 그것을 사실로 믿지 않는다면, 그 진술은 명예훼손이 아니다”라고 썼다. 오픈AI는 논평 요청에 응답하지 않았다고 NYT는 전했다.

현재까지 미국에서 배심원단에게까지 전달된 AI 명예훼손 사건은 없는 것으로 보인다. 하지만, 다양성·형평성·포용(DEI) 프로그램에 반대하는 캠페인으로 알려진 우파 인플루언서 로비 스타벅이 메타를 상대로 4월에 제기한 최소 한 건의 소송은 합의됐다고 한다. 스타벅은 엑스(X·구 트위터)를 스크롤 하던 중 자신에 대한 허위 정보가 담긴 이미지를 발견했다고 주장했다. 메타의 AI 챗봇 중 하나인 라마가 생성한 것.

해당 이미지의 텍스트는 스타벅이 2021년 1월 6일 폭동 당시 미국 국회 의사당에 있었으며, 큐어넌(QAnon·2017년에 시작된 극우 미국 정치 음모론)과 연관되어 있다고 밝혔다. 스타벅은 그러나 그날 테네시주 자택에 있었고 큐어넌과는 아무 관련이 없다고 NYT에 말했다.

메타는 공식적으로 소송에 응답하지 않고 8월에 합의했다. 합의의 일환으로 회사는 스타벅을 메타의 AI 정책 감시에 중점을 둔 고문으로 영입했다. 당시 메타는 성명에서 “스타벅과 이러한 중요한 문제에 대해 협력한 이후, 메타는 AI의 정확성을 개선하고 이념적 및 정치적 편향을 완화하기 위해 엄청난 진전을 이뤘다”고 밝혔다. 회사는 합의의 추가 조건이나 스타벅이 고문 업무에 대해 보수를 받았는지에 대해서는 NYT에 공개를 거부했다.

스타벅은 지난달 구글의 AI에 대해서도 소송을 제기했다. 그는 구글의 대규모언어모델(챗봇 구동 기술)이 자신에 대해 명백한 허위 진술을 했다고 주장했다. 명예훼손에 대한 손해배상으로 그는 1500만 달러(약 219억9900만 원)를 청구했다. 그러나 이번에는 오류가 “알고리즘에 내재된 정치적 적대감의 고의적인 결과”라고 주장했다.

구글은 아직 소송에 공식적으로 응답하지 않았다. 하지만, 이 회사 대변인 호세 카스타녜다는 스타벅의 주장 대부분이 2023년으로 거슬러 올라가며, 당시 해결된 것이라고 말했다. 그는 “모두가 알다시피 창의력을 발휘하면 챗봇이 오해의 소지가 있는 말을 하도록 유도할 수 있다”고 덧붙였다.

아일랜드의 인기 디제이이자 토크쇼 진행자인 데이브 패닝은 자신에 대한 명예훼손 자료를 인터넷에서 발견하는 데 별도의 프롬프트가 필요하지 않았다. 마이크로소프트의 MSN 웹 포털에 실린 콘텐츠에는 그의 사진이 상단에 있었다. “저명한 아일랜드 방송인이 성추행 혐의로 재판에 직면하다”라는 헤드라인이 달린 기사였다.

성추행 혐의로 기소된 적이 없는 패닝은 사람들이 그 주장에 대해 묻기 위해 연락해 온 후에야 이 사실을 알게 됐다. 결국 그는 인도에 기반을 둔 한 뉴스 사이트가 AI 챗봇을 사용해 기사를 제작하고, 텍스트 옆에 그의 사진을 추가한 것을 발견했다. 그 후 마이크로소프트가 그 기사를 게시했고, 이는 MSN에 접속하거나 마이크로소프트 엣지 브라우저를 사용하는 아일랜드의 모든 사람에게 잠시 동안 노출됐다. 작년 초, 패닝은 아일랜드 법원에 마이크로소프트와 이 인도 뉴스 매체를 상대로 소송을 제기했다. 이는 미국 외에서 제기된 소수의 AI 명예훼손 소송 중 하나다.

패닝은 재판 받기를 원한다고 말했다. 마이크로소프트는 계류 중인 이 사건에 대해 논평을 거부했다. “마이크로소프트가 한 일은 충격적이었고, 그 충격은 분노로 바뀌었다”고 그는 말했다.

미디어법을 전문으로 하는 시러큐스 대학교 커뮤니케이션 교수 니나 브라운은 “이러한 소송 중 재판까지 가는 경우는 거의 없을 것”이라고 예상했다. 그녀는 “회사가 AI 모델의 결과에 책임이 있다는 판결이 나오면, 자신들에 대한 허위 사실을 발견한 다른 사람들로부터 엄청난 소송이 쏟아져 나올 수 있다”고 말했다. 브라운은 “피고가 취약한 AI 명예훼손 소송을 제기하면, 회사들이 합의를 통해 사라지게 할 것이라고 생각한다”며, “그들은 위험을 원하지 않는다”고 NYT에 말했다.

그녀와 볼로흐, 그리고 다른 여러 법률 전문가들은 울프 리버 사건이 특히 강력해 보인다고 말했다. 부분적으로는 이 회사가 허위 사실로 인한 구체적인 손실을 문서로 입증할 수 있었기 때문이다. 소장에서 그들은 해지된 계약으로 인한 손실 38만8000달러(약 5억 6911만 8400원)를 언급했다. 최고경영자 블라디미르 마르첸코는 인터뷰에서 회사가 신규 고객도 놓쳤다고 말했다.

그는 “일부 경쟁업체들이 잠재 고객과의 상담에서 가짜 법무장관 소송 주장을 꺼내 우리를 이용하지 못하도록 설득한다는 사실을 알아냈다”고 말했다. 그는 또한 레딧에서도 구글의 허위 검색 결과를 인용하는 게시물을 발견했다. 그 중 하나는 울프 리버를 ‘가능한 악마 기업’이라고 불렀다고 언급했다.

회사는 구글과의 서신에서 2024년 매출에서 거의 2500만 달러(약 366억7000만 원)의 손실을 입었으며, 총 1억1000만 달러(약 1613억4800만 원) 이상의 손해배상을 요구하고 있다고 밝혔다. 이 소송은 3월에 주 법원에 제기됐다. 현재 연방 판사가 사건을 연방법원에 유지할지 주 법원으로 돌려보낼지 심리하는 동안 보류 중이다.

울프 리버에 유리하게 작용할 수 있는 잠재적 요인이 있다. 이 회사가 공인으로 분류될 가능성이 낮다는 점. 이는 중요한 구분인데, 미국에서는 사인이 명예훼손이 발생했음을 입증하는 기준이 더 낮기 때문이다. 그들은 구글이 진실에 대한 ‘무모한 무시(reckless disregard)’가 아닌, 단순한 과실(negligently)로 행동했다고 보여주기만 하면 된다는 것.

구글 대변인 카스타녜다는 성명에서 “새로운 기술에서는 실수가 발생할 수 있다”고 인정했으며, “문제를 알게 되자마자 신속하게 해결하기 위해 조치했다”고 NYT에 언급했다.

하지만 당장 월요일에도 ‘wolf river electric 소송(complaint)’를 구글 검색하면, “이 회사는 판매 관행과 관련해 미네소타 법무장관으로부터 소송에 직면해 있다”는 결과가 나왔다. 고객들에게 “미네소타 법무장관실에 불만을 제기하라. 그들이 이미 회사와 관련되어 있기 때문”이라고 제안했다.

어렸을 때 우크라이나에서 미네소타로 이주해 닐슨과 함께 주니어 하키를 했던 마르첸코는 AI 검색 결과가 바뀌지 않으면 회사가 폐업할 수도 있다고 우려했다. 그는 “우리에게는 플랜 B(대안)가 없다”며, “우리는 밑바닥부터 시작했다. 우리에게는 명성이 전부”라고 NYT에 말했다.

권세인 기자