[김경환 변호사의 디지털법] 〈54〉AI의 일방적 계정 정지, '설명요구권'으로 대응하라

2025년 5월 말부터 인스타그램에서 발생한 전 세계적인 대규모 계정 정지 사태는 자동화된 시스템이 야기할 수 있는 위험성을 단적으로 보여주는 사례다. 사업자는 '아동 성 착취물 등 커뮤니티 가이드라인 위반'을 공식 사유로 들었으나, 실제로는 이에 해당하지 않는 대다수의 일반 이용자 계정이 비활성화되는 등 제재의 범위와 대상 선정에 심각한 오류가 있었음이 드러났다. 이로 인해 개인의 디지털 자산 손실은 물론, 플랫폼을 통해 상업 활동을 영위하던 사업자들의 직접적인 경제적 피해가 발생하며 사태의 심각성을 더했다.

이번 사태의 핵심 원인으로는 콘텐츠 모더레이션(Content Moderation)을 위해 도입된 인공지능(AI) 시스템의 기술적 결함 또는 알고리즘의 오작동 가능성이 유력하게 지목된다. 대규모 플랫폼 운영의 효율성을 위해 AI 기반의 자동화된 결정 시스템은 불가피한 측면이 있으나, 그 작동 방식이 외부에 공개되지 않는 '블랙박스' 형태로 유지된다는 점에서 근본적인 문제를 내포하고 있다.

이용자는 자신의 어떤 활동이 어떠한 기준으로 위반으로 판정되었는지 알 수 없으며, 이의를 제기할 수 있는 공식적이고 실효적인 구제 절차 또한 부재한 상황에 놓여 있다. 이는 개인정보처리자인 플랫폼과 정보주체인 이용자 간의 극심한 '정보 및 권력의 비대칭성'을 야기하며, 결국 AI의 그릇된 판단에 대한 피해는 전적으로 이용자가 감수해야 하는 불합리한 구조를 고착화시키고 있다.

이러한 문제에 대응하기 위한 핵심적인 법적 장치가 바로 개인정보보호법 제37조의2 '자동화된 결정에 대한 정보주체의 권리' 조항이다. 유럽연합의 GDPR을 참조해 도입된 이 조항은, '설명가능한 AI(XAI)' 원칙을 법제화해 자동화된 결정 과정에서 정보주체의 절차적 통제권을 강화하고 권익을 실질적으로 보호하는 데 그 입법 취지가 있다.

해당 조항은 정보주체에게 두 가지 핵심 권리를 부여하는데, 첫째, 자동화된 결정에 대한 거부권이다. 정보주체가 자신의 권리·의무에 중대한 영향을 미치는 자동화된 결정 자체의 구속력을 부인하고, 인적 개입에 의한 재처리를 요구할 수 있는 실체적 권리다. 둘째, 설명요구권이다. 결정의 결과뿐만 아니라, 해당 결정에 이르게 된 주요 기준, 데이터 처리 과정, 그리고 그 결정이 정보주체에게 미치는 영향 등에 관해 개인정보처리자에게 상세한 해명을 요구할 수 있는 절차적 권리다.

이번 인스타그램 계정 정지 사태는 AI 시스템이 이용자의 게시물 등 개인정보를 기반으로 계정의 사용 권한이라는 중대한 권리에 영향을 미친 전형적인 '자동화된 결정' 사례에 해당할 수 있다. 따라서 피해 이용자는 본 조항에 근거해 메타 측에 계정 정지 결정에 대한 거부 의사와 함께, 결정의 구체적인 이유 및 근거 데이터에 대한 설명을 공식적으로 요구할 수 있다.

권리 행사를 통지받은 개인정보처리자는 법률에 따라 30일 이내에 결정의 취소, 인적 재처리 후 결과 통보 또는 요구받은 사항에 대한 상세한 설명 제공 등 '필요한 조치'를 이행하고 그 결과를 정보주체에게 통지할 법적 의무를 부담한다. 정당한 사유 없이는 이 의무를 지연하거나 회피할 수 없다.

향후 AI 관련 유사 사태의 재발을 방지하고 글로벌 플랫폼의 사회적 책임성을 강화하기 위해서는, 개별 이용자들이 자신의 법적 권리를 명확히 인지하고 적극적으로 행사하여 유의미한 선례를 축적하는 것이 필수적이다. 이는 궁극적으로는 더욱 투명하고 공정한 디지털 생태계를 구축하는 초석이 될 것이다.

김경환 법무법인 민후 변호사