‘시민 이재명’을 응원하며

소프트뱅크그룹 회장 손정의는 최근 대통령 이재명을 만나 금붕어와 인간의 비유를 들었다. 자신이 역대 대통령의 ‘IT 구루’였음을 과시하며 이재명에게는 초인공지능(ASI)만 기억하면 된다고 했다. 범용인공지능(AGI)을 넘어 “인간 지능보다 1만배 똑똑한 ASI”가 나오면 그것이 인간의 위치에 서고, 지금의 인간은 ASI의 반려동물 같은 존재가 될 거라는 얘기였다. 이재명의 반응은 “약간 걱정되는데요”였다. 좌중이 웃음을 터뜨렸고, 이재명은 질문을 이어갔다. “노벨 문학상까지 ASI가 석권하는 상황은 과연 올까요? 바람직하진 않은 것 같은데 어떻습니까?” 손정의는 “그렇게 될 거라고 생각합니다”라고 답했다. 이때부터 대화가 비공개로 전환됐다.

인간의 1만배 지능을 가진 무언가를 만드는 것이 당연히 좋은 것이라고 믿는 이 사업가의 말에 이재명이 보인 반응은 시민으로서 보인 상식적 반응이었다고 할 수 있다.

보통 시민들은 이 대화를 어떻게 받아들였을까. 내가 만난 사람들은 대부분 ‘섬뜩하다’고 했다. 다만 그들 상당수는 ‘어쩔 수 없는 흐름 아니냐’며 체념했다. 바꿀 수 있는 게 없으니 적응할 수밖에 없다는 것이다. 알파고에게 패배한 뒤 ‘넘을 수 없는 장벽 앞에서 느끼는 허무와 좌절’을 드러내며 바둑계 은퇴를 선언한 이세돌과 달리 AI의 수를 충실히 외워 세계 1위 바둑기사가 된 신진서처럼.

이 대화에는 AI의 ‘활용 vs 거부’라는 이분법을 넘어 생각해볼 거리가 있다. 우선 손정의의 말에는 AI를 과도하게 의인화하는 문제가 있다. 그것은 사람들에게 이미 스며들어 있다. 최근 만난 AI 활용법 강사는 AI를 지칭할 때마다 ‘이 녀석’이라고 말했고, 동료 기자는 ‘얘(AI)를 잘 부려먹기 위해, 내 문체와 생각을 교육시키는 중’이라고 했다. 인간 지성과 AI를 동일시하는 이러한 태도는 사실에 부합하지도 않지만, 결국 인간을 기능적으로만 평가하는 도구적 관점에 빠질 위험이 크다는 점에서 문제가 있다.

AI로 쓴 문학 작품이 노벨상을 받는 날이 올 거라는 손정의의 말은 <먼저 온 미래>를 쓴 소설가 장강명의 불길한 예상과 일치한다. 그것은 ‘딥러닝의 아버지’ 제프리 힌턴 이 우려하는 바이기도 하다. 손정의는 그런 미래를 전혀 걱정하지 않는다는 점이 다르다.

이재명은 대통령이 된 뒤 젠슨 황, 샘 올트먼 등 많은 AI 관련 기업인을 만났다. 이들은 한국 정부에 AI 개발에 자원을 집중할 것을 권했다. 이재명 옆에는 그들과 비슷한 생각을 가진 기술자, 기업인 출신 참모와 경제관료가 즐비하다. 이들은 AI가 인류의 밝은 미래를 약속하며 ‘AI 거품은 절대 오지 않을 것’이라고 단언하는 기술낙관론자들이다.

하지만 삶의 현장으로 눈을 돌리면 낙관만 하기는 어렵다. 일터와 배움터에서 AI로 인한 많은 혼란과 불안이 생겨나고 있다. 콜센터 노동자들은 AI로 인해 대량 해고되거나 감시를 받고, 고객 불편이나 피해에 대한 책임 공백이 발생하고 있다. 병원에서는 충분히 검증되지 않은 AI가 도입돼 오진, 안전 위협, 비용 부당 청구 위험이 있다는 호소가 나온다. 채용·대출 심사나 인사 평가 과정에서 AI가 활용되면서 내가 이해하지 못하는 방식으로 내 운명에 영향을 미치는 것 아닌가 하는 불안감을 느끼는 사람도 많다.

이런 혼란과 불안에 대한 대비는 미흡하다. 내년 1월22일부터 시행되는 인공지능기본법은 여전히 구멍이 많다. 시민사회단체들은 사람의 잠재의식에 영향을 주거나 취약성을 악용하는 AI를 금지하는 규정이 없고, ‘고영향(고위험) AI’ 사업자의 범위가 좁으며, AI로 인한 피해에 대해 권리 구제 조항이 없는 점 등을 문제로 지적했다. 입법예고된 시행령도 상위법의 공백을 해소하지 않아 공공장소 얼굴인식, 직장과 학교의 감정인식 등 위험한 AI가 규제 사각지대에 놓일 가능성이 높다고 한다. 하지만 이 문제에 관한 논의는 활발하지 않다. AI가 청소년의 망상을 부추겨 자살이 빈발하고 있다며 42개 주정부가 나선 미국보다도 토론이 적다.

이것은 정부의 AI 논의가 압도적으로 산업적 측면에 치중돼 있는 탓이 크다. 시민들의 우려는 AI가 초래할 불안정한 미래에 자신들이 할 수 있는 것이 없고, 공공성을 담보해야 할 국가가 제 역할을 할지 확신하지 못하는 데서 비롯된다. 정부는 새로운 기술이 시민들에게 미칠 부정적 영향은 무엇이고, 어떻게 대비할 것인지 논의하는 데 더 많은 역량을 써야 한다. 단언컨대 손정의는 금붕어가 될 인간에 자신과 같은 빅테크 자본가들은 포함되지 않는다고 믿을 것이다.