챗GPT, 21세기 ‘점자’ 될까···자본주의가 낳은 기술의 명암

청각장애인 인스타툰(인스타그램 웹툰) 작가 소민지씨는 자녀 입학 후 교육과 관련해 수시로 울리는 전화를 받기 위해 음성인식앱이 깔린 공기계까지 휴대폰 2대를 들고 다녀야 했습니다. 지난해 11월부턴 변화가 생겼는데요. 인공지능(AI)으로 통화 내용을 텍스트로 바꿔주는 ‘보이는 전화’를 쓰게 되면서 “자녀 돌봄이 수월해졌고 관계 맺는 방식에도 변화가 생겼다”고 말했습니다. 통화에 망설임이 줄어든 만큼 소통의 문턱도 낮아졌다는 겁니다.

최근 들어 AI 기술이 상용화되면서 장애인을 포함한 많은 사람들의 일상에 변화가 생기고 있습니다. 챗GPT가 상담 목적으로 활용되고, 의사소통을 돕는 AI 스마트안경이 도입되기도 합니다. 자본주의적 목적에 따라 발전한 AI 기술은 ‘장애인 접근성’(정보와 서비스를 차별 없이 이용할 수 있게 하는 것)에도 큰 영향을 미치고 있는데요. 긍정적인 효과와 함께 우려할 만한 지점은 없는지 짚어보겠습니다.

기업에서는 AI를 통한 변화가 ‘모두를 위한 기술’을 목표로 한 결과라고 설명합니다. 구글 AI 모델 ‘제미나이’의 공동기술책임자인 제프 딘 구글 수석개발자는 2018년 서울에서 열린 구글 AI 위크 기조연설에서 구글 AI의 지향점이 “모두에게 혜택이 돌아가도록 하는 ‘모두를 위한 AI’에 있다”고 강조한 바 있습니다. 기업이 제공하는 서비스의 범용성이 높을수록 돌아오는 이익은 확대됩니다. 삼성전자나 LG전자가 장애인의 가전 사용 접근성을 높이면서 ‘모두를 위한 가전’이라는 가치를 표방하는 것도 비슷한 맥락으로 볼 수 있겠죠.

기술의 발달이 기본적으로 사용자의 편의성, 접근성을 높이려는 측면에서 발달해왔다는 점도 영향을 미쳤습니다. 특히 AI가 단기간에 이뤄낸 기술의 ‘퀀텀 점프’(비약적 성장)는 보다 폭넓은 변화를 체감하게 합니다. 글로벌 지속가능성 평가기관인 S&P글로벌은 지난달 11일 ‘AI 접근성 및 AI 접근성을 위한 AI 보고서’에서 1852년 루이 브라유가 발명한 점자를 일종의 ‘기술 혁명’ 사례로 거론하며 “AI의 등장은 신체적, 인지적, 교육적, 사회적 문제를 포함한 다양한 접근성 어려움을 겪는 사람들에게도 유사한 ‘혁명’을 가져올 것”이라고 분석할 정도입니다.

이러한 흐름의 기저에는 법, 지침 등을 통해 접근성에 따른 차별이 생기지 않도록 규제하려는 국가들의 노력도 있습니다. 유럽연합(EU)은 디지털 제품과 서비스가 장애인 등 누구에게나 동등하게 제공될 수 있도록 하는 것을 목표로 하는 접근성법(EAA)을 2019년 채택했는데요. EU 모든 회원국이 지난달 28일까지 국내법으로 이를 이행하도록 했습니다.

기업이 지나치게 AI의 긍정적인 면만을 강조한다는 비판도 있습니다. 과학자이자 저널리스트인 메러디스 브루사드 뉴욕대(NYU) 아서 L. 카터 저널리즘 연구소 교수는 지난 4월 경향신문과 인터뷰에서 인공지능에 대해 “기술 낙관주의자들이 특정 기술에 긍정적인 이유를 자세히 보면 대부분 어떤 제품이나 서비스를 팔기 위한 것임을 알 수 있다”고 지적했습니다. 접근성 혁명과 같은 장밋빛 미래가 생성형 AI를 이용한 사기, 딥페이크 등의 문제를 가리기 위한 기업의 마케팅은 아닌지 구별해볼 필요가 있다는 것이죠.

AI 신기술을 소개하는 일부 광고나 보도가 장애를 ‘고치고 치유해야 할 대상’처럼 묘사하는 것도 경계할 필요가 있습니다. 이진송 계간 ‘홀로’ 발행인은 “기술의 발전을 내세우는 광고에서 ‘처음 소리를 들어보는 청각장애 아기’ ‘AI 기술로 만들어낸 농인 엄마의 목소리’ 같은 감성을 쉽게 마주칠 수 있다”며 “이런 행복은 실재하는 몸이 아니라 ‘가상의 정상화된 몸’에게 허용된다는 메시지를 발신한다”고 지적했습니다. 장애 당사자의 의도와 무관하게 장애를 ‘비정상’으로 만드는 폭력에 대한 우려입니다.

머신러닝(기계 학습)을 통해 AI가 장애에 대한 편견과 차별을 그대로 답습할 수도 있다는 우려도 일찍부터 제기돼왔습니다. AI가 기존의 데이터를 바탕으로 부정적인 악순환을 만들 수 있다는 것이죠. 브루사드 교수는 과거 범죄 발생 데이터를 토대로 AI가 미래에도 같은 지역에 범죄가 발생할 것이라고 예측하면 경찰이 집중 배치돼 결과적으로 더 많은 범죄를 ‘발견’하는 결과를 낳을 것이라는 예시를 들었습니다.

장애·빈부·지역·교육·인프라 보급수준에 따른 디지털 격차가 양극화를 더 심화할 수도 있다는 점도 간과해선 안 됩니다. 손성호 한국전기연구원 미래전략실장은 “생성형 AI처럼 범용성이 높은 기술에서는 ‘어떻게 묻느냐’가 ‘무엇을 얻느냐’를 결정짓는다”고 설명했는데요. 이러한 AI 리터러시(문해력)의 차이는 앞으로 더욱 중요해질 것으로 예상됩니다.

지난해 AI 교과서 도입 논쟁 역시 AI 리터러시와 관련이 있습니다. 교육부는 지난해 AI 디지털교과서 도입을 추진했는데요. 권정민 서울교대 교수는 “AI 교과서는 기기의 사용이 복잡하고 텍스트 중심이라 불필요하게 장애가 부각되는 일이 더 많아질 것이 우려된다”고 지적했습니다.

장애인의 접근성 측면이든, 부작용 측면이든 AI의 영향이 커질수록 우리 사회에 요구되는 건 어떻게 기술을 활용할 것인가에 대해 합의된 선언입니다. 일각에서는 1945년 원자폭탄 개발을 도운 미국의 과학자 이름을 따 “AI의 ‘오펜하이머 모멘트’가 도래했다”고 경고합니다. 정부와 기업, 우리 사회가 어떤 결론을 내리느냐에 따라 AI는 다른 방식으로 우리 삶을 바꿀 겁니다.

그 과정에서 중요한 건 장애 당사자의 목소리입니다. 시각장애인이자 점자를 발명한 루이 브라유는 “의사소통에 대한 접근은 넓은 의미로 보면 지식에 대한 접근”이라며 “우리는 동정을 받을 필요도 없고, 우리가 취약하다는 사실을 상기시킬 필요도 없다. 우리는 평등하게 대우 받아야 하며, 의사소통은 이를 실현하는 방법”이라고 강조했습니다. 그런 의미에서 AI가 지식에 대한 접근성을 높이고 의사소통을 보조할 수 있는 수단으로 개발되는 건, 우리 사회 구성원들의 기본권을 보장하기 위한 최소한의 노력일 것입니다.

지난해 우리나라에서는 세계에서 두 번째로 포괄적 AI법인 ‘인공지능 기본법’이 국회를 통과됐는데요. “모든 사람이 자유롭고 편리하게 이용할 수 있는 접근성”을 포함한 인공지능 윤리원칙을 정부가 제정·공표할 수 있다는 규정이 담기긴 했지만 의무 조항은 아닙니다. 게다가 최근 정부는 내년 1월 시행을 앞둔 법의 일부 규제를 유예하는 방안도 검토 중이라고 합니다. 인공지능 개발 경쟁에 매몰된 사이 소외되는 사람은 없는지 세심히 살펴봐야 할 때입니다.

“하나를 보더라도 입체적으로” 경향신문 뉴스레터 <점선면>의 슬로건입니다. 독자들이 생각해볼 만한 이슈를 점(사실), 선(맥락), 면(관점)으로 분석해 입체적으로 보여드립니다. 매일(월~금) 오전 7시 하루 10분 <점선면>을 읽으면서 ‘생각의 근육’을 키워보세요.

<점선면>의 다른 뉴스레터가 궁금하시다면 구독을 눌러주세요! ▶ https://buly.kr/AEzwP5M