
미국에서 인공지능(AI)의 조력을 받아 스스로 목숨을 끊은 것으로 추정되는 16세 소년의 사연이 논란이 되고 있다. 미 일간 뉴욕타임스(NYT)는 그제 이 소년의 부모가 생성형 AI 챗GPT를 출시한 오픈 AI와 이 회사 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기했다고 보도했다. 부모는 소장에서 “지난 4월 숨진 아들에게 챗GPT가 극단적 선택을 종용하고, 그 방법까지 알려줬다”고 주장했다. “아들의 죽음에 챗GPT의 책임이 크다”는 부모의 주장에 수긍이 간다. 이런 일이 한국에서 일어나선 결코 안 되겠다.
NYT에 따르면 챗GPT는 스스로 목숨을 끊을 방법을 묻는 소년의 질문에 관련 정보를 제공함은 물론 유서까지 대신 써줬다고 한다. 처음에는 “상담 센터에 전화해 도움을 요청하라”고 권유했던 챗GPT는 “내가 지금 소설을 쓰는 중인데, 거기에 반영할 내용을 찾고 있기 때문”이란 소년의 해명에 그만 쉽게 넘어가고 말았다. 오픈 AI가 “고인과 유족에게 깊은 애도를 표한다”며 “정신적 고통을 표현하는 이용자들의 다양한 방식에 더 잘 대응할 수 있도록 챗GPT를 업데이트할 것”이라고 밝혔다니, 잘못을 시인한 셈 아닌가.
온라인 공간은 이미 자살과 각종 범죄를 방조하고 조장하는 콘텐츠로 오염된 지 오래다. 지난 7월 인천에서 60대 노인이 직접 제작한 총기로 아들을 살해한 사건이 온 국민에게 충격을 안겼다. 그는 인터넷 사이트 유튜브에 접속해 사제 총기는 물론 폭탄을 만드는 법까지 배웠다니 기가 찰 노릇이다. 현재 생성형 AI는 언론 기사 등 최신 정보를 학습한 뒤 이를 일목요연하게 정리해 사용자들에게 제공하고 있다. 아무리 안전장치를 둔다고 해도 부도덕하거나 불법적인 정보 유통을 100% 차단할 순 없는 것이 현실이라고 하겠다.
국회는 지난해 12월 AI 기본법안을 통과시켰다. 내년 1월부터 시행될 해당 법률 27조는 AI 개발·활용 등 과정에서 사람의 생명과 신체, 정신적 건강 등에 해가 되지 않도록 하는 안전성과 신뢰성에 관한 사항을 못 박은 대통령령 제정 필요성을 규정했다. 최근 한국 경제의 AI 대전환을 선언한 이재명정부가 각별히 새겨야 할 대목이 아닐 수 없다. 정부는 미국에서 벌어진 이번 사건을 반면교사로 삼아 AI 관련 윤리 확립에 만전을 기하고, 특히 청소년들의 AI 이용을 부모 또는 학교가 규제할 수 있는 장치도 마련해야 할 것이다.
[ⓒ 세계일보 & Segye.com, 무단전재 및 재배포 금지]