“AI가 다 하는 시대…인간은 능력보다 욕구가 중요해진다”

AGI에 가장 근접한 회사의 AGI 전망

AI 기술이 고도화되면서 일자리 재편과 인간 소외에 대한 우려가 커지고 있다. 다가올 범용인공지능(AGI) 시대, 인간은 어떤 역할을 맡게 될까. 또 AGI 시대는 언제쯤 현실이 될까. 2022년 말 챗GPT를 출시하며 전 세계적인 AI 열풍을 일으킨 혁신기업이자, AGI 개발의 선두주자인 오픈AI의 구상을 제이슨 권 최고전략책임자(CSO)로부터 직접 들었다.

“무슨 일을 하든 앞으로는 무언가를 할 수 있는 ‘능력’보다 하고자 하는 ‘욕구’가 더 중요해질 것이다.”

제이슨 권 오픈AI 최고전략책임자(CSO)는 지난달 11일 중앙일보와의 단독 인터뷰에서 ‘범용AI(AGI) 시대에 중요해질 인간의 자질은 무엇일지’를 묻는 질문에 이렇게 답했다. 연구자·기업을 넘어 대중과 인공지능(AI) 기술의 첫 접점을 만든 건 단연 2022년 말 오픈AI가 선보인 챗GPT였다. 그로부터 불과 3년여 밖에 지나지 않았지만, 인류는 모든 분야에서 인간의 지능과 유사한 AGI를 넘어 이제 인간 지능을 초월하는 초인공지능(ASI)까지 논하고 있다. 실현 시점이 언제일지 단언할 순 없지만, AI가 발전할수록 작아지는 듯한 인간의 역할에 대해 권 CSO는 “오히려 인간의 추진력은 폭발적으로 확장될 것”이라고 단언했다.

오픈AI는 지난해 AGI로 가는 AI의 능력 수준을 5단계로 나눠 제시한 바 있다. 1단계는 챗봇, 2단계는 고도의 추론이 가능한 추론자(Reasoners), 3단계는 인간을 대신해 작업을 수행하는 에이전트(Agents), 4단계는 새로운 아이디어로 혁신을 돕는 혁신자(Innovators), 마지막 5단계는 홀로 조직 단위의 업무까지 총괄하는 조직(Organizations)이었다. 당시 오픈 AI는 자사 기술이 2단계에 도달하기 직전이라고 설명했다. 지금은 어느 단계에 와 있는지 권 CSO에게 물었다. 2021년 오픈AI의 법률 고문으로 합류한 그는 현재 오픈AI의 정책·전략, 글로벌 협력 업무 등을 총괄하고 있다.

현재 오픈AI는 어느 단계에 와 있나.

“3단계인 에이전트 시기로 진입하고 있다. 관건은 ‘AI가 스스로 얼마나 복잡한 작업을 수행할 수 있느냐’다. 이미 연구용으로 개발한 챗GPT 딥리서치의 경우 어느 정도 그 능력을 갖추고 있다. 연구에 따르면 AI가 인간의 지시 없이 장기간 작업을 수행할 수 있는 시간은 7개월마다 두 배씩 늘어나고 있다.”

다음 단계로 넘어가기 위해 현 AI 모델에 가장 필요한 능력은 뭔가.

“AI가 스스로 자율성을 갖고 경제적 가치를 창출하는 능력이다. 특히 오픈AI가 가장 큰 목표로 잡고 있는 것은 AI 스스로 과학적 발견을 이끌어내는 능력이다. 이를테면 25년이 걸릴 과학적 과정을 5년으로 압축하는 것이다. 신소재 찾기부터 새로운 치료법, 비즈니스 프로세스 등 모든 분야에서 말이다.”

오픈AI가 올해 발표한 ‘기업 AI 현황(The State of Enterprise AI)’ 보고서를 보면 기업들의 챗GPT 메시지 사용량은 전년 대비 8배 증가했고, 조직당 응용프로그램 인터페이스(API) 추론 토큰 사용량은 320배 증가했다. AI를 실제 업무에 쓰는 기업이 그만큼 늘었다는 의미다.

우리는 어떻게 AGI 시대가 왔음을 체감하게 될까.

“개인적으로 요즘처럼 (무언가를 배우는) 학생이 되기 좋은 때가 없다고 생각한다. 잘 모르는 주제라도 매우 빠르게 지식을 얻을 수 있어서다. 모든 업무는 지식의 토대에서 시작한다. 그리고 현재까지는 아는 것에 따라 할 수 있는 일이 제한된다. 하지만 더 이상 알 수 있는 것에 제한이 없다면 할 수 있는 일에도 제한이 없어진다.”

고용은 어떻게 재편되나.

“오픈AI가 생각하는 AGI 시스템은 ‘매우 유능한 수준에서 복잡한 작업을 수행할 수 있는 능력’이다. 당신이 하는 어떤 종류의 일이든 그 일을 돕기 위한 가상 동료가 두어 명 더 생긴다고 생각해 보라. 이 가상 동료는 지금보다 훨씬 더 큰 자율성을 갖고 당신의 일을 알아서 처리해 줄 거다. 그렇게 개개인은 혼자서도 기업 수준의 사업을 할 수 있는 업무 레버리지를 갖게 된다.”

그럼 인간의 역할은 무엇인가.

“샘 올트먼이 에세이에서 이야기한 적이 있는데, 인간에게 중요해질 덕목은 주체성과 결단력, 의지력, 창의성, 상상력 등이다. 더 이상 갖고 있는 지식 때문에 하고 싶은 일이 막히는 일은 없을 것이다. 도와줄 사람이 없어서 못하는 일도 없을 것이다. AI가 모든 걸 도와줄 테니까. 핵심은 사람의 추진력이다. 오직 해내고자 밀어붙이는 개개인의 욕구의 크기가 인간이 할 수 있는 일을 좌지우지할 것이다.”

지금도 AI에 대한 안전성 문제가 계속 제기되고 있다.

“AI는 유용할수록 더 안전하다. 추론 능력이 생긴 AI는 사용자가 AI 모델과 과한 애착 징후를 보이는 상황에도 추론을 적용하기 시작했다. 단순히 사용자 말을 따르는 걸 넘어 그 사람이 처한 상황을 이해한 다음, 더 안전한 방식으로 반응할 수 있게 되는 것이다. 내부 연구에서도 더 높은 지능을 가진 모델일수록 더 안전하다는 결론이 나오고 있다.”

오픈AI는 더 똑똑한 AI 모델을 개발하기 위해 AI 인프라에 대규모 자금을 투입하고 있다. 대표적인 프로젝트가 바로 ‘스타게이트’다. 소프트뱅크·오라클 등과 함께 미국을 중심으로 전 세계에 초대형 AI 인프라를 구축하는 5000억 달러(약 740조원) 규모 사업이다. 권 CSO는 “모든 건 스케일링의 법칙(모델 성능은 모델의 크기에 비례해 증가한다는 법칙)에서 시작된다. 학습과 추론에 투입하는 컴퓨팅(연산) 양을 늘리는 데 집중하고 있다”고 말했다.

일각에서는 AI 거품론이 제기되기도 한다.

“그렇지 않다. 요즘도 오픈AI는 끊임없이 ‘컴퓨팅 제약’ 상태에 놓인다. 오픈AI 각 제품들에 사용량 제한을 거는 이유다. 공급이 AI 서비스 수요를 못 따라가는 상황이다. 다른 경쟁사도 마찬가지다. 게다가 최근 컴퓨팅 자원을 AI 서비스에 투입해 수익화하는 속도가 매우 빨라지고 있다. 구체적으로 공개할 수 없지만, 지난해 대비 올해 오픈AI의 수익 증가세는 전례가 없을 정도다.”

인터뷰하면서 권 CSO는 오픈AI와 한국의 협력 관계에 대해서도 언급했다.

한국이 가진 강점은 무엇인가.

“한국은 오픈AI처럼 ‘풀스택’ 국가다. HBM 제조사가 두 곳(삼성·하이닉스)이나 있고, 네이버·카카오처럼 모델을 훈련하며 앱을 배포할 수 있는 기업도 있다. 상위 10대 개발자 시장 중 하나인 데다 세계에서 가장 디지털화된 국가다. AI가 국가 경쟁력 차원에서 근본적인 인프라가 될 거라는 정부의 이해도도 매우 높다. 이 모든 것이 AI 전환에서 한국을 매우 유리한 위치에 있게 한다. 한국은 AGI로 가는 길에 있어 오픈AI의 핵심 파트너다.”

AI를 활용하면 코딩이나 페이지 개발도 한결 쉬워집니다. AI와 함께 만든 디지털 스페셜 ‘2026 하트 포춘쿠키’. 올해의 행운을 점쳐 보세요.