"저사양서 AI 모델 최적화"…글로벌 빅테크도 '눈독' [스케일업리포트]

저전력 장치에서 인공지능(AI) 모델을 최적화하는 기술을 보유한 글로벌 기업들이 최근 몇년 새 잇따라 거액의 몸값에 빅테크에 인수됐다. 2019년과 2020년 각각 테슬라와 애플에 인수된 딥스케일과 엑스노어 에이아이(Xnor AI)가 대표적이다. 엔베디아가 최근 2년 간 사들인 옴니ML, 옥토AI, 데시(Deci) 등도 마찬가지다. 이들 기업이 주목받은 이유는 AI가 널리 퍼질수록 높은 매개변수(파라미터)를 가진 커다란 AI모델들을 클라우드라는 환경에서만 구동할 수 없는 상황이 늘어나기 때문이다. 길의 폭을 넓히지 않고도 대형 소방차나 트럭이 진입할 수 없는 길은 오토바이나 경차로 탈 것을 바꿔서 무사히 길을 건널 수 있게 해주는 기술이 주목받기 시작했다. 흔히 말하는 엣지 디바이스는 자동차, 가전, 스마트폰을 비롯해 저전력 장치에서 구동되는 모든 기기를 의미한다.

채명수(사진) 노타 대표는 이달 16일 서울 강남구 삼성동 본사에서 진행한 서울경제신문 인터뷰에서 “AI를 보편화하는 데 반도체향으로 기술을 제공하면 스마트폰, 자동차, 가전, 로보틱스 등 모든 분야에 걸쳐 파고들 수 있다”며 “고객사의 입에서 노타 기술이 없으면 이 칩은 쓸 수 없다는 이야기가 나오는 대체 불가능한 회사가 될 것”이라고 강조했다.

국내는 물론 해외에서도 AI 최적화 플랫폼으로 입지를 다진 노타에도 변화의 계기는 있었다.

채 대표는 갓 회사를 매각한 글로벌 경쟁사의 창업자들을 찾아가 “인수되지 않고 회사를 운영했다면 어떤 점을 다르게 했을 것 같은가”라는 질문을 던졌다. 돌아온 답은 이랬다. “다시 회사를 운영한다면 ‘툴(도구)'로서 대응하는 대신 플랫폼을 구축할 것 같습니다.”

AI모델 최적화를 기업 고객마다 건 별로 진행하면 용역성 사업이 되다 보니 확장성이 떨어지고 개별 엔지니어에 따라서 퀄리티 컨트롤이 어렵다는 단점이 있다는 설명이 따라왔다. 이를 계기로 2021년 플랫폼 기업으로 거듭나겠다는 다짐을 했다고 한다. 2년 간 공 들여 2023년 자체 플랫폼인 넷츠프레소를 출시했다. 엣지 디바이스 등 제한된 자원 환경에서도 AI모델이 원활하게 동작하도록 경량화하는 동시에 개별 AI칩에 맞게 모델을 최적화해주는 역할을 맡았다. 핵심 기술은 AI모델의 성능을 크게 낮추지 않고도 각 AI칩에 맞춰 이를 조정해주는 데 있다 . 그는 “AI라고 하면 무조건 돈 많이 드는 비즈니스라고 생각하지만 우리는 모델을 잘 만드는 기업과 반도체를 잘 만드는 기업을 이어주는 역할을 한다”며 “이 분야는 좋은 AI칩이 아니라 노하우와 감을 얼마나 축적했느냐로 결정된다”고 강조했다. AI모델과 AI칩의 호환에 따라서 결과물이 달라지고 하드웨어의 램(RAM) 사이즈만 달라져도 결과 값이 달라지기 때문에 많은 고객사를 접해본 게 중요하다는 설명이다. 넷츠프레소 플랫폼 출시 2년 만에 회사 체질도 개선됐다. 플랫폼 매출 비중이 30%까지 올라왔다. 채 대표는 “앞으로는 플랫폼 매출 비중이 절반 이상이 될 것”이라며 “상장 심사 청구 과정에서도 높은 평가를 받은 부분”이라고 강조했다.

2015년 연구실 창업으로 시작한 노타의 첫 아이템은 ‘모바일 키보드에 오타를 잡아주는 솔루션’이었다. 당시 갤럭시 S7등 지금과 비교하면 사양이 떨어지는 스마트폰에서 AI알고리즘이 구동돼야 하다보니 발열을 잡고 경량화하는 기술을 갖췄다. 이후 AI 경량화 솔루션을 내세워 졸음운전 방지 솔루션 등 이런 저런 시도를 해보던 중 2020년 스티븐 킴 최고전략책임자(CSO)를 영입했다. 인텔과 삼성전자를 거친 킴 CSO는 노타가 가진 최적화 기술이 반도체 성능 평가에 흔히 쓰이는 지표인 전력·성능·면적(PPA)에 도움을 줄 수 있다는 것을 발견했다. 같은 하드웨어여도 소프트웨어를 바꾸면 성능을 끌어올릴 수 있다는 점이었다.

채 대표는 반도체 업계의 문을 두드릴 때도 1등부터 찾아가는 공격적 전략을 썼다. 그렇게 엔비디아, ARM, 퀄컴 등과 먼저 접촉했다. 갓 시리즈A 투자 유치를 한 한국 스타트업에 관심을 보이는 이들은 없었다. 사계절이 두 번쯤 지나고서야 반응이 오기 시작했다. 채 대표는 “반도체 회사들이 보통 제품 주기가 길다 보니 소프트웨어 회사보다는 호흡도 길고 보수적인 편”이라며 “매년 세계 가전 박람회 CES, 모바일월드콩그레스(MWC), 임베디드 비전 서밋 등에 참여하면서 이전에 말한 로드맵을 실현하는 과정을 계속해서 보여주자 반응이 오기 시작했다”고 설명했다. 그렇게 ARM과 르네사스에 소프트웨어 개발 도구(SDK) 라이선스를 제공하는 계약을 성사시켰다.

SDK 라이선스 계약을 맺고 외부 업체와 협업한다는 건 반도체 회사에게는 리스크가 큰 일이다. 협업 중에 기업이 문을 닫거나 인수된다면 지적재산권(IP) 유출은 물론 다양한 리스크를 감수해야 하기 때문이다.

협업 단계에 있어서도 가장 기초적인 단계의 협업이 ‘이미 출시된 칩에 문제가 있으니 해결해 달라는 것’이라면 다음 단계는 6개월 이내에 나올 칩을 받아서 문제를 해결하는 얼리엑세스로 꼽힌다. 이미 엔비디아와는 이 단계의 협업을 진행하고 있고 ARM과는 칩을 설계에서 함께 참여하는 ‘하드웨어-소프트웨어 공동 설계(Co-design)’ 단계까지 협업이 진행됐다.

삼성전자와도 긴밀한 협업을 진행하고 있다. 그는 “칩 설계 단계부터 우리 지식이 도움이 될 때가 있는 만큼 중요한 정보를 공유하는 것은 큰 의미가 있다”고 설명했다. 내로라하는 글로벌 기업들과 늘상 협업을 하는 만큼 협상력도 중요하다. 그는 “모든 협상은 협상력이 누구에게 있는지가 가장 중요하다”면서도 “양보와 타협을 해야 하는 상황에서도 ‘배트나(협상이 결렬됐을 때 가질 수 있는 최선의 대안)’이 있는지를 중요하게 봤다”고 전했다.

지난 해에는 글로벌 빅테크로부터 인수 제안을 받기도 했다. 한 달 고민 끝에 거절했다. 채 대표는 “두 가지를 고민했다. 하나는 ‘왜 이 일을 하는가’ 목적성에 관한 것이었고 다른 하나는 ‘화학적 결합이 가능해 나를 포함한 구성원들이 즐겁게 일할 수 있느냐’였다."며 "결국 아니라고 답을 내렸다”고 말했다. 노타는 기술 특례 상장으로 방향을 정하고 지난해 12월 기술성평가에서 최고 등급인 ‘AA’를 받았다.