[ASPS 2025] “HBM이 AI 성능 한계 결정…韓, 기술 주도권 잡아야”

고대역폭메모리(HBM)가 인공지능(AI) 성능의 한계를 결정짓는 핵심 부품으로 부상했다는 분석이 나왔다. 이에 한국이 HBM 기술력을 기반으로 AI 시대 주도권을 잡아야 한다는 지적이다.

김정호 한국과학기술원(KAIST) 전기및전자공학부 교수는 27일 수원컨벤션센터에서 열린 '2025 차세대 반도체 패키징 산업전(ASPS 2025)' 기조연설에서 “AI 칩은 HBM 없이 목표 성능을 내지 못하는 것이 최대 약점”이라며 한국이 HBM 중심의 '메모리 센트릭' 시대를 이끌어가야 한다고 밝혔다.

김 교수는 HBM 기본 구조를 최초로 제안한 인물로 'HBM의 아버지'로 불린다. 그가 제시한 메모리 센트릭 시스템은 메모리가 단순 데이터 저장을 넘어 연산까지 지원하는 등 전체 시스템의 데이터를 빠르고 효율적으로 다루는 핵심 역할을 하는 구조를 가리킨다.

김 교수는 D램을 수직으로 적층한 HBM에 이어 낸드플래시 메모리를 쌓은 HBF가 등장하고, 여기에 더 많은 메모리 연결을 위한 네트워크 스위치가 사용될 것으로 예상했다.

또 이러한 구조가 AI 반도체 크기를 키우면서 실리콘 인터포저와 글라스 기판이 함께 쓰이는 하이브리드 형태가 될 것이라고 예측했다. 12인치 웨이단 위에 GPU와 HBM, HBF를 모두 집적하는 데 한계가 있기 때문이다.

HBM 기술 발전 방향과 관련해서는 “GPU-HBM 간 데이터 이동 병목을 해소하기 위해 입출력(I/O) 인터커넥션 수가 현재 1024개에서 향후 10만개까지 증가할 것”이라며 “실리콘관통전극(TSV)도 현재 1만개에서 100만개로 늘고 냉각 방식도 D2C(Direct to Chip)에서 액침냉각을 거쳐 반도체 내부에 물이 통과하는 방식이 사용될 것”으로 전망했다.

메모리 수요는 생성형 AI는 AI 에이전트, 피지컬 AI로 진화하면서 급증할 것으로 내다봤다.

김 교수는 “피지컬 AI에서는 지금보다 1000배가량 더 많은 용량의 HBM을 요구할 전망”이라며 “이에 2025년 약 60조원으로 추산되는 HBM 시장 규모가 1경을 넘어설 것”이라고 강조했다.

한국실장산업협회가 주최한 첨단 패키징 기술 세미나에서는 AI 열풍이 첨단 패키징 기술 개발을 가속화하고 있다는 분석이 나왔다.

노근창 현대차증권 리서치센터장(전무)은 “TSMC가 공동 패키징 광학(CPO)을 강조하고 있고, 인텔도 광 반도체(실리콘 포토닉스) 기반 제품을 개발하고 있다”며 “광 반도체는 전체 칩 원가의 60% 이상을 차지할 것으로 예상되기 때문에 비용을 얼마나 줄일 수 있느냐가 조기 시장 형성의 포인트가 될 것”이라고 말했다.

실리콘 포토닉스는 전기를 빛 신호로 전환, 데이터 처리 속도를 높일 수 있는 신기술이다. 패키징에 실리콘 포토닉스를 결합한 기술이 CPO다.

올해 주요 클라우드 서비스 사업자(CSP)의 AI 데이터센터 설비투자(CAPEX) 규모는 3200억달러(약 446조원)로 전망했다. 지난해(2443억달러)보다 30% 이상 증가한 수치로, 데이터센터 투자 확대가 패키징 산업 활성화로 이어질 것이란 설명이다.

노 전무는 “미국 행정부의 반도체 관세 부과 등 거시경제 불확실성과 상관없이 AI 분야 수요는 불변할 것”이라고 밝혔다.

한편, 실장산업협회는 전자 실장 기술과 생태계 구축, 연구개발(R&D) 강화 등을 위해 세미나를 개최했다.

박진형 기자 jin@etnews.com, 이호길 기자 eagles@etnews.com