엔비디아, AMD, 인텔... GPU·NPU 시장의 대적자들

[PC사랑 5월 커버스토리] 컴퓨팅 패러다임 바꾼 GPU의 모든 것

AI 시대 연산 주도권 전쟁과 글로벌 반도체 삼국지

NVIDIA, AI 인프라의 황제에서 생태계 제국으로

AMD, 성능 혁신과 개방 생태계의 전략적 균형

Intel, 구조 재편과 반격의 이정표

GPU와 NPU가 이끄는 차세대 연산 플랫폼의 미래

[디지털포스트(PC사랑)=박우용 편집위원]

<편집자 주> 인공지능(AI)이 산업 전반을 뒤흔드는 핵심 기술로 떠오르면서, 이를 뒷받침할 연산 플랫폼에 대한 관심도 급속도로 높아지고 있다. 특히 대규모 병렬 처리를 수행하는 GPU와 신경망 연산에 특화된 NPU 간의 경쟁·협업 구도는 AI 하드웨어 생태계의 주도권을 놓고 치열하게 전개되고 있다.

이러한 경쟁 구도는 단순히 연산 성능이나 트랜지스터 집적도에 국한되지 않으며, 하드웨어와 소프트웨어를 통합해 효율적으로 AI를 실행할 수 있는 전체 생태계 구축 역량이 핵심 요소로 부상중이다.

실제로 엔비디아(NVIDIA)는 압도적인 GPU 점유율과 CUDA 중심의 AI 소프트웨어 스택을 기반으로 하드웨어부터 클라우드 서비스까지 수직 계열화한 'AI 인프라 제국'을 구축하고 있으며, AMD는 고성능 칩렛 설계와 오픈소스 생태계(ROCm) 확장을 통해 시장 점유율을 빠르게 늘리는 데 주력하고 있다. 인텔 역시 x86 CPU와 FPGA, NPU 기술을 결합한 IDM 2.0 전략을 바탕으로 신속한 구조 재편에 나섰고, Gaudi 시리즈 등을 앞세워 AI 가속기 시장에 재도전을 시도하고 있다.

결국 GPU와 NPU가 이끄는 AI 연산 경쟁은 서버·데이터센터부터 모바일·엣지 환경에 이르기까지 전 방위로 확산되고 있으며, 플랫폼 장악력 확보를 위한 반도체 업체 간의 전략적 행보가 가속화되는 추세다. 이러한 시장 흐름과 주요 업체들의 기술·생태계 전략을 살펴봄으로써, 차세대 AI 연산 플랫폼이 어떤 방향으로 진화하고 있는지 종합적으로 분석해 본다.

NVIDIA는 현재 외장 GPU 시장에서 75~90%에 이르는 압도적인 점유율을 확보하고 있으며, 이는 곧 AI 가속기 시장에서도 확고한 지배력으로 이어진다. H100, A100, RTX 시리즈 등 고성능 GPU는 AI 훈련과 추론, 생성형 AI 모델 실행에 있어 사실상의 표준으로 자리 잡았고, 최근 발표된 Blackwell 아키텍처 기반의 B100 시리즈는 연산 능력과 메모리 대역폭을 획기적으로 향상시켜 AI 슈퍼컴퓨팅의 새로운 기준을 제시할 것으로 기대된다.

특히 NVIDIA의 강점은 하드웨어에만 국한되지 않는다. CUDA 플랫폼을 중심으로 형성된 소프트웨어 생태계와 TensorRT, cuDNN, DeepStream 같은 AI 최적화 툴체인을 통해 개발자와 기업이 모두 편리하게 활용할 수 있는 생태계 허브를 구축하고 있다. 또한 Grace Hopper 슈퍼칩, DGX GH200 시스템, NVIDIA AI Enterprise 패키지, 그리고 최근 공개된 AI Foundry 서비스(NVIDIA NIM)까지 선보이며, 단순 GPU 제조사를 넘어 AI 수직 통합 인프라 기업으로서의 위상을 공고히 하고 있다.

현재 GPU 분야에서 NVIDIA가 사실상 독점적 지위를 확보함으로써, NPU와 같은 신경망 전용 가속기나 기타 AI 특화 하드웨어는 아직 대규모 서버·데이터센터 시장에서 NVIDIA GPU 중심의 에코시스템을 상대하기 어려운 상황에 놓여 있다. 상당수 기업과 연구기관은 CUDA 기반 소프트웨어 스택에 맞춰 워크로드를 최적화하고 있어, NPU나 AI 가속기의 확산에는 진입장벽이 존재한다.

다만, 모바일·엣지 환경 등 저전력·고효율이 필요한 사용처에서는 NPU나 AI 가속기가 경쟁 우위를 확보하기도 하며, 칩셋 통합과 칩렛 구조 등을 통해 향후 GPU를 보완 또는 대체하려는 시도가 계속 이어지고 있다.

이와 함께 Omniverse, Isaac, Drive 등 디지털 트윈·자율주행·로보틱스 시뮬레이션 플랫폼으로 영역을 확장하고 있으며, 'GPU + ARM CPU + 고속 메모리 + 네트워크 인터커넥트'를 하나의 스택으로 통합해 AI 생태계 전체를 아우르는 전략을 펼치고 있다. 궁극적으로 'AI 인프라의 황제'에서 나아가 하드웨어와 소프트웨어를 모두 장악하는 'AI 제국'으로 거듭나고 있으며, 이러한 독보적 위치는 NPU를 포함한 다양한 AI 가속기의 발전 방향에도 직·간접적으로 영향을 미치고 있다.

AMD는 전통적으로 CPU와 GPU를 모두 설계하는 종합 반도체 기업이며, 최근에는 FPGA 및 AI 가속기 분야까지 사업 영역을 확장하며 다각화를 꾀하고 있다. 외장 GPU 시장에서는 Radeon 시리즈를 중심으로 15~20% 수준의 점유율을 확보하고 있고, CPU 시장에서는 Ryzen, EPYC 시리즈를 통해 각각 데스크톱 및 서버용 x86 CPU 점유율을 30%와 25% 전후까지 확대했으며, 일부 벤치마크 영역과 클라우드 고객군에서는 인텔을 앞지르는 사례도 증가하고 있다.

AMD의 이러한 상승세는 단순한 제품 경쟁력을 넘어, 전사적인 전략 전환의 결과로 해석된다. AMD는 TSMC의 최신 공정을 바탕으로 고효율·고성능 칩 설계를 구현하면서도, 칩렛 기반 설계로 유연성과 원가 경쟁력을 동시에 확보하고 있다.

특히 MI200, MI300 시리즈와 같은 고성능 GPU 기반 AI 가속기는 HBM 통합 구조 및 고효율 병렬처리 아키텍처를 통해 엔비디아에 실질적인 대항마로 떠오르고 있다. ROCm 생태계 역시 CUDA 의존성을 줄이려는 오픈소스 AI 개발자들의 요구에 부합하며, PyTorch, TensorFlow 등과의 호환성을 빠르게 높이고 있습니다.

Xilinx 인수 이후 AMD는 FPGA 기반 엣지 솔루션과 AI 커스터마이징 시장에도 본격 진입하고 있으며, Versal AI 시리즈 등은 네트워크, 산업용, 자율주행용 AI 처리에 적합한 성능과 유연성을 제공하고 있다. 또한 Ryzen AI 프로세서는 CPU, GPU, AI 엔진을 단일 SoC로 통합한 구조로, AI PC 및 모바일 환경에서의 AI 활용도를 대폭 향상시켜 준다. 이는 AMD가 클라우드뿐만 아니라 엣지까지 아우르는 통합 연산 플랫폼 전략을 본격화하고 있음을 의미한다.

앞으로 AMD는 고성능 컴퓨팅과 AI 연산의 융합을 주도하는 한편, AI 소프트웨어 호환성 확대, 파트너 생태계 강화, 새로운 애플리케이션 맞춤형 아키텍처 개발에 역점을 둘 것으로 보인다. 특히 서버·데이터센터 시장에서 인텔과의 격차를 빠르게 좁히고 있는 만큼, 지속적인 성능 혁신과 맞춤형 고객 대응 전략이 AMD의 성장 동력을 더욱 공고히 할 것으로 기대된다.

인텔은 x86 CPU 시장에서 오랫동안 절대 강자의 위치를 지켜왔지만, 최근 수년간 공정 전환 지연, ARM 아키텍처의 확산, AMD의 성능 개선에 따른 추격 등으로 인해 점유율 방어에 대한 전략적 압박을 받고 있다. 현재 데스크톱 및 노트북용 CPU 시장에서는 약 65~80%의 점유율을 유지하고 있으며, 여전히 시장 지배력을 확보하고 있는 상황이다. 그러나 이러한 지위를 유지하기 위해 인텔은 다양한 사업부 재편 및 신기술 중심 전략을 병행하고 있다.

GPU 시장에서는 Arc 브랜드의 A 시리즈를 중심으로 소비자용 외장 GPU 시장에 진입했지만, 초기 드라이버 안정성과 성능 최적화 부족 등의 문제로 시장 반응은 제한적이었다. 점유율은 5% 미만에 머무르고 있으나, Arc GPU 라인업을 꾸준히 개선하며 AI 추론 및 게이밍 분야에서 점진적인 성장 기반을 다지고 있다.

AI 전용 가속기 시장에서는 Habana Labs 인수를 통해 확보한 기술을 기반으로 Gaudi 2 및 Gaudi 3를 출시하며, AI 추론 중심의 데이터센터용 NPU 분야에서 재도전을 꾀하고 있다. 특히 Gaudi 3는 Meta와의 협업 사례를 통해 주목을 받았으며, TCO(총소유비용) 측면에서 엔비디아 GPU 대비 가격 경쟁력과 전력 효율성에서 장점을 가진다는 점에서 시장의 주목을 받고 있다.

주목할 부분은 최근 인텔이 고성능 FPGA 자회사인 Altera의 지분 51%를 사모펀드 실버레이크에 매각한 점이다. 이는 단순한 철수가 아닌 전략적 구조조정으로, IPO(상장)를 통한 시장가치 상승과 자본 유입을 동시에 노리는 선택이었다. 향후 Altera는 독립 브랜드로 운영되며, 인텔은 49%의 지분을 유지해 필요 시 지속적인 기술 협력을 이어갈 수 있도록 설계됐다. Agilex 시리즈 등 주요 FPGA 제품군은 인텔 내부의 칩 설계 검증 플랫폼, 고객 맞춤형 SoC 시제품 개발 등에 계속 활용되고 있다.

한편, 인텔은 IDM 2.0(Intel Design and Manufacturing) 전략을 통해 단순한 칩 공급자에서 벗어나, 자체 공정기술과 패키징 역량을 기반으로 파운드리 서비스 제공자로 전환하고 있다. Foveros(3D 스태킹)와 EMIB(다이 간 고속 인터커넥트) 같은 고급 패키징 기술은 CPU, GPU, NPU 등을 칩렛 형태로 통합해 다양한 요구에 맞는 고성능 SoC를 설계·생산할 수 있는 역량을 확보하게 해주며, 이는 경쟁사와의 차별화된 경쟁력을 제공하는 기반이 되고 있다.

GPU(그래픽 처리 장치)는 대규모 병렬 연산에 최적화된 범용 가속기로서, 원래는 3D 그래픽 렌더링을 위해 탄생했지만 현재는 AI, 과학연산, 시뮬레이션 등 다양한 분야에서 폭넓게 활용되고 있다. 특히 행렬 연산 기반인 딥러닝 알고리즘과 높은 궁합을 보여, AI 모델의 학습 및 추론을 위한 핵심적인 AI 가속기 역할을 수행하고 있다.

반면, NPU(신경망 처리 장치)는 신경망 연산 구조 자체에 초점을 맞춘 전용 AI 가속기로서, 낮은 전력 소모와 높은 연산 효율을 갖추고 있다. 대표적으로 스마트폰 SoC에 탑재되는 Apple Neural Engine, Samsung NPU, Qualcomm Hexagon 등이 있고, 서버 및 데이터센터 영역에서는 Google TPU, Graphcore IPU, Intel Gaudi 등이 활발히 활용되고 있다.

GPU와 NPU 중 어느 쪽이 '더 뛰어난가'를 단순 성능만으로 비교하기보다는, AI 워크로드 적합성과 에너지 효율 관점에서 살펴봐야 한다. 최근에는 GPU와 NPU를 하나의 칩 내에서 혼합하거나, 칩렛 형태로 모듈화해 함께 탑재하는 SoC 구조가 늘어나는 추세다.

이러한 변화에 대응해 Apple은 M 시리즈 칩에 Neural Engine을 탑재해 GPU와 NPU 간의 연산 효율을 높이고 있으며, Samsung은 Exynos 시리즈에서 전용 NPU 코어를 강화해 GPU와의 연동성 및 AI 활용도를 확장하고 있다. Qualcomm 역시 Hexagon 아키텍처를 기반으로 한 전용 NPU를 정교화하여 Adreno GPU와 결합함으로써 하이브리드 AI 성능을 강화하는 전략을 적극적으로 추진하고 있다.

이는 AI 연산에 대한 요구가 계속 증가함에 따라, AI 가속기 자원을 보다 세밀하게 분할·최적화하려는 흐름을 반영한다. 결국 AI를 위한 하드웨어는 점점 더 특화되고 분화된 형태로 진화하고 있으며, 이러한 구조적 융합을 통해 전력 효율과 성능을 동시에 높이는 방향으로 발전해 나가고 있다.

GPU와 NPU를 중심으로 한 연산 플랫폼의 진화는 이제 단순히 칩 설계 경쟁을 넘어, 전체 시스템 구조와 생태계 통합으로 급격히 확대되고 있다. 엔비디아는 AI 생태계 전체를 수직계열화하며 사실상 표준 플랫폼을 제공하고 있고, AMD는 고성능 SoC와 개방형 생태계를 통해 점유율을 빠르게 확대하고 있다. 인텔은 FPGA와 NPU, 칩렛 기술을 결합해 새로운 모듈형 설계 방식으로 후발주자로서의 반격을 준비 중이다.

결국 GPU와 NPU 시장의 패권은 단순한 FLOPS나 트랜지스터 수에 의해 결정되지 않는다. 아키텍처 설계 속도, 전력 효율, 시스템 통합 능력, 생태계 유연성이라는 복합 요소가 핵심이며, 모바일·엣지부터 데이터센터·슈퍼컴퓨팅까지 다양한 형태의 AI 가속기가 각자 영역에서 경쟁력을 갖춰 나가고 있다. NVIDIA가 보여준 'GPU 제국화' 전략이나, SoC·칩렛 통합을 기반으로 한 NPU의 특화 분야 강화 흐름 모두 이 복합 생태계에서 자신만의 포지션을 공고히 하려는 움직임이다.

특히 "누가 더 많은 칩을 만들었는가"가 아니라, "누가 더 빨리, 더 정확하게, 더 효율적으로 AI를 구동할 수 있는가"가 승부처인 시대다. 하드웨어와 소프트웨어를 수직적으로 통합해 AI 전 과정을 아우르는 플랫폼을 구축하거나, 저전력·고효율을 극대화해 다양한 업종에 적용할 수 있는 고도화된 AI 가속기 솔루션을 확보하는 기업이 최종 승자가 될 가능성이 크다.

따라서 앞으로의 AI 전쟁은 GPU와 NPU가 경쟁·보완하며 함께 진화하는 멀티 에코시스템 형태로 전개될 것이며, 이 경쟁 속에서 칩 제조사, 소프트웨어 개발자, 클라우드 서비스 기업 등이 모두 협력·경쟁하는 복합 구도가 심화될 것이다. AI 생태계는 이제 각 분야의 강점이 결합된 시스템 통합 능력을 요구하고 있으며, 결국 누가 가장 빠르고 유연하게 진화할 수 있는지가 향후 시장 지배력을 좌우할 것이다.