[전문가 기고] AI 데이터센터 네트워킹 패권이 이더넷으로 향하는 이유는 '경제성'

생성형 AI 모델 생태계의 폭발적인 성장은 AI 인프라 규모를 전례 없는 수준으로 끌어 올리고 있다. 이로 인해 AI 데이터센터 총소유비용(TCO)을 어떻게 낮출 것인가에 대한 논의가 본격화되고 있다. 2025년 논의의 주제는 백엔드 네트워크다.

불과 몇년 전만 해도 AI 인프라 네트워크 분야는 80%에 가까운 점유율을 보이며 인피니밴드가 주도했다. 그러던 것이 2025년을 기점으로 시장의 주도권이 이더넷 진영으로 넘어왔다. 시장 조사기관들의 전망을 종합해 보면 두 기술의 격차는 빠르게 벌어져 2027년 이후에는 시장 80% 이상을 이더넷이 점유할 전망이다.

이 흐름에서 주목할 것은 이더넷이 인피니밴드 시장을 뺏는 것이 아니라 차세대 AI 데이터센터라는 거대한 신규 시장을 이더넷이 개척하고 있다는 것이다. 실제로 유명 시장 조사기관들이 이더넷 미래를 낙관하는 이유는 매년 조 단위 투자를 이어가고 있는 AI 인프라 시장의 큰 손인 하이퍼스케일러들이 이더넷을 선택하기 때문이다.

메타, 구글, 아마존, 마이크로소프트 같은 하이퍼스케일러들이 이 흐름에 동참하고 있고 한국에서도 대기업, 빅테크, SI 기업들이 이더넷으로 차세대 AI 인프라를 구축 중이거나 검토하고 있다.

선도 기업들이 이더넷의 손을 들어준 이유는 무엇일까. 400G/800G급 고속 이더넷과 RoCEv2 기술로 인피니밴드에 필적하는 성능을 발휘하면서 큰 폭으로 비용을 낮출 수 있기 때문이다. 실제로 이더넷은 초기 도입부터 운영과 확장에 이르기까지 큰 폭의 TCO 절감 효과를 제공한다. 대원씨티에스가 아리스타와 함께 시뮬레이션을 해본 결과 구성 방식에 따라 인피니밴드 대비 40~85%의 비용 절감이 가능하다.

다른 비교 평가 자료에서도 비슷한 절감 효과를 확인할 수 있다. 피버 옵틱 솔루션 전문 기업인 비텍스(Vitex)가 공개한 내용에 따르면 인피니밴드보다 이더넷이 51% 정도 비용이 낮다. 보고서는 이렇게 절감한 비용으로 64개 NVIDIA H100 GPU를 추가로 구매할 수 있어 네트워킹 부문 TCO 절감이 AI 컴퓨팅 파워 증대로 이어질 수 있다는 점을 강조한다.

이러한 구축 비용 절감 효과는 운영 단계까지 이어진다. 이더넷은 오랜 기간 엔터프라이즈 네트워킹을 위해 활용돼 검증된 도구도 많고 전문 인력 풀도 잘 갖추어져 있다. 따라서 인피니밴드와 달리 전문 기술 인력이 필요하지 않고 전용 도구로 별도 관리 체계를 마련하지 않아도 된다. 장비 유지보수와 확장도 용이하다 보니 운영 과정에서도 인피니밴드이 비해 TCO 절감 폭이 크다. 주니퍼 네트웍스가 3년 간 TCO를 비교한 결과에 따르면 이더넷은 인피니밴드 대비 55% TCO가 낮은데 이 결과는 초기 도입(CapEx) 시 거둔 55% 비용 절감과 3년 간 운영 과정(OpEx)에서 거둔 56%의 절감액을 합산한 것이다.

이더넷이 보여준 경제성 격차는 앞으로 성능 경쟁에서도 일어날 가능성이 높다. 이더넷을 중심으로 한 기술과 산업 생태계는 AI 시대의 차세대 네트워크의 표준을 그리고 있다. 이미 1.6Tbps, 3.2Tbps 이더넷에 대한 논의가 시작돼 곧 다가올 폭발적인 AI 워크로드 관련 트래픽 증가에 대비하고 있다. 더불어 UEC(Ultra Ethernet Consortium)도 차세대 기술 표준 개발에 속도를 높이고 있다. 경제성에 성능 격차까지 갖춘다면 AI 시대 이더넷 위상은 인터넷 시대를 뛰어 넘는 수준이 될 것이다.

김영한 대원씨티에스 이사·AI 네트워킹 컨설턴트 younghan.kim@computer.co.kr

김현민 기자 minkim@etnews.com