SKT, 'CPU+NPU' AI 서버 설루션 개발…데이터센터 경쟁력 강화

이슈의 전략적 배경: GPU 의존성 탈피와 추론 시장의 개화
글로벌 인공지능(AI) 산업의 패러다임이 거대언어모델(LLM)의 '학습' 단계에서 실질적인 서비스 제공을 위한 '추론' 단계로 급격히 전환됨에 따라, 데이터센터 운영 효율성은 기업의 생존을 결정짓는 핵심 지표가 되었습니다. 현재 시장을 독점하고 있는 엔비디아 중심의 GPU(그래픽처리장치) 생태계는 막대한 도입 비용과 천문학적인 전력 소모라는 치명적인 한계를 노출하고 있습니다. 이러한 상황에서 SK텔레콤(SKT)이 글로벌 설계 자산(IP) 기업인 Arm, 국내 대표 AI 반도체 스타트업 리벨리온과 손잡고 'CPU+NPU' 결합형 AI 서버 설루션 개발에 나선 것은 인프라 주도권을 확보하기 위한 고도의 전략적 선택으로 판단됩니다.
과거 데이터센터가 범용 연산에 집중했다면, AI 데이터센터(AIDC)는 특정 연산에 최적화된 하드웨어 구조를 요구합니다. 특히 추론 연산은 학습에 비해 단순 반복 계산의 비중이 높기 때문에, 고가의 범용 GPU보다는 전력 효율이 극대화된 NPU(신경망처리장치)가 훨씬 경제적입니다. SKT는 자사의 서비스 역량과 Arm의 저전력 아키텍처, 리벨리온의 하이엔드 NPU 기술을 수직 계열화함으로써, 하드웨어와 소프트웨어가 완벽히 결합된 '풀스택 AI 인프라'를 구축하려는 의도로 분석됩니다.

 

 

기술적 핵심 요소: Arm Neoverse와 리벨카드의 시너지
이번 협력의 기술적 실체는 Arm의 차세대 데이터센터용 CPU인 'Neoverse V2'와 리벨리온이 올해 3분기 출시 예정인 차세대 NPU '리벨카드(RebelCard)'의 통합에 있습니다. Arm의 Neoverse 플랫폼은 이미 글로벌 클라우드 기업(CSP)들이 자체 칩을 설계할 때 표준처럼 사용하는 고효율 아키텍처입니다. 여기에 리벨리온의 리벨카드가 결합되면, CPU는 데이터 전처리 및 시스템 제어를 담당하고 NPU는 AI 추론 연산을 전담하는 이상적인 분업 구조가 완성됩니다.
이는 단순한 부품의 조합을 넘어섭니다. 기존 GPU 서버 대비 전력 소비량을 대폭 낮추면서도 추론 성능은 극대화할 수 있는 설루션이기 때문입니다. 특히 리벨카드는 Llama 3와 같은 최신 LLM 추론에 최적화된 설계를 갖추고 있어, SKT가 추진 중인 '텔코 LLM' 및 자사 파운데이션 모델 운영에 직접적인 성능 향상을 가져올 것으로 예상됩니다. 결과적으로 운영 비용(OPEX)의 핵심인 전력비와 냉각비를 획기적으로 절감하는 기술적 토대를 마련한 것으로 평가됩니다.

 

 

현재까지의 진행 상황 및 실증 전략
SKT는 이번 파트너십을 통해 개발된 'CPU+NPU' 서버 설루션을 자사 AIDC에 우선 적용하여 성능과 안정성을 검증할 계획입니다. 이는 단순한 기술 개발에 그치지 않고, 실제 상용 데이터센터 환경에서 트래픽을 처리하며 레퍼런스를 확보하겠다는 실리적 접근입니다. SKT는 이미 스마트 글로벌 홀딩스(SGH)에 2억 달러를 투자하며 대규모 GPU 클러스터 설계 능력을 확보한 상태이며, 이번 NPU 설루션은 이를 보완하는 '고효율 추론 라인업'으로 자리 잡게 됩니다.
리벨리온은 올해 하반기 리벨카드의 양산과 함께 SKT와의 실증을 통해 글로벌 시장 진출을 위한 교두보를 마련하게 됩니다. Arm 역시 한국의 선도적인 통신사 및 팹리스와의 협력을 통해 자사 에코시스템이 AI 서버 시장에서도 엔비디아의 대안으로 충분히 기능할 수 있음을 증명하는 기회로 삼고 있습니다. 세 회사의 이해관계가 '저전력 고성능 AI 인프라'라는 지점에서 완벽하게 일치하며 프로젝트 속도가 탄력을 받는 형국입니다.

향후 시장 및 업계 변화: AIDC의 경제적 패러다임 전환
이번 설루션 개발은 향후 글로벌 AIDC 시장의 경쟁 구도를 근본적으로 뒤흔들 변곡점이 될 것으로 분석됩니다. 첫째, '비용 효율성'이 데이터센터 경쟁력의 핵심이 됩니다. 엔비디아 GPU 기반의 서버 구축 비용 대비 훨씬 저렴한 비용으로 동일하거나 우수한 추론 성능을 제공할 수 있다면, 글로벌 기업들의 인프라 교체 수요는 가속화될 것입니다. 이는 SKT가 글로벌 시장에서 인프라 설루션 제공자로서 새로운 수익 모델을 창출할 수 있음을 시사합니다.
둘째, '소버린 AI(Sovereign AI)' 인프라 구축의 가속화입니다. 국가별로 데이터 주권을 지키기 위해 독자적인 AI 인프라를 구축하려는 움직임이 거센 가운데, 특정 외산 GPU에 의존하지 않는 독립적인 서버 아키텍처는 국가 전략 자산으로서의 가치를 지닙니다. SKT가 개발하는 설루션은 이러한 수요에 대응할 수 있는 가장 강력한 카드 중 하나가 될 것으로 판단됩니다.

 

 

전략적 제언: 글로벌 AI 인프라 리더십 확보를 위한 과제
결론적으로 SKT의 'CPU+NPU' 서버 설루션 개발은 기술적 우위 확보를 넘어, AI 가치 사슬의 상단에 위치한 하드웨어 컨트롤 타워로 도약하려는 의지의 표현입니다. 다만, 이러한 시도가 시장의 실질적인 표준으로 자리 잡기 위해서는 하드웨어 성능 못지않게 이를 뒷받침하는 소프트웨어 스택(SDK, 컴파일러 등)의 최적화가 필수적입니다. 개발자들이 엔비디아의 CUDA 환경에서 벗어나 리벨리온과 Arm 기반의 환경으로 손쉽게 이전할 수 있는 생태계를 구축하는 것이 향후 성공의 관건이 될 것입니다.
또한, 글로벌 CSP들과의 경쟁에서 우위를 점하기 위해 이번 설루션을 패키징하여 수출하는 'AIDC as a Service' 전략을 더욱 정교화해야 합니다. 하드웨어 판매를 넘어 인프라 운영 노하우와 AI 모델 최적화 기술을 통합 제공하는 토털 설루션 기업으로의 진화가 요구되는 시점입니다. SKT가 이번 협력을 통해 글로벌 AI 인프라 전쟁의 게임 체인저로 등극할 수 있을지 업계의 이목이 집중되고 있습니다.
% 본 포스팅은 AI를 활용하여 제작된 정보성 요약 글입니다.