SK텔레콤이 글로벌 반도체 설계 기업 Arm, 국내 AI 반도체 스타트업 리벨리온과 함께 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결했다. 이번 협력은 AI 산업의 중심축이 모델 학습에서 실제 서비스 제공을 위한 '추론'으로 이동함에 따라, 저전력·고효율 인프라를 선제적으로 확보하기 위해 추진됐다.

3사는 Arm이 새롭게 출시한 'Arm AGI CPU'와 리벨리온이 올해 3분기 출시 예정인 NPU(신경망처리장치) '리벨카드(RebelCard™)'를 결합한 서버 설루션을 공동 개발한다. 해당 설루션은 데이터 입출력과 시스템 운영을 담당하는 CPU와 AI 연산을 전담하는 NPU를 한 서버에 탑재하는 '이종 컴퓨팅(Heterogeneous Computing)' 구조를 채택해 성능과 전력 효율을 극대화한 것이 특징이다.

AI 추론은 학습과 달리 가벼운 연산을 반복적으로 처리하는 작업으로, 365일 상시 가동되는 특성상 전력 효율이 비용 경쟁력과 직결된다. 기존 GPU 기반 서버는 과도한 전력 소모와 높은 비용이 한계로 지적되어 왔으나, 이번에 개발되는 NPU 기반 설루션은 운영 비용을 획기적으로 절감할 수 있는 대안으로 꼽힌다.

SK텔레콤은 개발된 설루션을 자사 AI 데이터센터에 도입해 성능과 안정성을 검증할 계획이다. 특히 독자 개발한 AI 파운데이션 모델 '에이닷엑스 케이원(A.X K1)'을 해당 서버에서 운영하는 방안도 검토 중이다. 앞서 Arm과 리벨리온은 지난 3월 양사의 칩을 결합해 대규모 언어모델 기반의 에이전틱 AI 서비스를 실시간 시연하며 상용화 가능성을 입증한 바 있다.

SKT 이재신 AI 사업개발 담당은 "추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화해 나가겠다"고 밝혔다.

에디 라미레즈(Eddie Ramirez) Arm 클라우드 AI 사업부 GTM 부사장은 "AI 추론의 급속한 성장은 대규모 배포에 최적화된 새로운 데이터센터 인프라 수요를 촉진하고 있다"며, "SKT, 리벨리온과 같은 파트너는 Arm AGI CPU를 구축하고 AI 추론 인프라를 현대화하는 데 있어 중요한 역할을 하고 있다"고 전했다.

리벨리온 오진욱 CTO는 "리벨리온은 압도적인 성능과 전력 효율을 갖춘 ‘리벨카드’와 풀스택 소프트웨어 경쟁력을 바탕으로 차세대 AI 데이터센터를 지탱하는 핵심 축을 담당하게 됐다"며, "AI 특화 인프라 구축을 위해 각 분야 전문가들이 원팀으로 뭉친 이번 협력은 업계에서도 매우 유의미한 선례가 될 것으로 기대한다"고 강조했다.