SKT·ARM·리벨리온, AI 서버 동맹

SK텔레콤과 리벨리온이 영국 반도체 설계기업 ARM과 인공지능(AI) 데이터센터 사업 협력에 나선다. 저전력·고효율·저비용 구조를 구축해 AI 데이터센터 경쟁력을 강화하기 위해서다.

SK텔레콤은 ARM, 리벨리온과 차세대 AI 인프라 혁신을 위한 업무협약(MOU)을 체결했다고 9일 밝혔다. 3사는 중앙처리장치(CPU)와 신경망처리장치(NPU)를 결합한 AI 추론 서버를 공동 개발하고 이를 SK텔레콤의 AI 데이터센터에 적용할 계획이다.

이번 협력의 배경은 AI 산업의 중심축이 모델 학습에서 실제 서비스 제공 단계인 추론으로 이동하는 흐름에 있다. AI 추론은 학습과 달리 상대적으로 가벼운 연산을 빠르고 반복적으로 처리하는 작업이다. 전력 효율과 비용 경쟁력이 중요하다. 높은 성능의 기존 그래픽처리장치(GPU)는 학습에는 유리하지만 전력 소모와 비용 부담이 커 추론 영역에서는 경쟁력이 떨어진다.

SK텔레콤은 이에 따라 ARM의 ‘AGI CPU’와 리벨리온이 올 3분기 출시하는 ‘리벨카드 NPU’를 동시에 서버에 탑재하기로 했다. CPU가 데이터 입출력과 시스템 제어를 담당하고, NPU가 AI 추론 연산을 전담하는 구조다. 전력 효율을 높이고 운영 비용을 낮출 수 있는 이 같은 구조가 대규모 AI 서비스를 운영하는 데이터센터에 적합하다는 게 SK텔레콤의 설명이다.

SK텔레콤은 두 칩이 적용된 서버를 자사 AI 데이터센터에 적용해 실증할 계획이다. 또 SK텔레콤이 자체 개발한 AI 파운데이션 모델 에이닷엑스 케이원(A.X K1)에도 활용하는 방안을 검토 중이다. 오진욱 리벨리온 최고기술책임자(CTO)는 “AI 특화 인프라 구축을 위해 각 분야 전문 업체가 ‘원팀’으로 뭉쳤다”며 “업계에서 매우 유의미한 선례”라고 강조했다.

라현진 기자 raraland@hankyung.com