[단독]‘엔비디아 천하’ AI칩, 국산 상용화 첫발… “의존 낮출 선택지 기대”

1 week ago 10

‘추론’ 특화한 리벨리온 NPU SKT 4개 AI서비스 주요기능 맡아 하루 1400만건 이용자 요청 해결 칩 주권 경쟁속 해외의존도 줄여… “韓 독자 AI생태계 구축 가능성 높여” 8일 인공지능(AI) 반도체 기업 리벨리온의 서울 강서 데이터센터에서 한 관계자가 국산 AI 반도체(NPU) 기반 서버를 시연하고 있다. 신원건 기자 laputa@donga.com 국산 인공지능(AI) 반도체인 신경망처리장치(NPU)가 SK텔레콤의 4개 AI 서비스에서 주요 기능을 맡아 하루 40억 개 넘는 토큰(AI의 데이터 처리 단위)을 처리하고 있는 것으로 나타났다. 통화 요약부터 미끼 문자 탐지까지 하루 약 1400만 건의 이용자 요청을 소화하고 있다. 국산 칩이 AI 고객 서비스의 핵심 연산을 담당하면서 한국의 독자 AI 생태계 구축 가능성도 높아졌다는 평가가 나온다.● 상용화 첫발 뗀 ‘소버린 AI 칩’ 20일 SK텔레콤과 AI 반도체 스타트업 리벨리온에 따르면 리벨리온 NPU ‘아톰맥스’는 SK텔레콤 AI 에이전트 ‘에이닷’의 통화 요약·음성 합성, AI 고객센터, 스캠뱅가드 등 4개 서비스의 주요 연산에 사용되고 있다. 지난해 12월 에이닷 통화 요약에 처음 사용된 뒤 올 6, 7월 적용 대상을 넓혔다. NPU는 학습을 마친 AI가 이용자 질문에 답을 내놓는 ‘추론’에 특화한 칩이다. 학습과 추론에 두루 쓰이는 그래픽처리장치(GPU)와 비교할 때 알맞은 추론 작업에서는 전력과 비용을 아낄 수 있다. SK텔레콤이 서비스 특성에 맞춰 GPU와 NPU를 나눠 사용하는 이유다. 이 회사는 올 6월부터는 통화를 한 줄로 요약하고 AI 답변을 문장 단위로 읽어주는 기능에 아톰맥스를 적용했다. 이어 상담 내용을 정리·검색하는 AI 고객센터와 미끼 문자를 가려내는 스캠뱅가드에도 국산 칩을 투입했다. 국산 AI 칩 사용이 늘어나는 것은 외산 칩 의존도를 낮출 선택지가 생겼다는 뜻이기도 하다. 최근 첨단 AI 모델의 발전 속도를 줄이자는 ‘AI 감속론’을 제기한 다리오 아모데이 앤스로픽 최고경영자(CEO)는 중국에 대한 첨단 AI 칩 판매를 막아야 한다고도 요구했다. 이처럼 칩과 AI 모델 접근이 언제든 막힐 수 있다는 우려에 세계 각국은 감속론과 관계없이 AI 모델 개발과 데이터센터 등 인프라 조성에 박차를 가하고 있다. 유회준 KAIST 인공지능반도체대학원장은 “외산에 전적으로 의존하면 상대의 변화에 따라 전체 AI 생태계가 영향을 ...

Read Entire Article