AI 비용폭증 잡는다…스노우플레이크, ‘지출 효율화’ 전략 발표

딥시크 V4 플래시·GLM-5.3 등 고성능 오픈 모델 추가로 사용자 선택권 대폭 확충 데이터 거버넌스 유지 속 토큰 효율성 최대 3배 향상 실증 스노우플레이크가 ‘코텍스 AI 게이트웨이’에 작업 특성에 따라 최적의 알고리즘을 자동으로 연결하는 ‘다이나믹 모델 라우팅’ 기능을 도입했다. 이와 함께 최신 오픈소스 모델에 대한 접근성을 확장하며 연산 비용 절감과 자원 운용의 효율성을 동시에 잡겠다는 전략을 발표했다.최근 기업 현장에서는 생성형 AI와 에이전트 도입이 활발해지면서 운영비용 급증이 핵심 과제로 떠올랐다. 모든 업무에 최고 성능의 대형 언어 모델(LLM)을 적용할 경우 막대한 비용이 발생하는 반면, 직원이 상황마다 일일이 최적의 모델을 평가해 바꾸는 방식은 업무 부담을 가중시킨다. 스노우플레이크는 알고리즘 선택 과정을 자동화하여 이 같은 번거로움과 지출 부담을 대폭 낮췄다.새로 적용된 라우팅 기능은 작업의 난이도를 분석해 적절한 모델을 자동으로 배정한다. 단순 반복 작업이나 가벼운 질의는 연산 단가가 낮은 가성비 모델로 처리하고, 고차원적 추론이 요구되는 업무만 고성능 프론티어 모델로 보낸다. 이를 통해 개발자와 사용자는 개별 요청마다 일일이 모델을 변경할 필요 없이 최적의 비용 대비 성능을 누릴 수 있다. 해당 기능은 스노우플레이크 코코, 코워크 등 주요 AI 제품은 물론 게이트웨이를 이용하는 외부 에이전트 서비스에도 동일하게 적용된다.알고리즘 선택지 역시 대폭 확대됐다. 스노우플레이크는 ‘딥시크 V4 플래시 0731’과 ‘GLM-5.3’ 등 최신 오픈 모델을 플랫폼에 새롭게 내장했다. 앤트로픽, 오픈AI, 구글, 메타 등 기존 대형 거대언어모델 라인업에 더해 한층 다양해진 선택지를 제공한다. 기업은 기존의 보안 체계와 데이터 관리 규칙(거버넌스)을 안전하게 유지한 상태에서 원하는 성능과 가격대의 모델을 조합해 활용할 수 있다.비용 절감 효과도 실증됐다. 내부 가동 시험 결과, 자동 라우팅을 적용한 에이전트는 단일 프론티어 모델만 가동했을 때와 동일한 품질을 유지하면서도 데이터 파이프라인 구축 시 토큰 활용 효율을 최대 3배까지 끌어올렸다. 엔지니어링 작업에서도 처리 품질 저하 없이 토큰 효율을 25% 이상 개선했다.슈리다 라마스워미 스노우플레이크 최고경영자(CEO)는 기업들이 AI 활용 수치 자체보다 실제 사업적 가치 창출 여부에 주목하고 있다며, 복잡한 인프라 관리 부담을 줄이고 적재적소에 최적의 ...