플록, 고성능 판단 전용 AI 모델 공개...알리바바와 협력

탈중앙화 인공지능(AI) 전문 기업인 플록(Flock.io)에서 저비용 고성능 판단 전용 AI 모델을 지난 13일 공개했다. 디스/댓(THIS/THAT)으로 명명된 이번 모델은 큐엔(Qwan)3.5-2B에 기반한 개방형 모델로 알리바바 클라우드와 협력해 만들어졌다. 플록에서는 디스/댓 모델이 크기가 추정치 기준 0.04% 미만임에도 불구하고 챗지피티, 클로드 등 선도적인 대형 언어 모델(LLM)을 훌쩍 뛰어넘는 성능을 보였다고 밝혔다.

파단 전용 모델은 예/아니오처럼 가능한 답이 미리 정해진 질의를 처리하는 데 특화된 AI 모델이다. 챗지피티, 클로드 등과 같은 범용 LLM과 달리 사용자와 대화하지 않으며 자연스러운 글쓰기도 하지 않는다. 대신 여러개의 답 중 질의에 가장 적합한 답이 무엇인지 판단해 골라내는 데 최적화돼 있다. 대화와 글과 같은 문서화, 시각화가 없기 때문에 상대적으로 저렴하고 높은 성능을 제공한다는 설명이다.

디스/댓 모델은 플록의 실험 결과 지피티-5.6과 클로드 오퍼스 대비 4~5배 높은 성능을 보였다. 1710개의 복잡한 의사결정 작업에서도 87.8%의 성공률을 기록해 기존 벤치마크의 40.6%에서 큰 폭으로 향상됐다. 플록에서는 특화 모델이 높은 추론 효율성을 유지하면서도 특정 의사결정 작업에서 선도 LLM을 앞설 수 있음을 보여줬다고 설명했다.

지아하오 쑨 플록 최고경영자(CEO)는 “많은 핵심 기업 업무에서 개방형 텍스트 생성은 불필요한 비용이자 성능상의 병목”이라며 “로컬에서 실행되는 특화 모델이 데이터를 기기 내에 유지하면서도 속도, 정확도, 비용 효율성 면에서 거대 LLM을 능가할 수 있음을 입증했다”고 말했다.

한편 플록과 알리바바는 AI 모델 개발에 상호 협력하고 있다. 큐엔은 알리바바 클라우드가 개발한 오픈소스 LLM으로 지난해 6월 플록과 협력 관계를 체결했다. 양사는 지난해 한국 주요 대학들과 함께 큐엔 SKYT 해커톤을 주최하는 등 공동 개발자 프로그램을 진행하고 있다.

[김용영 엠블록 에디터]