국내 AI 스타트업 비드래프트, 구글 주최 챌린지 글로벌 1위

2 hours ago 1

국내 인공지능(AI) 딥테크 기업 비드래프트가 구글 젬마팀과 허깅페이스가 공동 주최한 ‘더 패스트 젬마 챌린지(The Fast Gemma Challenge)’에서 검증 기록 부문 글로벌 1위를 차지했다고 3일 밝혔다. 글로벌 무대에서 한국 스타트업의 기술력을 확고히 입증한 결과다.이번 경연은 동일한 환경에서 AI 모델의 추론 속도를 극대화하는 대회다. 참가자들은 구글의 멀티모달 모델 ‘gemma-4-E4B-it’와 엔비디아 A10G GPU를 활용해 소프트웨어 최적화만으로 성능을 향상시켜야 한다.이번 순위는 주최 측이 직접 비공개 테스트를 거쳐 속도와 품질을 확인한 ‘VERIFIED’ 기록만으로 산정됐다. 비드래프트의 자율 AI 에이전트 ‘vidraft-darwin’은 엄격한 검증을 거쳐 초당 510.58토큰(TPS)과 PPL 2.3929를 달성했다. 이는 원본 모델 대비 6배 이상 빠른 추론 속도이면서도 답변의 품질을 온전히 유지한 성능이다.이러한 성과는 AI 서비스의 핵심 과제인 비용 효율성과 직결된다. 추론 속도를 6배 높였다는 것은 동일한 서비스를 6분의 1 수준의 인프라로 제공할 수 있음을 뜻하기 때문이다. 이번 성과에는 비드래프트의 VK 추론 엔진과 온디바이스 플랫폼 ‘POCKET’의 최적화 기술이 뒷받침됐다.김민식 비드래프트 대표는 동일한 하드웨어 환경에서 빠르고 경제적인 서비스를 제공하는 것이 향후 AI 경쟁력의 핵심이라고 강조하며, 자사의 기술이 국제 무대에서 객관적으로 검증받은 것에 의미를 부여했다.한편 비드래프트는 파운데이션 모델 ‘AETHER’ 등 AI 인프라 및 모델 개발을 아우르는 딥테크 기업이다. 최근에는 추가 학습 없이 LLM 추론 성능을 높이는 ‘Darwin Family(모델 병합 AI 프레임워크)’와 환각을 줄이는 런타임 미들웨어 ‘MARL’을 공개하며 기술 성과를 알렸다. 윤우열 기자 cloudancer@donga.com© dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지 좋아요 0개 슬퍼요 0개 화나요 0개 지금 뜨는 뉴스

Read Entire Article