크래프톤, 자체 개발 30B급 고효율 LLM 'Raon-1 mini' 프리뷰 공개

• 크래프톤이 모델 아키텍처 설계부터 사전학습까지 독자 개발한 30B급 오픈웨이트 LLM 'Raon-1 mini' 프리뷰를 공개. 한국어·영어 대화와 추론, AI 에이전트 작업에 초점을 맞춘 모델
• MoE(Mixture of Experts)와 자체 개발한 선형 어텐션 기술을 결합. 전체 약 300억 개 파라미터 중 추론 시 약 40억 개만 활성화해 연산량과 추론 비용을 줄이는 구조
• 자체 개발한 Raon Delta Attention(RDA) 기반 하이브리드 아키텍처를 적용하며, 최대 262K 토큰 컨텍스트를 지원
• 한국어 대화와 지시 이행 능력을 강점으로 제시. 공개된 자체 평가에서 IFBench 84.2점, AIME 2026 93.3점, SWE-Verified 70.8점을 기록했으며, 일부 지표에서 동급 MoE 모델보다 높은 성능을 보임
• Apache 2.0 라이선스로 Hugging Face에 모델 가중치를 공개해 연구 및 상업적 활용이 가능. Transformers, vLLM, llama.cpp, MLX 등을 통한 추론을 지원하며, 모델 파일 접근에는 신청 절차가 필요
• 현재는 프리뷰 단계로, 향후 성능을 개선한 정식 버전과 학습 과정 및 평가 결과를 담은 기술 보고서를 공개할 예정

모델: Hugging Face – KRAFTON/Raon-1-mini-preview