Kolibri 출시: 주권형 오픈웨이트 모델

4 hours ago 2

Aleph Alpha가 영어와 독일어를 지원하는 Kolibri의 전체 가중치를 Apache 2.0으로 공개함. 총 780억 개 중 약 30억 개 파라미터를 활성화하는 MoE Transformer로, 최대 100만 토큰 문맥을 지원함 공공행정, 산업, 항공우주처럼 규제가 적용되는 핵심 업무를 겨냥하며, 온프레미스 배포와 개발 공급망 통제를 통해 내부 데이터를 외부 추론 서비스에 보내지 않고 사용할 수 있도록 설계함 자체 평가에서 영어와 독일어 모두 품질 대비 서빙 비용의 파레토 전선에 위치하며, 수학, 코딩, 문서 근거 활용, 긴 문맥 작업에서 활성 파라미터가 최대 4배인 모델과 대등한 성능을 보임 Merlin-Arthur 학습으로 문맥에 근거가 없을 때 답변을 유보하도록 훈련함. 고객 데이터를 학습하지 않고도 산업별 합성 환경과 평가를 통해 에이전트 RAG 및 업무별 성능을 개선함 코드로 관리하는 Model Factory를 통해 이전 모델의 사전학습 완료 후 3개월 만에 모델 규모와 학습량을 확대함 공개 범위와 주권형 배포 Kolibri는 독일 통일의 날인 2026년 10월 3일 공개됐으며, 전체 가중치를 Hugging Face에서 Apache 2.0 조건으로 내려받을 수 있음 독일어, 추론, 수학, 에이전트 동작과 고객의 프로덕션 요구에 특화해 공공행정, 산업, 항공우주 분야의 핵심 업무를 목표로 함 산업별 언어, 규제, 절차를 고려하며, 업무 맥락에 맞는 성능과 경제적 영향을 측정해 투자수익률을 관리하는 데 초점을 맞춤 온프레미스에서 효율적으로 실행해 내부 데이터를 제3자 추론 서비스에 보내지 않을 수 있음 주권은 모델을 만드는 과정과 고객에게 통제권을 넘기는 방식을 함께 포함함 데이터 수집부터 사전학습, 후속학습, 최종 평가까지 공급망 무결성과 의사결정 추적을 제공함 독일에서 개발하고 독일과 핀란드의 인프라에서 학습했으며, 유럽과 독일 법률 아래 외국의 통제 없이 전체 파이프라인을 소유함 고객의 배포 자유와 지식재산권 안전성을 지원하며, 추론 노력 조절로 비용과 지연시간을 답변 품질과 절충할 수 있음 EU AI Act, GDPR, General-Purpose AI Code of Practice와 저작권법을 고려해 설계함 가중치와 학습 데이터 큐레이션의 투명성, 추론 과정을 통한 설명 가능성, 문서 근거에 따른 답변 유보를 강조함 전체 기술 세부사항은 기술 보고서에서 확인할 수 있음 성능과 서빙 비용의 절충...

Read Entire Article