Clef - 오픈소스 의사결정 모델과 새로운 RL 파인튜닝 플랫폼

Cloudflare가 Clef와 Clef-flash를 Workers AI에 출시하고 Apache 2.0 라이선스로 공개함. 자유로운 텍스트 생성 대신, 입력과 질문에 대해 타입이 정해진 답과 확률을 반환해 에이전트의 분류와 행동 결정을 지원함 이미지 입력과 64k 컨텍스트를 지원하며 Jev API와 완전히 호환됨. Clef는 정밀한 판단에, Clef-flash는 지연 시간에 민감한 결정에 적합하도록 구성됨 Qwen 기반의 비자기회귀 추론으로 유효한 스키마 선택지를 병렬 평가함. 중간 텍스트를 토큰 단위로 생성하지 않고 내부 표현에서 직접 답을 산출해 속도를 높임 Cloudflare의 43개 평가에서 지연 시간 중앙값은 Clef 209.3ms, Clef-flash 38.8ms로 Jev의 524.1ms보다 짧았음. 여러 품질 평가에서 앞섰지만 When2Call과 BRIGHT 등에서는 Jev가 더 높은 점수를 기록함 특정 업무에 맞춰 Clef를 학습하는 RL 파인튜닝 서비스도 시작함. 우선 전담 엔지니어팀이 고객과 직접 작업하고, 이후 데이터 수집부터 학습과 재배포까지 지원하는 셀프서비스 플랫폼을 구축할 계획임 의사결정 모델이 하는 일 의사결정 모델은 확률에 기반한 분류 결과를 반환해 에이전트가 다음 행동을 결정하도록 지원함 고객 지원 메시지를 입력하면 긴급 여부와 담당 팀을 타입이 정해진 답과 확률로 반환하며, 코드는 이를 이용해 티켓을 전달하거나 대응 단계를 높이거나 사람에게 판단을 넘길 수 있음 에이전트가 맥락 수집, 판단, 실행을 프로그램으로 수행하되 필요할 때 사람에게 위임하는 흐름을 구성할 수 있음 Typesafe AI의 Jev System One은 범위가 제한된 구조화 출력을 저렴하고 빠르게 일관되게 생성하는 의사결정 모델 개념을 도입함 새 분류 범주를 추가할 때마다 모델을 재학습하지 않고 다양한 입력에 적용할 수 있음 대체로 비결정적이면서 개방형 추론, 텍스트 생성, 도구 호출을 수행하는 일반 LLM과 역할이 다름 Clef라는 이름은 악보의 선과 칸에 음높이를 지정하는 음악의 음자리표에서 가져옴. 의사결정 모델도 맥락의 영역과 뒤따르는 행동을 규정하며, 이름의 CF는 Cloudflare를 가리킴 공개 범위와 입력/API 지원 Cloudflare는 Clef와 Clef-flash를 Workers AI에 제공하고, Clef와 Clef-flash의 가중치를 Apache 2.0 라이선스로 공개함 로컬에서 실행하...