대규모 언어 모델의 검증 가능한 추론 연구 진전

Anthropic이 모델 가중치를 공개하지 않고도 응답이 사전에 지정한 모델에서 나왔는지 검증하는 FlashProve를 공개함. zkSNARK 기반의 오픈소스 연구 프로토타입임 4비트 양자화한 4,000억 매개변수 MoE 모델 Llama 4 Maverick에서 단일 H100으로 초당 약 110토큰의 증명을 생성함. 정수 연산 기반 프리필 조건이며, GPU 시간은 vLLM 추론의 약 70~95배임 가중치 커밋먼트에 응답 증명을 연결해 모델 바꿔치기와 토큰 변조를 검증할 수 있음. 가중치와 중간 계산값, 선택된 전문가 네트워크는 숨기지만 모델 아키텍처는 숨기지 않음 Claude가 증명 시스템 최적화에 기여했으며, Lean 정형 검증으로 프로토콜의 보안 속성을 증명함. 다만 빠른 C++ 검증기에는 정형 보장이 없고, 구현과 프로토콜의 일치 여부는 별도 감사가 필요함 현재는 최대 1,024토큰 문맥과 정수 모델의 탐욕적 디코딩만 증명함. 일반적인 부동소수점 추론이나 샘플링 결과와 정확히 일치하지 않을 수 있으며, 사후 증명이므로 보장을 얻기까지 지연이 생김 검증 가능한 추론이 해결하려는 문제 현재 사용자는 응답만 보고 선택한 모델이 실제로 실행됐는지 확실히 확인할 수 없음 제3자 라우팅 서비스가 비용 절감을 위해 다른 모델로 바꾸거나, 공격자가 토큰 스트림을 조작해도 출력 품질만으로 판별하기 어려움 출시 전후 모델을 평가하는 독립 평가자 역시 평가 대상과 실제 서비스 모델이 같은지 확인할 필요가 있음 가중치가 비공개인 최첨단 모델은 직접 재실행하기 어렵고, 가중치가 공개돼 있어도 추론 재실행 비용이 일반 사용자나 평가자의 자원을 넘어설 수 있음 검증 가능한 추론(PI) 은 가중치를 모르는 사용자도 제한된 계산 자원으로 응답의 모델 출처를 검증하게 하는 것이 목표임 고객 신뢰뿐 아니라 독립 평가, 제공자의 약속과 법적 의무 이행 검증, AI 개발 속도 조절에도 활용할 수 있음 소프트웨어만 사용하는 zkSNARK는 증명자가 계산의 올바른 실행을 짧은 증명으로 입증하고, 검증자가 원래 계산보다 훨씬 적은 비용으로 확인하게 함 영지식 속성은 계산의 올바름에서 알 수 있는 정보 외에 추가 정보를 드러내지 않음 간결성 속성은 증명 검증이 원래 계산보다 지수적으로 빠르게 이뤄지도록 함 AI 신뢰 문제의 네 가지 활용 시나리오 개발 속도 조절: AI 규제와 개발 속도 조절 방안 중에는 하드웨어 사용을 감시하거나 훈련 대신 추론에 하...