Dario에게 보내는 공개서한: 진심이라면 모델 가중치를 공개하라

프런티어 AI 개발 속도를 늦추기 위해, 기업이 대중에게 제공하는 모든 AI 모델의 가중치 공개를 법으로 의무화하자고 제안함 공개 의무는 대중에게 제공하는 모델에만 적용하며, 내부용 모델과 연구용 모델은 제외하고 정부의 미출시 모델 접근도 허용함 독점 가중치를 전제한 기업가치를 약화하면 향후 학습에 투입할 자금이 줄어, 모든 연구소의 개발 속도를 함께 늦출 수 있다고 봄 상주 외부 평가자, 연산량 기준 등의 규제는 규제 포획으로 이어지고, 대기업만 감당할 수 있는 준수 비용을 늘려 기존 기업의 지위와 이익을 보호한다고 비판함 Anthropic의 공익법인(PBC) 구조와 Dario의 과거 선택을 근거로, 단기 이익보다 사명을 우선하는 가중치 공개 의무화 법안을 직접 요구하라고 촉구함 대중에게 제공하는 모델의 가중치 공개 의무화 Dario는 We Must Pace the Frontier에서 Anthropic에 외부 평가자를 상주시킬 것을 약속하고, 정부가 다른 모든 프런티어 AI 기업에도 같은 의무를 부과하도록 요청함 Politico 보도에 따르면 Sam Altman은 몇 시간 안에 개발 속도를 조절해야 한다는 데 동의했고, OpenAI도 같은 평가자 도입을 약속함 공개서한은 이 대신 대중에게 제공하는 모든 AI 모델의 가중치를 공개하는 법을 요구함 학습하는 모든 모델이 아니라 대중에게 제공하는 모델만 대상이며, 내부용 모델과 연구용 모델은 영향을 받지 않음 정부는 미출시 모델에 계속 접근할 수 있음 Anthropic은 Fable 출시 당일 가중치를 공개하고, OpenAI는 Astra에 같은 의무를 이행하며, 다른 기업도 예외 없이 따라야 함 제안은 가중치의 독점성에 의존하는 기업가치를 낮춰 개발 자금을 줄이려는 것임 프런티어 모델 개발 자금은 가중치가 독점적으로 유지된다는 전제의 기업가치에 의존함 그 전제를 바꾸면 향후 학습에 사용할 자금이 줄어, 규제 당국이 별도 판단을 내리지 않아도 모든 연구소의 개발 속도를 함께 늦출 수 있다고 봄 기존 규제로 개발 속도를 늦추려는 접근은 규제 포획을 피할 수 없다고 비판함 상주 평가자, 연산량 기준, 반독점법 적용 면제를 통한 업계 공조 모두 기술적 세부 사항을 이해하는 기존 프런티어 연구소의 도움으로 규칙을 만들게 됨 법제화 이후에는 사건이 발생할 때마다 규칙이 추가되고 기존 규칙은 없어지지 않아 복잡성이 커짐 대기업은 규제 준수 조직과 법률가를 감당할 수 있지만, 새 ...