Anthropic, AI가 AI를 개발하는 내부 현황과 감독 지표 공개

모델의 성능뿐 아니라 AI가 연구개발을 얼마나 맡고, 그 행동을 어떻게 감독하며, 컴퓨팅 자원을 어디에 쓰는지 측정해 개발 과정을 외부에 공개함 2026년 8월 내부 평가에서 Claude는 AI 연구개발 업무의 26%를 주도하고 90% 이상에서 협업 이상의 역할을 맡았지만, 완전 자율 단계에 이른 업무는 없었음 가장 많이 쓰는 내부 플랫폼에서는 약 3만 개 에이전트가 동시에 활동하며, 모든 행동을 실행 전후로 감시함. 다만 감시 범위가 곧 모든 위험의 탐지를 뜻하지는 않음 조사한 일주일 동안 AI 연구개발 컴퓨팅의 약 6%가 안전 작업에 쓰였으며, 안전장치용 분류기는 제외한 수치로 전체 안전 노력의 비중과는 다름 연구소 간 비교를 위한 공통 측정 기준과 독립 검증을 제안하고, 외부 평가자에게 내부 위험 평가팀에 준하는 접근 권한을 부여할 계획임 개발 속도를 측정하는 이유와 공개 계획 AI는 점점 더 강력해지고 자기 자신을 만드는 과정의 자동화도 확대하고 있음. 프런티어 AI 개발 속도 조절을 논의하려면 연구소 내부에서 일어나는 일에 대한 공개 정보가 더 필요함 이번 지표는 모델이 무엇을 할 수 있는지가 아니라 어떻게 만들어지는지를 측정함 컴퓨팅 같은 투입 요소와 모델 역량 같은 산출물의 관계를 파악하고, 역량 평가를 보완하는 데 목적이 있음 역량 평가와 AI R&D 가속 효과에 관한 증거는 Responsible Scaling Policy의 위험 보고서에서 별도로 공개함 Advanced AI Framework(AAIF)는 안전한 모델 출시를 위한 규칙과 정부가 요구할 수 있는 위험 보고서 등의 투명성 의무를 제안함 공개한 수치는 현재 상태의 단면이며, Dario Amodei가 제안한 개발 속도 조절에 대한 공조가 이뤄지면 달라질 것으로 예상함 여러 기관의 독립적인 외부 평가자를 Anthropic에 배치할 계획임 내부 위험 평가팀과 유사한 수준으로 내부 절차, 시스템, 데이터에 접근하도록 할 예정임 안전 관행 검증, 사고 보고, 핵심 지표 모니터링을 맡게 됨 AI 주도 R&D의 자동화 수준 AI를 활용한 모델 개발은 민주주의 국가의 연구소가 더 강력한 모델을 빠르게 만들고 출시 전 안전 작업과 테스트를 더 많이 수행하도록 돕지만, 자기 개발의 가속은 인간의 이해와 통제를 어렵게 만들 수 있음 Anthropic R&D Automation Index는 회사의 AI R&D 업무를 목록화하고 ...