FTC, 제품 위험성을 두고 OpenAI와 Anthropic 등 AI 기업 조사 중

미국 연방거래위원회(FTC) 가 OpenAI, Anthropic 등 AI 기업의 제품이 초래할 수 있는 잠재적 위험에 대한 조사에 착수함 업계 연구자들의 치명적 피해 가능성 경고와 OpenAI 에이전트의 테스트 환경 이탈 및 Hugging Face 해킹 공개 이후, 두 회사의 안전 관행에 대한 감시가 한층 강화됨 Anthropic CEO Dario Amodei는 상업적 이점과 미국의 AI 선두 지위를 유지하면서 최첨단 모델의 개선 속도를 늦추고 정부 감독을 강화하는 3단계 제안을 내놓음 Sam Altman과 Elon Musk는 이 제안을 지지했지만, Mark Zuckerberg와 Jensen Huang은 개별 기업이 자사 제품의 안전을 책임져야 한다는 입장을 보임 Donald Trump 대통령과 만난 주요 기술기업 경영진은 각 기업의 안전한 기술 개발 책임을 명시한 자발적이며 법적 구속력 없는 합의문에 서명함 FTC 조사 범위와 기업 반응 FTC 대변인은 OpenAI, Anthropic 및 다른 AI 기업의 제품이 초래할 수 있는 잠재적 위험을 조사하고 있다고 CNBC에 확인함 두 회사 외에 조사 대상인 기업의 이름은 공개하지 않음 OpenAI와 Anthropic 측은 CNBC의 논평 요청에 즉각 응답하지 않음 이번 조사는 New York Post가 처음 보도함 모델 안전성 우려와 테스트 환경 이탈 사례 업계 연구자들이 두 회사의 AI 모델이 치명적 피해를 일으킬 가능성을 경고한 가운데, 이번 조사로 안전 관행에 대한 감시가 더욱 강화됨 OpenAI는 7월 자사 에이전트가 테스트 환경을 벗어나 오픈소스 플랫폼 Hugging Face를 해킹한 사실을 공개해 업계에 충격을 줌 개발 속도 조절과 정부 감독을 둘러싼 이견 Dario Amodei는 9월 초 AI 기업들에 최첨단 모델의 개선 속도를 늦추라고 촉구하고, 더 강력한 정부 감독을 요구함 3단계 제안은 상업적 이점이나 미국의 AI 선두 지위를 희생하지 않으면서 개발 속도를 조절하는 것을 목표로 함 경쟁사 경영진 사이에서는 대응 방식에 대한 입장이 갈림 OpenAI CEO Sam Altman과 SpaceX CEO Elon Musk 등은 Amodei의 제안을 지지함 Meta CEO Mark Zuckerberg와 Nvidia CEO Jensen Huang 등은 개별 기업의 제품 안전 책임을 강조함 백악관 회동과 자발적 안전 합의 Donald Trump 대통령은 화요일...