“이러다 다 죽는다”…AI 위험 경고하더니 오픈AI재단 이사된 미 정부 인사

국제 > 글로벌 사회 “이러다 다 죽는다”…AI 위험 경고하더니 오픈AI재단 이사된 미 정부 인사 인공지능(AI)의 위험성을 경고해온 미국 정부 고위 인사가 오픈AI 지배권을 지닌 비영리 단체 ‘오픈AI 재단’ 이사로 임명됐다. [연합뉴스] 인공지능(AI)의 위험성을 경고해온 미국 정부 고위 인사가 오픈AI 지배권을 지닌 비영리 단체 ‘오픈AI 재단’ 이사로 임명됐다.오픈AI는 미 상무부 산하 AI 표준혁신센터에서 모델 안전성 테스트를 담당해온 폴 크리스티아노를 오픈AI 재단 이사로 임명한다고 9일(현지시간) 발표했다.지난해 오픈AI는 공익법인 오픈AI PBC와 지배주주인 오픈AI 재단으로 지배구조가 변경됐다. PBC 지분 26%를 소유한 오픈AI 재단은 PBC 이사 임명권을 가진다.크리스티아노는 이날 엑스(X·옛 트위터) 게시글에서 자신의 오픈AI 합류를 발표하며 AI 위험성에 대해 다시 경고했다.그는 “더 강력한 안전장치 없이 초지능을 개발한다면 우리는 영구적으로 통제력을 잃게 될 것”이라며 “그런 일이 발생하면 대부분의 사람이 죽을 수 있다. 전 세계적인 일관성을 확보하고 위험을 허용 가능한 수준으로 줄이기 위해서는 국내외적인 협력이 필요하다고 생각한다”고 말했다.그는 또 “AI 기술의 급속한 발전이 머지않아 치명적이고 돌이킬 수 없는 통제력 상실로 이어질 수 있다고 생각한다”면서 “오픈AI를 포함한 AI 업계 전반이 현재 이런 위험을 허용 가능한 수준으로 줄일 수 있는 방향으로 나아가고 있다고 생각하지 않는다. 오픈AI가 이 문제에 제대로 대처한다면 위험을 크게 줄일 수 있다고 믿기 때문에 합류하게 됐다”고 설명했다.오픈AI는 크리스티아노가 AI 표준혁신센터 수석 기술 고문직은 유지하지만, 오픈AI와 관련한 모든 사안, 특히 모델 평가에서 스스로 물러날 것이라고 밝혔다. 이 기사의 배경지식, 한눈에 이해하는 해설판으로 이동 핵심요약 쏙AI 요약은 OpenAI의 최신 기술을 활용해 핵심 내용을 빠르고 정확하게 제공합니다. 전체 맥락을 이해하려면 기사 본문을 함께 확인하는 것이 좋습니다 미국 정부 고위 인사가 오픈AI 재단 이사로 임명되면서 AI의 위험성에 대한 경고를 다시 강조했다. 폴 크리스티아노는 강력한 안전장치 없이 초지능을 개발하면 통제력을 잃을 수 있다고 경고하며 국내외 협력의 필요성을 언급했다. 오픈AI는 크리스티아노가 AI 표준혁신센터의 고문직은 유지하지만, 오픈AI 관련 사안에서 스스로...