Geoffrey Hinton: AI가 없었더라면 더 나았을 수도 있다

Geoffrey Hinton은 AI가 풍요로운 미래를 열 가능성을 인정하면서도, 위험 관리에 실패하면 빈부 격차와 대량 실업으로 사회가 무너질 수 있으며 10년 이내에 그 향방을 알게 될 것으로 봄 2026년 말이나 2027년에 AI를 이용한 공격으로 전력 공급이나 금융 시스템이 일시적으로 마비되는 대규모 사고가 발생할 수 있다고 경고함 주요 AI 기업이 더 강력한 모델을 출시하며 경쟁하는 가운데, Hinton은 일부 경영진이 위험보다 돈을 우선한다고 비판하고 Sam Altman을 전혀 신뢰하지 않는다고 밝힘 모델 출시 전에 독립 기관에 이익이 피해보다 크다는 통계적 근거를 제출하도록 하는 FDA식 사전 심사와 국제 공통 안전 기준을 지지함 그럼에도 Hinton은 인류가 아직 통제권을 갖고 있다고 직감하며, 충분히 큰 노력을 기울이면 재앙을 피할 가능성이 있다고 봄 풍요와 사회 붕괴 사이의 갈림길 인공 신경망 연구로 AI의 토대를 닦은 노벨상 수상자 Geoffrey Hinton은 자신을 파멸론자로 여기지 않으며, AI가 멋진 미래를 만들 잠재력을 인정함 동시에 “애초에 개발하지 않았더라면 더 나았을 수도 있다”는 가능성도 열어둠 10년 이내, 어쩌면 그보다 일찍 인류가 AI 위험을 관리할 수 있는지 드러날 것으로 예상함 성공하면 급진적 풍요(radical abundance) 를 누릴 수 있음 실패하면 극심한 빈부 격차, 문화적 갈등, 대량 실업으로 사회가 찢어질 수 있다고 우려함 AI 기업 경영진과 개발 경쟁에 대한 불신 Hinton은 주요 AI 기업들이 주도권과 시장점유율을 놓고 경쟁하며 점점 더 강력한 모델을 출시하는 과정에서 감수하는 위험을 비판함 OpenAI 최고경영자 Sam Altman을 “전혀” 신뢰하지 않으며, Mark Zuckerberg와 Elon Musk, Altman이 위험을 이해하면서도 돈을 더 원한다고 봄 중국과 최강 AI 개발을 경쟁하는 소수의 미국 선도 기업 중 하나를 Altman이 이끄는 상황을 매우 우려함 Altman은 9월에 올바른 일을 해야 한다는 신념과 사안의 중대함 때문에 올바르게 행동할 것이며, 세계가 이를 신뢰해야 한다고 말함 Hinton은 AI 위험을 자유롭게 말하기 위해 2023년 Google을 퇴사함 당시 AI가 더 많은 통제권을 얻는 데 몰두하면 인류가 곤경에 처할 것이라고 경고함 전력과 금융 시스템을 마비시킬 수 있는 사고 Hinton은 2026년 여름 OpenA...