노벨상 수상 ‘AI 대부’의 경고…“AI는 새끼 호랑이, 통제권 뺏길수도”

제프리 힌턴 토론토대 교수. 동아DB

인공지능(AI) 분야의 ‘대부’로 불리는 제프리 힌턴 캐나다 토론토대 명예교수가 AI 기술의 급속한 발전이 인류를 위협할 수 있다고 경고하고 나섰다. AI 관련 연구로 지난해 ‘노벨 물리학상’을 수상한 힌턴 교수는 AI의 위험성에 대해 여러 차례 공개적으로 경고해 왔다.

힌턴 교수는 26일(현지 시간) 미국 CBS방송과의 인터뷰에서 “현재 AI는 ‘굉장히 귀여운 새끼 호랑이’와 같다”며 “나중에 자라서 당신을 죽이지 않을 것이라는 걸 확신할 수 없다면, 걱정해야 한다”고 말했다. AI가 일상생활에 다양한 형태로 스며들고 있고, 사람들도 큰 관심을 가지고 있지만 안전을 확보하기 위한 투자가 부족한 실정을 지적한 것이다.

힌턴 교수는 AI가 통제 불능으로 발달해 인류의 미래를 위협할 가능성이 10~20%라고 진단했다. 그러면서 “사람들은 무엇이 다가오고 있는지 이해하지 못하고 있다”며 “(AI 빅테크 기업 등은) 위험성을 인지하고 있으면서도 안전보다 수익을 우선시하고 있다”고 지적했다. 한때 자신이 부사장까지 지냈던 구글에 대해서도 “AI 기술을 군사 용도로 활용하지 않겠다는 입장을 번복해 실망했다”고 밝혔다.

AI 안전성을 강화하기 위해서는 강력한 정부 규제가 필요하다고 강조했다. 그는 “(빅테크들이) AI 규제를 줄이기 위해 치열하게 로비하고 있다”며 “기업에 맡겨두는 것만으로는 부족하다”고 말했다. 이어 “각 기업이 보유한 연산 자원의 3분의 1을 안전성 연구에 투입해야 한다”고 제언했다.

특히 ‘딥러닝’ 관련 연구를 적극적으로 펼쳐온 힌턴 교수는 오픈AI, 구글, 메타 같은 빅테크 AI 연구자들의 스승으로 통한다. 그는 2012년 구글브레인에 입사해 구글의 AI 개발을 주도했다. 그러나 2023년 구글을 퇴사한 뒤에는 빅테크의 지나친 영리추구를 비판하는 목소리를 내고 있다.

힌튼 교수는 지난해 노벨 물리학상 수상자 발표 직후에도 “AI는 인간의 지적 능력을 뛰어넘게 될 것”이라며 “(AI가) 통제 불능 상태가 될 수 있는 위협에 대해 걱정해야 한다”고 강조했다. 힌턴 교수는 영국 출신으로 AI 기초연구에 뜻을 품고 1983년 조국을 떠나 캐나다로 이주했다. 프로바둑 기사 이세돌 9단을 꺾은 알파고, 챗GPT와 같은 대규모 언어 모델(LLM)의 토대가 된 딥러닝 개발에 기여한 공로로 지난해 노벨 물리학상을 공동 수상했다.

이지윤 기자 asap@donga.com