무한을 아는 인간과 모르는 AI[철학과 AI-1]

3 hours ago 1

컴퓨터의 CPU는 헤르츠(Hz)로, GPU는 플롭스(FLOPS·floating point operations)로 성능을 나타낸다. floating point는 부동소수점이란 뜻이다. 컴퓨터에서 언급되는 소수점에는 고정소수점(fixed point)와 부동소수점이 있지만 그 차이는 여기서는 그리 중요하지 않으니 일단 소수점 연산이란 점만 생각하자.

Hz는 1초 동안 어떤 현상이 반복되는 횟수(진동수)를 측정하는 단위로 컴퓨터에는 0과 1의 클록(신호)를 몇 번 발생시키는가를 측정하는 데 쓴다. CPU의 주목적은 운영체제(OS)를 돌리고 프로그램에서 명령어를 처리하는 것인데 거기서 가장 중요한 절차는 메모리 주소를 할당하고 소환하는 것이다. 메모리 주소는 모두 정수 형태다. 대강 클럭 신호를 하나 보낼 때마다 정수 연산을 하나 수행한다고 볼 수 있다. 1GHz는 1초에 10억개의 클럭 신호를 보내는 걸 의미한다. 현재 노트북 기준으로 4~5GHz까지의 성능을 가진 CPU가 나와 있다.

인공지능(AI)은 CPU보다 GPU에 의존하는데 GPU는 정수 연산보다 복잡한 소수점 연산이 중심이다. AI에는 억 단위에서 조 단위의 은닉층(hidden layer)가 있고 각각의 은닉층마다 가중치로 계산한 값을 다음 은닉층으로 보내 계속적으로 작업을 진행한다. 소수점 연산 하나를 처리하려면 한 클럭이 아니라 수 클럭에서 수십 클럭이 소요된다. 소수점 연산 하나에 4클럭이 필요하다면 4GHz로 늘려봐야 정수 연산 1GHz의 성능밖에 발휘하지 못한다. 그래서 GPU는 초당 클럭수보다는 코어의 숫자를 수천~수만개로 늘려 초당 소수점 연산의 숫자를 증대시키는 방향으로 발전했다.

플롭스는 보통 테라 단위의 플롭스를 많이 쓰는데 1테라플롭스(TFLOPS)는 초당 1조 개의 부동소수점 연산을 한다는 뜻이다. 엔비디아 제품으로 현재 주력인 H100과 H200이 약 1000테라플롭스, 블랙웰이 2250테라플롭스의 성능을 갖고 있다. 단위가 1000을 넘어섰기 때문에 페타(peta·1000조)를 써서 표시하면 H100과 H200는 약 1페타플롭스(PFLOPS), 블랙웰은 2.25페타플롭스다.

정수 연산보다 소수점 연산이 복잡하는 것은 컴퓨터나 인간에게나 마찬가지다. 다만 컴퓨터에게는 소수점 연산이 단지 복잡할 뿐 아니라 근본적 한계가 있다.

인간은 계산할 때 보통 10진법을 사용한다. 10진법에서 2와 5의 배수가 아니면 나누어 떨어지지 않고 답이 무한히 길어진다. 컴퓨터에는 2진법이 쓰인다. 2진법에서는 2의 배수가 아니면 나누어 떨어지지 않고 답이 무한히 길어진다. 10진법에서는 1을 3으로 나눈 값이 0.3333…으로 무한히 길어진다. 1을 10으로 나눈 값은 10진법에서는 0.1로 표기된다. 그러나 2진법에서는 0.00110011…로 무한히 길어진다. 컴퓨터는 무한히 길어지는 수를 마냥 계산하고 있을 수 없기 때문에 소수점의 어느 아래 단계에서 올림해서 처리하고 끊어버린다.

컴퓨터가 2진법이 아니라 10진법을 이용하면 복잡도가 상상할 수 없을 정도로 증대되기 때문에 그런 컴퓨터는 생각하기 어렵다. 그러나 설혹 10진법을 이용한 컴퓨터가 있다고 하더라도 1을 3으로 나눈 값은 0.3333…으로 무한히 길어져 컴퓨터는 어딘가에서 끊어 근사치로만 제시할 수 있다. 어떤 진법의 컴퓨터를 사용하건 컴퓨터는 나누어지지 않은 수를 제대로 다루지 못한다.물론 소수점 이하 수십자리 아래로 내려가면 1의 차이는 미미하다. 그래서 컴퓨터가 나눗셈의 값을 근사치로만 계산해도 공학적으로는 문제가 없다. 인간도 공학에서는 근사치를 사용한다. 이런 사실은 현실의 값은 근사치로만 존재함을 보여준다. 현실에서 ⅓은 ⅓보다 작은 값에서 끝없이 ⅓로 접근하거나 반대로 ⅓보다 큰 값에서 ⅓로 끝없이 접근하는 값으로만 존재한다. 다만 사람의 두뇌는 1을 3으로 나눈 값의 개념을 알고 있다. 다시 말해 0.3333…의 3자가 무한히 길어지는 값을 알고 있다. 세 사람이 시킨 피자가 배달왔을 때 그들은 그것을 3등분해야 한다는 것을 한다. 실제로 정확히 3등분할 수 없을지라도 3등분을 안다. 그것은 현실에 없는 플라톤적인 이데아(Idea)이지만 알고 있다. 그것이 인간의 두뇌가 컴퓨터와 다른 점이다.

고대 그리스 철학에서 ‘제논의 역설’에 따르면 발이 빠른 아킬레스가 거북보다 뒤에서 출발하면 결코 거북을 따라잡을 수 없다. 아킬레스가 거북보다 10배 빠르고 거북이 100m 앞에서 출발한다고 가정해보자. 아킬레스가 거북의 출발점까지 100m를 가면 거북은 10m 앞에 있다. 아킬레스가 다시 10m를 가면 거북은 1m앞에 가 있다. 아킬레스가 다시 1m를 가면 거북은 0.1m앞에 가 있다. 따라잡아야 할 거리가 무한히 쪼개지므로 이 무한한 단계를 거치려면 시간이 무한하게 걸릴 것이다. 따라서 아킬레스는 평생 거북을 따라잡을 수 없다.

고대 그리스인은 계속적으로 잘게 쪼개는 것에 대해서는 알고 있었으니 제논의 역설이 나왔을 것이다. 다만 그들은 유한으로부터 무한을 생각했지, 무한으로부터 유한을 생각하지 못했다. 자연수 1를 생각해보자. 실제 자연적으로 존재하는 1은 없다. 어떤 1에 대해 현실에서는 1보다 근사하게 작거나 1보다 근사하게 큰 값만 존재한다. 0.9999…에서 9자를 계속적으로 이어붙인다고 해도 1이 되지 않는다. 다만 무한이 되면 1이 된다. 유한과 무한 사이에는 심연이 존재한다. 유한을 계속 이어간다고 해서 무한이 되는 것이 아니며 유한을 뛰어넘을 때 무한이 된다.

유한으로부터 무한을 생각해서는 아킬레스는 거북을 따라잡지 못하지만 무한으로부터 유한을 생각하면 아킬레스는 거북을 따라잡는다. 미적분의 기초가 되는 무한등비급수에 따라 계산하면 아킬레스는 111.1m와 111.2m 사이의 어느 지점에서 거북을 따라잡는다.

인간은 어떻게 유한을 뛰어넘어 무한을 생각할 수 있게 됐는가. 신의 속성인 영원성과 무한성은 그리스 철학에는 없는, 유대-기독교 전통에서 나온 개념이다. 13세기 중세 스콜라 신학자 토마스 아퀴나스는 하나님은 무엇인지 직접 정의할 수 없고 무엇이 아니다를 통해서만 정의할 수 있다고 봤다. 그것을 ‘부정의 길(Via Negative)’이라고 한다.

유한을 계속 연장해서는 아무리 연장해도 무한에 이를 수 없다. 무한은 유한이 아닌 것이라는 부정의 길을 통해서만 생각할 수 있다. 하나님을 신학적이 아닌 철학적 개념으로 파악한 것은 17세기 스피노자에 와서다. 그로 인해 그는 유대교에서 파문당하고 기독교에서 배척받았다. 그러나 그가 겉으로 내세운 건 신의 영원성(Dei aeternitus)과 신의 무한성(Dei infinitas), 개별적 사물 속의 신의 편재 혹은 현존(Dei ubiquitas aut praesentia in singulis rebus), 운동의 주요 원인으로서의 신(Deus est causa principalis motus) 같은 중세 스콜라 신학의 개념이다. 그는 이런 신학적 개념을 통해 유한과 분리된 무한, 무한과 분리된 유한이 아니라 무한 속에 존재하는 유한을 표현하고자 했다. 단지 아퀴나스만이 아니라 15세기 중세 신비주의 신학자 니콜라스 쿠자누스의 ‘반대되는 것의 일치(Coincidentia Oppositorum)’로부터 영향을 받았다고 할 수 있다.

유한은 무한과 분리돼 있지 않으며 무한 속에 자리잡고 있음을 수학적으로 표현한 것이 미적분이다. 스피노자와 같은 세기에 라이프니츠와 뉴턴에 의해 미적분이 발명됐다. 누가 더 먼저 발명했는지에 대해서는 지금까지도 논란이 분분하지만 공개된 자료로는 라이프니츠가 먼저다. 미적분에 의해 비로소 제논의 역설은 극복된다. 제논의 역설은 무한히 쪼개지는 수들의 합이 유한할 수 있다는 생각을 하지 못한 데서 비롯됐다. 미적분은 단순히 무한을 발견한 것이 아니라 유한 속에 존재하는 무한을 발견한 것이다.

제논이 쓴 책은 후대에 알려지지 않았다. 제논의 역설은 제논에 의해 소개된 것이 아니라 아리스토텔레스에 의해 소개됐다. 제논의 역설을 철저히 관철하면 아킬레스가 거북을 따라잡지 못하는 정도가 아니라 아킬레스도 거북도 아예 움직일 수 없다. 아리스토텔레스는 제논의 역설을 운동 개념을 도입해 극복해보려 했지만 자기 시대에도 후대에도 성공했다고 여겨지지 않았다. 고대 그리스인은 무한을 아페이론(apeiron), 즉 한계(peira)가 없는 것이라고 해서 불완전한 것으로 봤다. 아리스토텔레스 역시 그런 관점에서 완전히 벗어나지 못했다. 그는 무한을 ‘어떤 양이 취해져도 그것 넘어 항상 새로운 어떤 것이 취해질 수 있는 것’으로 봤다. 0.9999…에서 9자를 계속 이어붙이는 것까지 생각할 수 있었지만 유한의 반대편에 서 있는 무한을 생각할 수 없었다.

인간과 AI의 차이를 설명하기 위해 무한의 개념을 예로 들긴 했지만 AI는 무한만 모르는 게 아니라 인간이 안다는 의미에서 뭘 아는 게 아니다. 소수점 연산은커녕 1+1처럼 간단한 정수 연산도 이해하고 처리하는 건 아니다. AI가 언제 인간을 능가하는 특이점이 올 것인가라는 질문은 잘못됐다. 지금도 이미 어떤 부분에서는 AI가 인간을 능가하고 있다. 마치 오래전에 기계가 어떤 부분에서 인간을 능가한 것과 같다. 속도에서 인간이 어떻게 자동차를 쫓아가겠나. 그렇다고 기계가 인간을 능가한 것은 아니다. AI가 분명 상상을 뛰어넘는 놀라운 능력을 보여주고 있지만 우리의 질문은 AI가 이해하지 않고 처리할 수 있는 능력은 어디까지이며 AI가 이해하지 않고 처리하기 때문에 어떤 한계를 갖는가가 돼야 한다.

송평인 칼럼니스트