"미래 반도체 핵심은 '효율'…구조 혁신 없인 AI 지속 못한다"

미래 인공지능(AI) 반도체 개발의 화두는 무엇일까. AI 모델이 쏟아지고 크기가 기하급수적으로 커지는 가운데 전문가들은 ‘효율’을 AI 반도체 기술의 핵심 경쟁력으로 꼽고 있다.

지난 5월 말 서울 신촌 서강대에서 열린 특별 강연 ‘AI 반도체로 세상을 삼키다’에서 백준호 퓨리오사AI 대표와 박철민 삼성전기 상무가 연사로 나서 각각 AI 반도체 설계, 반도체 패키징 기술을 중심으로 차세대 AI 반도체의 방향성과 과제를 짚었다. 박영선 전 중소벤처기업부 장관이 사회를 맡았다.

AI 반도체가 성능과 효율을 갖추려면 고속 연산이 가능한 AI 칩과 이를 구동하는 패키징 기술이 함께 뒷받침돼야 한다는 게 이날 참석자들의 공통된 의견이다. 칩은 AI 연산을 담당하는 ‘두뇌’ 역할을 한다. 패키징은 ‘골격’으로 AI 칩, 메모리 장치, 입출력 회로 등을 기판 위에 정밀하게 배치해 에너지 효율을 높이고 고속 연산을 가능하게 하는 핵심 공정이다.

백 대표는 AI 반도체를 설계할 때 연산 효율을 우선해야 한다고 강조했다. 그는 “최신 AI 모델은 2016년 개발된 구글 알파고에 비해 천만 배 이상 커졌다”고 말했다. 모델이 커질수록 연산량이 폭증하는 상황에서 하드웨어가 감당해야 할 부담도 커졌다는 뜻이다. 이처럼 방대해진 연산을 실시간으로 처리하기 위해 기존과 다른 고효율 설계 구조가 필요해지면서 AI 반도체 칩의 구조와 아키텍처(설계) 전반의 혁신이 촉발되고 있다고 그는 설명했다.

백 대표는 ‘레니게이드(RNGD)’를 예로 들었다. 퓨리오사AI가 2024년 개발한 2세대 AI 추론 전용 칩으로, 반복적인 행렬 곱셈 등 핵심 연산을 빠르고 효율적으로 처리할 수 있도록 설계됐다. 전력 소모는 줄이고 병렬 연산 성능은 높인 구조로 150W(와트) 수준의 전력량을 자랑한다. 비슷한 성능을 보이는 다른 회사 AI 칩과 비교하면 절반 이하에 불과해 에너지 효율성이 크게 향상됐다는 평가를 받는다. 백 대표는 “기존 그래픽처리장치(GPU)가 가솔린 차라면 우리가 만든 칩은 같은 성능을 내지만 에너지를 적게 소비하는 전기차로 볼 수 있다”고 비유했다.

박 상무는 AI 연산 효율을 극대화하려면 마더보드(기판) 역시 진화해야 한다고 강조했다. 그는 “최근 고성능 AI 반도체를 보면 크기는 기존 마더보드의 10분의 1인데 성능이 100배 가까이 높아졌다”며 “이는 하나의 기판에 로직(연산) 유닛과 메모리 장치를 붙였기 때문”이라고 설명했다. 이를 위해서는 기판 자체의 성능이 중요하다. AI 반도체는 대규모 데이터를 고속으로 처리하는 과정에서 일반 칩보다 훨씬 많은 전력과 열이 발생하기 때문이다. 유리 기판은 일반 유기물로 제작한 기판보다 열에 강할뿐더러 미세 회로를 정밀하게 새길 수 있다는 장점이 있다. 유리 기판이 부상하는 배경이다.

박 상무는 이날 삼성전기 공장에서 나온 유리 기판 시제품을 직접 들고 와 청중에게 보여줬다. 장덕현 삼성전기 사장은 지난달 28일 서울대 재료공학부 강연에서 연내 미국 빅테크 2~3곳에 유리 기판 시제품을 공급할 예정이라고 밝혔다.

최근 글로벌 AI 반도체 업계에서도 연산 성능만큼이나 ‘연산 효율성’, 즉 에너지 대비 성능을 핵심 경쟁 지표로 삼는 흐름이 뚜렷해지고 있다. AI 모델의 연산량이 폭증하는 상황에서 AI데이터센터 전력 소모가 주요 테크 기업의 비용 구조와 지속 가능성을 좌우하는 핵심 리스크로 떠오르고 있기 때문이다. 엔비디아가 올 하반기 출시할 AI 가속기 ‘GB300’도 전력 효율성과 성능 면에서 획기적인 진전을 이뤘다. 엔비디아에 따르면 대규모언어모델(LLM) 추론 작업에서 이전 모델인 ‘호퍼’ H100 대비 성능은 68배 높였고 에너지 소모량은 25배 줄였다.

구글도 4월 AI 추론 전용 칩 ‘아이언우드’를 공개했는데 직전 모델인 ‘트릴리움’보다 와트당 성능을 두 배로 높이는 등 전력 효율성이 크게 개선됐다. 순다르 피차이 구글 최고경영자(CEO)는 지난해 5월 트릴리움을 내놓을 때 “지난 6년간 머신러닝에 대한 산업 수요가 100만 배 증가했다”며 “AI 칩의 전력 소비를 줄이기 위한 투자가 없다면 AI는 지속 가능하지 않다”고 강조했다.

최영총 기자 Youngchoi@hankyung.com