오픈AI도 자체 칩… 메모리 시장 ‘쑥쑥’

4 days ago 7

추론 특화 AI칩 ‘할라페뇨’ 공개
자체 데이터센터에 활용 비용 절감
구글-아마존 등 앞다퉈 자체칩 개발
삼성-SK 등 메모리 기업엔 호재

24일(현지 시간) 오픈AI와 브로드컴은 인공지능(AI) 추론에 특화된 자체 개발 AI 칩 ‘할라페뇨’를 공개했다. 샘 올트먼 오픈AI 최고경영자(CEO·왼쪽)와 혹 탄 브로드컴 CEO(오른쪽)가 새 AI 칩 할라페뇨를 들고 기념 촬영을 하고 있다. 오픈AI 제공

오픈AI가 첫 자체 개발 인공지능(AI) 칩을 공개했다. 추론에 특화된 AI 칩으로 오픈AI는 기존 AI 칩과 비교해 경제성을 갖췄다고 강조하고 있다. 최근 AI 인프라 구축 및 운영에 막대한 비용이 들어가면서, 오픈AI를 비롯해 구글, 아마존, 메타 등 빅테크들은 비용 절감을 위해 자사 AI 운영에 최적화된 자체 AI 칩 개발에 나서고 있다. 업계에서는 AI 반도체 산업에 빅테크들까지 출사표를 던지면서 삼성전자, SK하이닉스 등 메모리 반도체 기업들의 성장세가 한동안 이어질 것이라는 관측이 나온다.

● AI 칩 ‘경제성’ 강조한 오픈AI

24일(현지 시간) 오픈AI와 미국의 반도체 설계 기업(팹리스) 브로드컴은 AI 추론에 특화된 AI 반도체 ‘할라페뇨’를 공개했다. 오픈AI가 처음으로 자체 개발한 AI 반도체다. 회사는 올해 말부터 자체 데이터센터에 할라페뇨를 배치할 계획이라고 밝혔다. 두 회사는 할라페뇨의 구체적인 성능을 공개하지는 않았지만, 초기 시험 결과 현재 최첨단 기술과 비교했을 때 단위 전력(W)당 성능이 더 우수하다고 밝혔다. 즉, 같은 성능을 내는데 더 적은 양의 전력이 필요하다는 의미다. 두 회사는 향후 몇 달 내에 정확한 성능 수치가 담긴 기술 보고서를 발표할 예정이다.

오픈AI가 자체 칩을 개발하고 나선 것은 AI의 경제성을 높이기 위해서다. 사전 학습과 같이 대규모의 반복적 연산이 필요한 작업에는 엔비디아의 그래픽처리장치(GPU)를 활용하더라도, 할라페뇨를 이용해 추론에 들어가는 비용만 효율화해도 회사 수익에 큰 도움이 될 수 있다. 연내 기업공개(IPO)가 예정된 오픈AI의 경우 AI 인프라에 투입되는 막대한 비용을 회수할 수익 모델 마련과 비용 절감이 가장 큰 과제다.

● AI 반도체 개발 러시에 메모리도 ‘활짝’

오픈AI와 마찬가지로 AI 인프라를 빠르게 확장하고 있는 다른 빅테크들 역시 비용 절감을 위해 자체 칩 개발에 나섰다. 자체 비용을 절감하는 동시에 다른 기업들에 AI 칩을 판매하는 방향으로 사업을 확장하는 ‘일석이조’ 효과를 노리는 것이다. AI 추론 전용 칩의 시초 격인 구글의 TPU(텐서 프로세싱 유닛)는 구글의 AI 모델 ‘제미나이 3’ 시리즈 학습에 활용되며 큰 주목을 받았다. 구글은 올 4월 학습 전용 TPU, 추론 전용 TPU를 분리해 출시해 AI 운용의 효율성을 이전보다 더 극대화했다고 밝혔다. 더불어 구글클라우드를 통하지 않더라도 다른 기업들이 TPU를 사용할 수 있도록 판매 전략을 변경하겠다고 밝혔다. 아마존 역시 대규모 연산용 AI 칩 ‘트레이니움’, 추론용 ‘인퍼런시아’를 제3자에게도 판매하겠다고 밝혔다. 피터 디샌티스 아마존 AI 부문 최고책임자는 이달 19일(현지 시간) 블룸버그통신과의 인터뷰에서 “올해 초 출하를 시작한 트레이니엄 3세대는 이미 대부분 다 팔렸다”고 언급했다.

빅테크들까지 AI 반도체 시장에 뛰어들며 삼성전자, SK하이닉스, 마이크론 등 메모리 반도체 기업들의 호황기도 한동안 지속될 것으로 예상된다. 유회준 KAIST 전기및전자공학부 교수는 “빅테크들의 자체 AI 칩 개발은 기존의 양산형 AI 칩과는 다른 새로운 시장이기 때문에 메모리 반도체 시장 파이를 더 키우는 결과를 가져올 것”이라며 “메모리 반도체 기업들에는 긍정적인 신호”라고 분석했다.

최지원 기자 jwchoi@donga.com