오픈AI “엔비디아 칩보다 빠르다”…자체 AI칩 ‘할라피뇨’ 공개

스마트폰 화면에 표시된 오픈AI 로고. 오픈AI는 자체 AI 칩 ‘할라피뇨’를 올해 안에 자사 AI 모델 구동에 투입할 계획이다. 게티이미지코리아 챗GPT 개발사 오픈AI가 자체 개발한 인공지능(AI) 칩 ‘할라피뇨(Jalapeno)’가 성능 테스트에서 엔비디아의 현행 AI 칩보다 높은 성능을 냈다고 밝혔다. AI 연산에 필요한 전력당 처리량과 응답 속도에서 엔비디아 GB300을 앞섰다는 것으로, 오픈AI는 올해 안에 자체 AI 서비스에 새 칩을 투입할 계획이다.25일(현지 시간) 블룸버그통신에 따르면 오픈AI의 반도체 부문 책임자인 리처드 호는 인터뷰에서 할라피뇨를 엔비디아 GB300과 비교한 결과 전력당 처리할 수 있는 AI 작업량과 응답 속도 두 부문에서 앞섰다고 밝혔다. GB300은 이번 시험에 사용된 공개 벤치마크 시스템에서 가장 높은 성능을 보이던 제품이었다.오픈AI는 올해 말부터 할라피뇨를 자사 AI 모델을 구동하는 데 사용할 예정이다. 엔비디아가 장악한 AI 반도체 시장에서 구글과 아마존 등 빅테크들이 자체 칩 개발에 나선 가운데 오픈AI도 AI 인프라를 직접 구축하려는 움직임을 본격화한 것이다.호는 할라피뇨를 데이터센터에 확대 적용하면 AI 서비스 비용을 크게 낮출 수 있다고 설명했다. 그는 “정말 좋은 칩이고 비용을 크게 낮출 수 있을 것”이라며 생산량을 충분히 늘리고 예상한 만큼 비용 절감 효과가 확인되면 자체 칩으로 처리하는 AI 작업을 확대하겠다고 밝혔다.할라피뇨는 오픈AI가 미국 반도체업체 브로드컴과 함께 개발했다. 양사는 지난해 자체 AI 칩 개발을 위한 협력을 발표했으며 지난 6월에는 새 칩을 기록적으로 짧은 기간에 개발했다고 공개했다.● 더 싸고 빠르게 답한다…오픈AI가 자체 칩 만든 이유할라피뇨의 특징은 많은 AI 작업을 한꺼번에 처리하는 ‘처리량(throughput)’과 사용자의 질문에 빠르게 답하는 ‘낮은 지연시간(low latency)’을 동시에 겨냥했다는 점이다. 일반적으로 AI 칩은 대량의 작업을 처리하는 능력과 빠른 응답 속도 가운데 한쪽에 강점을 보이는 경우가 많다.호는 “실험실에서 할라피뇨는 많은 고객에게 더 저렴하게 서비스를 제공할 수 있는 높은 처리량과 매우 빠른 응답시간을 모두 보여주고 있다”고 말했다.전력 효율도 오픈AI가 강조하는 부분이다. 할라피뇨는 700W의 낮은 전력에서 높은 성능을 냈으며, 전력 사용량이 주요 비용 가운데 하나인 AI 데이터센터의 운...