엔비디아 H200·B200 1만장 연내 도입…산학연 AI 전방위 지원

GPU 1만장 구매·구축 맡을 클라우드 기업 공모
1.5만GPU 국가AI컴퓨팅센터 추진…국가대표 파운데이션모델 지원

ⓒ News1

정부가 연내 한 곳 이상의 클라우드 기업(CSP)을 통해 엔비디아 H200·B200 등 최신그래픽 처리장치(GPU) 1만 장을 국내로 도입할 계획이다. 올해 10월부터는 GPU를 확보, 국내 산학연의 인공지능(AI) 연구개발에 순차적으로 투입시킨다는 목표다.

또 국가 슈퍼컴퓨터 6호기 구축을 통해 내년 상반기 중 엔비디아 GH200 등 최신 GPU 8500여장의 추가 도입이 예정됐다. 장기적으론 민관 합작 투자를 통해 GPU 1만 5000장 규모로 ‘국가 AI컴퓨팅센터’도 구축한다.

14일 과학기술정보통신부 및 경제 관계 부처는 첨단 GPU 확보 추진방안을 주제로 ‘경제관계장관회의 겸 산업경쟁력강화 관계장관회의’를 진행했다.

글로벌 AI 경쟁이 심화하는 와중, 국내 산학연은 컴퓨팅 인프라의 부족이 가장 시급한 문제라고 지적한다.

일례로 LG AI 연구원의 320억 매개변수(파라미터) ‘엑사원 3.5 32B’ 모델은 개발에 4개월이 걸렸으나, 규모가 8배 수준인 메타 ‘라마 3.1-405B’ 모델은 개발에 54일만이 소요됐다. LG는 엔비디아 H100 512장을 투입했지만, 메타는 1만 6000여장을 썼기 때문이다.

컴퓨팅 인프라의 절대적 부족으로 더 작은 AI를 개발함에도 더 많은 시간이 소요되고 있다. 이에 정부는 첨단 GPU 확보를 목표로 1조 4600억 원의 추가경정예산(추경)을 편성했다.

추경은 1만 장의 엔비디아 GPU를 연내 신속히 도입하는 데 쓰인다. 구매·구축은 한 곳 이상의 CSP가 맡게 되며, 정보통신산업진흥원(NIPA)이 소유권을 갖게 된다.구체적으로 정부는 엔비디아 H200 6400장, B200 3600장의 도입을 생각 중이다. B200은 고성능이지만 액침 냉각 등 고난도의 냉각이 필요하기 때문에 모델 간 비중은 조정될 수 있다.

정부는 이달 말 공고를 통해 구매·구축을 수행할 CSP를 선정한다. 7월쯤 CSP 선정이 완료되면 GPU 발주가 가능해진다. 확보된 GPU는 우선 CSP의 기존 데이터센터 상면에 대규모 클러스터링 형태로 구축된다.

이후 해당 GPU는 국가AI컴퓨팅센터로 이관, 센터 운영주체인 특수목적법인(SPC)이 사용권을 가진다. SPC는 올해 10~11월 출범 예정이다. 다만 기존 구축을 맡은 CSP가 운영비를 부담한 점을 고려, 일부 GPU 자원은 CSP가 쓰는 것을 허용한다.

신속한 지원을 위해 올해 6250억 원 규모의 AI컴퓨팅센터 인프라 지원 상품도 신설됐다. 국내 산학연 지원을 원칙으로 한다.

‘월드 베스트 거대언어모델’(가칭 WBL) 프로젝트 등 주요 국가 프로젝트에 GPU를 집중 지원하는 것도 병행한다. WBL은 실력있는 국내 AI 기업에 GPU·데이터·인재 등을 집중 지원해 글로벌 수준의 AI 파운데이션 모델을 개발하도록 돕는 것이다.

올해 약 2136억 원 예산을 통해 국내 5개 정예팀을 선발할 예정이다.

(서울=뉴스1)