신정규 래블업 대표 “AI 인프라 복잡성 낮춰 지능의 민주화 앞당길 것”

AI 인프라 관리·운영 소프트웨어 기업 래블업(Lablup)이 9월 29일 연례 기술 콘퍼런스 ‘lab | up 〉 /conf 6’를 개최했다. 콘퍼런스는 신정규 래블업 최고경영자가 ‘AI 산업 시대의 엔드투엔드에 대하여’를 주제로 하는 기조연설로 시작했으며, 노타, 하이퍼엑셀, 업스테이지, 퓨리오사AI, KT클라우드, 리얼월드(RLWRLD), 에임인텔리전스 등 국내 주요 AI 하드웨어 및 소프트웨어 파트너 기업들도 참여해 업계 현황 및 기술 등을 공유했다. 신정규 래블업 대표가 콘퍼런스 기조연설을 통해 지난 1년 간의 성과와 앞으로의 계획 등을 발표했다 / 출처=IT동아 신정규 대표는 “3년 전에는 높은 LLM 개발 비용을 감당하기 위해 대규모 개발의 후발 주자로 따라가는 슬립스트림 전략을 제시했고, 2년 전에는 정처 없이 떠도는 AI 대항해시대가 끝나고 산업 현장으로 나아가는 방향을 설명했다. 작년에는 측정 및 계량 가능한 지능에 대해 얘기하고 어떻게 지능을 측정할지에 대해 얘기했다. 1년이 지난 지금도 이 전략은 여전히 유효하다”라며 발표를 시작했다.래블업, 측정 가능한 지능 시대에 맞는 최적의 접근법 찾는 중래블업의 주요 목표는 ‘AI 시대에서 지능의 민주화’이며 지난해부터 측정 가능한 지능과 관련한 방향성과 방법론이 등장하고 있다. 대표적인 것이 토큰, 전력이다. 신정규 대표는 “대표적으로 등장한 단위가 토큰이다. 토큰은 텍스트를 디지털화하는 과정에서 붙는 이름이었지만 이제 모든 AI 생성 및 출력 전반에서 계량 단위로 쓰인다. 전력 소모량도 중요하다. 반도체를 극단적으로 최적화하면 명확한 성능 상한선이 있고, 결국 전력을 얼마나 소비하는지를 따지게 된다”라면서 “세 번째는 지능 그 자체다. AI 지능이 높아야 동일한 토큰으로 더 많은 작업을 처리하는지를 따지게 된다. 토큰과 전력량, 지능은 모두 종합해야 한다”라고 말했다.래블업은 대규모 서버 인프라 환경부터 개인 수준의 소규모 작업 환경을 아우르는 모든 부분의 소프트웨어로 대응에 나서고 있다. 우선 인프라스트럭쳐 수준에서는 백엔드닷에이아이가 바탕이 되며, 운영 환경 수준에서는 컨티넘 라우터, 컨티넘 허브가 대응한다. 일반 개발자 수준의 애플리케이션 레벨에서는 백엔드닷에이아이:고, 에이아이:돌(AI:DOL)이 대응한다. 신정규 대표가 래블업의 포트폴리오 전반을 소개 중이다 / 출처=IT동아 핵심 서비스인 백엔드닷에이아이는 ▲ 엔비디아 그레이스 블랙웰 ...