유재윤 에너자이 CTO “엣지 AI는 양자화 넘어 풀스택 최적화 향할 것”

엣지 AI란 데이터를 스마트폰, 사물인터넷 센서, 자율주행차 등 현장의 장치에서 직접 AI로 처리하는 기술이다. 몇년 전만 해도 엣지AI는 성능의 한계가 분명해 카메라 객체 인식, 음성 인식, 노이즈 제거 등 가벼운 수준의 모델을 운용하는 수준이었지만 최근에는 모델 양자화 기법이 기본으로 자리잡으면서 엣지 AI 기기에서도 소형언어모델(sLLM)을 운용하는 방식이 주목받고 있다. LLM을 탑재하면서 정해진 기능을 수행하는 기기에서 상황을 이해하고 판단해 여러 기능을 응용하는 기기로 발전한 것이다. 유재윤 에너자이 최고기술책임자 / 출처=IT동아 이에 엣지AI용 모델양자화 기법을 개발하는 기업들도 움직임도 분주하다. 이들 기업은 AI 모델 개발사나 반도체 개발 기업과 달리 이미 만들어진 모델과 제품을 기반으로 모델을 재구성하고 축약하는 작업을 하므로 일반인들이 접할 일은 많지않다. 하지만 AI 모델 기업들은 자사 AI를 더 많은 곳에 확산시킬 목적으로, AI 반도체 기업은 제품에서 더 많은 연산과 성능을 집약하기 위해 모델양자화 기술 기업을 찾고 있다. 현장의 목소리를 들어보고자 엣지 AI 소프트웨어 및 모델 양자화 기술을 개발 중인 ‘에너자이’를 찾았다.엣지AI, 양자화 넘어 컴파일, 런타임, 경량화와 최적화 모두 필요유재윤 에너자이 최고기술책임자(CTO)는 서울대학교 전기·정보공학부에서 박사 학위를 수료했으며, AI 및 딥러닝, 기계학습 분야를 연구하는 윤성로 서울대 교수의 AI 랩 출신이다. 유재윤 CTO는 “당초 창업에 대한 생각은 없었지만 다른 연구실 소속 동료가 창업을 제안하면서 창업에 대한 생각을 갖게 됐고, 이후에 연구보다는 산업쪽으로 도전해보겠다는 생각이 앞서 장한힘 대표와 함께 에너자이를 창업했다”라며 창업 동기를 설명했다.에너자이 역시 창업 초기에는 에너지 산업용 AI 기술로 시작했으며, 이후 이 과정에서 확보한 엣지 AI 기술을 다양한 산업에 범용적으로 적용하는 방향으로 사업의 중심축을 전환했다. 그사이 엣지AI가 단순 센서나 마이크로컨트롤러에서 범용 AI 장치까지 고도화되면서 에너자이의 사업도 AI 모델 양자화는 물론 컴파일러, 커널 최적화, 런타임 등 소프트웨어 전반을 다루는 풀스택 엣지 AI 기업으로 진화했다. 다만 이 ‘풀스택’의 범위가 회사마다 다른데, 에너자이의 경우는 어떤지 질문했다. 에너자이는 엣지 AI용 모델 양자화는 물론 관련 기술 전반을 다루는 풀스택 엣지 AI 기업이다 /...