AI 학습비용-크기 ‘다운’

카카오, 국제학회서 연구성과 발표 카카오 판교 아지트 포레스트 로비. 카카오 제공 카카오가 인공지능(AI) 모델을 학습시키는 데 드는 비용을 줄이고, 성능은 높이면서도 모델을 더 가볍게 만드는 기술을 개발했다. 카카오는 8일 국제 언어모델링 학회인 ‘언어 모델링 콘퍼런스 2026(COLM 2026)’에서 이 같은 연구 성과를 발표했다고 밝혔다. AI는 더 정확한 답을 내놓기 위해 학습 과정에서 내부 수치를 조금씩 조정하는데, 이때 조정 폭을 정하는 ‘학습률’이 중요하다. 카카오는 작은 모델에서 찾은 적절한 학습률을 큰 모델에 적용해 전체 학습 비용의 약 1%에 해당하는 비용으로 최적의 학습률을 예측했다. 이 기술은 자체 AI 모델인 ‘카나나 2.6’ 학습에 활용됐다. 카카오는 AI 모델의 덩치를 줄이면서 성능을 높이는 기술도 공개했다. 이를 통해 모델의 규모를 나타내는 매개변수 수를 최대 40.4% 줄이면서, 성능은 최대 6.6% 높였다. 놓친 뉴스와 그 맥락까지, 종이신문으로 읽어보세요. 동아일보 구독 신청 #카카오#인공지능#AI 모델#학습률#언어모델링 콘퍼런스#모델 경량화#성능 향상 한채연 기자 chaezip@donga.com© dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지 트렌드뉴스 1[단독]“러트닉, 대미투자 협상때 김정관에 ‘美의 국정원 불신’ 전달” 2‘미주 국감’ 정청래, 美비자 못받았다…鄭 “발급 지연 유감” 3“치매 남편 사라졌어요” 수색했더니, 벤치에 멍하니…(영상) 4김여정 “정동영이도 지뢰사고를 우리 공격으로 단정 어렵다고 고백” 5‘게임체인저’ 극초음속미사일, 10년만에 첫 결실… 北도발에 경고도 6“김건희 식사 못해”에…“건강 괜찮나” 구치소민원 1000건 폭주 7노벨문학상에 캐나다 시인 앤 카슨…파킨슨병도 그녀를 꺾지못했다 8국산 극초음속 미사일 첫 시험발사 성공…李대통령 참관 9“고교생도 佛 미래위해 싸우는데…” 교육개선 시위 명문대생들 가세 10고령 사망사고 78% 몰린 전통시장… 행안부, 실버존 지정 늘린다 1김여정 “정동영이도 지뢰사고를 우리 공격으로 단정 어렵다고 고백” 2[단독]美, ‘北해킹 대응’ 한미일 회의서 국정원 뺐다 3李, 밤 12시-새벽 1시20분에도 SNS 글…이틀에 한번꼴 한밤 올려 4곽규택 “18명 회식하는데 혼자 6인분”…서영교 발언시간 꼬집어 5“상속·고령 따른 농지 임대차는 노터치”…정부 한발 물러섰다...