“AI 쓰면 쓸수록 토큰세 폭탄” … 브로드컴이 기업 ‘자체 AI’ 권한 이유

플러스 포인트
▶ AI 많이 쓸수록 ‘토큰세’ 부담 커져
▶ 데이터 옮기지 말고 AI 모델 옮겨라
▶ 韓 제조·통신, AI 데이터 주권 중요

“기업들이 인공지능(AI)에 자체 데이터를 활용하기 시작하면서 기존 데이터센터와 인프라에 더 작은 모델을 구축하고 배포할 수 있게 됐습니다. 이는 기업이 AI 비용을 통제할 수 있는 방법입니다.”

폴 사이모스 브로드컴 아시아 총괄 부사장은 서울 중구 신라호텔에서 열린 세계지식포럼 참석차 방한해 진행한 매일경제신문과의 인터뷰에서 기업의 인공지능(AI) 투자 전략이 달라지고 있다고 말했다. 생성형 AI 도입 초기에는 필요한 인프라와 모델이 갖춰진 퍼블릭 클라우드로 기업들이 몰렸지만, AI가 실제 업무 전반으로 확산하면서 비용과 보안까지 고려해 자체 인프라를 활용하려는 움직임이 커지고 있다는 설명이다.