AI 토큰 경제의 현주소: CFO가 알아야 할 것

OpenRouter의 주간 처리량은 2025년 1월 약 5,000억 토큰에서 2026년 9월 말 164조 토큰으로 늘었지만, 100만 토큰당 평균 지불 가격은 0.77달러에서 0.14달러로 하락함 AI 추론은 연간 계약으로 구매하는 소프트웨어보다 원자재성 투입 요소에 가까워지고 있음. 단가는 내려가고 사용량은 늘며, 최적의 공급업체도 몇 달마다 바뀜 오픈 웨이트 모델은 OpenRouter 주간 토큰의 약 60%를 처리하지만 지출 비중은 26%에 그침. 저가 모델의 성능 향상으로 분류, 추출, 코딩 하위 작업 등 일상적인 업무를 더 저렴하게 처리할 수 있음 에이전트가 토큰 사용의 중심으로 올라서면서, 반복 전송하는 긴 문맥에 적용되는 프롬프트 캐싱이 비용을 좌우함. 같은 모델도 공급업체와 캐시 적용 비율에 따라 실제 비용이 크게 달라짐 AI 구매는 표시 가격보다 실질 총비용을 기준으로 판단해야 함. 캐시 할인뿐 아니라 대기와 재시도 비용을 고려하고, 데이터 미보관과 장애 시 대체 경로도 구매 조건에 포함해야 함 AI 비용은 고정된 소프트웨어 계약과 다르게 움직임 AI 관련 비용은 손익계산서에서 가장 큰 비용으로 빠르게 부상하고 있음 AI 기능이 매출총이익률을 낮추고, 여러 부서가 고가의 최첨단 모델을 사용하며, 기존 소프트웨어에도 추가 비용이 드는 AI 기능이 내장되고 있음 AI 엔지니어 인건비도 높아, CFO를 비롯한 자본 배분 책임자는 AI 사용 데이터와 시장 변화를 이해할 필요가 있음 OpenRouter는 하나의 계정으로 수백 개 LLM을 이용하는 AI 게이트웨이이자 마켓플레이스이며, 아래 수치는 이 플랫폼을 통과한 사용량에 기반함 2025년 1월부터 2026년 9월 말까지 주간 토큰 처리량은 약 5,000억 개에서 164조 개로 증가했고, 100만 토큰당 평균 지불 가격은 0.77달러에서 0.14달러로 하락함 대부분의 기업은 공급업체를 고르고, 때로 연간 사용 약정을 맺으며, 정해진 시점에 재평가하는 방식으로 AI를 구매함 하지만 추론 시장은 단가 하락, 물량 증가, 최적 공급업체의 잦은 교체가 특징임 AI 지출이 대부분 기업의 최대 비용이 될 것이라는 전망 아래, 단순한 예산 항목 관리보다 시장 역학에 대한 이해가 중요해짐 시장을 바꾸는 네 가지 힘 1. 모델 공급의 급증 2024년 초 이후 OpenRouter에 862개 모델이 출시됐으며, 이 중 362개는 2026년 10월 이전에 출시돼 이미 2025...