Uber 규모의 소프트웨어 팩토리를 효율적으로 운영하는 법

4 hours ago 5

AI를 개발 전 과정에 적용한 결과, PR의 70% 이상을 로컬·클라우드 에이전트가 담당하고 3,600개가 넘는 에이전트 스킬이 하루 3만 회 이상 실행됨 2026년 2월~8월 중순 주간 사용자는 7배, 에이전트 요청은 9.4배 늘었지만, 전방위 최적화로 4월 이후 총 AI 지출은 비교적 안정됨 실제 작업 벤치마크로 비용·품질·신뢰성의 Pareto 최적 모델을 선택하고, 주 모델은 작업 분해와 평가를, 저렴한 하위 에이전트는 범위가 명확한 실행을 담당함 400K 컨텍스트 압축, Medium 추론, 프롬프트 캐싱, CLI 기반 MCP 호출과 코드 모드로 토큰 낭비를 줄였으며, 코드 모드는 동일 SQL 작업에서 50% 이상, 대량 작업에서는 90% 넘게 절감함 2,400만 노드의 AI Context Graph와 실시간 비용·세션 분석을 결합하고 대화형 작업을 관리형 에이전트로 이전해 모델 라우팅과 운영비를 중앙에서 최적화함 소프트웨어 팩토리의 규모와 비용 변화 AI 도구가 Uber의 소프트웨어 개발 생명주기 전반에 포함됨 PR의 70% 이상이 로컬 또는 클라우드 에이전트에 귀속됨 엔지니어들이 3,600개가 넘는 에이전트 스킬을 만들었으며 하루 실행량은 3만 회 이상임 Software Factory 비전은 코드 리뷰, CI 실패 자가 복구, 시각적 검증을 포함한 E2E PR 완성, 온콜 경보 분류, 버그 디버깅, 코드 유지보수를 관리형 에이전트에 맡기는 방향임 사람이 직접 시작하지 않는 세션의 비중이 늘고 있음 작업 과정에는 사람의 검토와 에스컬레이션이 포함됨 2026년 2월부터 8월 중순까지 모든 직원을 합산한 주간 활성 사용자는 7배, 주간 에이전트 요청은 9.4배 증가함 전체 AI 지출은 여러 최적화의 영향으로 4월 이후 비교적 안정됨 모델 업그레이드와 작업 구성이 계속 달라지므로 2월~7월에는 하나의 모델을 고정해 최적화 효과를 측정함 동일 모델 기준 요청 1,000건당 비용은 정점 대비 약 34%, 세션당 비용은 6월 정점 대비 52% 감소함 비용 수치와 공급업체 지표에는 공개 정보와 표준 단계별 가격을 사용함 절감 폭은 Uber의 코드베이스, 팀 규모, 작업 흐름에 따른 결과이므로 다른 환경에서는 달라질 수 있음 실제 작업을 벤치마킹해 정확도와 비용을 함께 최적화하는 방법은 다른 환경에도 적용할 수 있음 사용 계층과 비용 측정 체계 AI 사용을 전문화 수준에 따라 4개 계층으로 구성하며, 상위 계층일수록 ...

Read Entire Article