10억 명 이상의 ChatGPT 사용자를 위한 온라인 스토리지의 빠른 확장(2부)

OpenAI의 Habitat은 40개 지리적 리전에서 10억 명 이상의 사용자에게 500페타바이트 이상의 데이터를 제공하며, Azure Cosmos DB 기반 스토리지를 안정성, 읽기 성능, 운영 효율 순으로 개선해 옴 컨테이너를 워크로드별로 분리하자 장애 범위는 줄었지만 제품팀의 용량 계획 부담이 커졌으며, 부하 격리 기능을 개선해 공유 멀티 테넌트 컨테이너를 기본으로 사용하는 방식으로 돌아옴 대형 계정의 리전 장애 조치와 복귀 과정에서 심각한 장애를 겪은 뒤, Azure와 프로덕션 규모 테스트 및 전 계층 공동 모니터링을 수행하는 공동 관리 체계를 구축함 데이터 배치와 선택적 복제, CDC 기반 통합 캐시, Rust 재작성 등을 결합해 전 세계 읽기 지연 시간의 p50을 약 120ms에서 약 10ms로 줄임 다음 10억 명의 사용자를 지원하기 위해 엑사바이트 규모 맞춤형 스토리지를 개발 중이며, 최대 QPS를 낮추는 대신 분리형 스토리지와 물리적 복제로 플래시 용량을 줄이는 절충을 택함 Habitat의 규모와 확장 우선순위 Habitat은 OpenAI 제품에 빠르고 안정적인 데이터 접근을 제공하는 온라인 스토리지 플랫폼으로, 40개 지리적 리전에 걸쳐 10억 명 이상의 사용자에게 밀리초 단위로 응답해야 함 단순한 클라이언트 라이브러리와 데이터베이스에서 500페타바이트 이상을 제공하는 전 세계 분산 스토리지 플랫폼으로 발전함 1부는 Python 클라이언트가 서비스로 발전한 과정과 Python 서비스 확장 기법을 다룸 2부에서는 Azure 팀과 협력한 Azure Cosmos DB 확장, 공동 관리 컨테이너를 활용한 멀티 테넌시, 전 세계 읽기 성능 개선을 다룸 확장 우선순위는 안정성 → 성능 → 효율성이며, 핵심 제품 트래픽을 안정적으로 처리한 뒤 전 세계 지연 시간과 대규모 운영을 개선함 멀티 테넌시의 절충과 Cosmos DB의 구조 싱글 테넌시는 장애 영향 범위와 담당 영역을 명확히 나누고 워크로드를 격리하기 쉽지만, 팀과 제품이 늘면 운영 비용과 과잉 프로비저닝이 커짐 각 제품팀이 자체 시스템과 용량 계획을 책임져야 함 멀티 테넌시는 전문성을 갖춘 중앙 데이터베이스팀이 리소스를 관리할 수 있지만, 한 테넌트가 다른 테넌트의 리소스를 잠식하는 노이지 네이버 문제가 있음 Habitat은 공유 컨테이너 → 전용 컨테이너 → 공유 컨테이너 기본 사용의 순서로 전환함 멀티 테넌시 구현은 아직 초기 단계이며, 가능한...