Agent Substrate - AI 에이전트를 격리하고 대기 자원을 줄이는 Kubernetes 실행 환경

3 hours ago 3

여러 AI 에이전트를 독립된 샌드박스에서 실행하고, 대기 중인 에이전트의 자원을 회수하는 인프라 도구
모델 응답이나 도구 실행을 기다리는 동안 메모리와 파일 상태를 저장하고, 요청이 들어오면 복원해 작업 재개
미리 준비된 소수의 Kubernetes Pod를 여러 에이전트가 번갈아 사용해, 에이전트마다 Pod를 계속 유지하는 부담을 줄임
저장된 상태를 다른 워커에서도 복원할 수 있어, 실행 위치가 바뀌어도 세션과 작업 환경을 유지
gVisor 또는 Cloud Hypervisor 기반 마이크로VM으로 실행 환경을 격리하며, 일반 Linux 컨테이너만으로 실행하는 방식은 미지원
표준 OCI 컨테이너 이미지를 사용해 기존 에이전트와 도구를 패키징하며, 특정 모델이나 에이전트 SDK에 종속되지 않음
API 키와 인증정보는 샌드박스 밖에서 관리하고, 허용된 외부 요청에 게이트웨이가 인증정보를 주입
에이전트별 신원을 구분하고 네트워크를 분리하며, 게이트웨이에 외부 인증과 데이터 유출 방지 정책을 연동 가능
Kubernetes에 직접 배포하며, PostgreSQL과 스냅샷 저장소가 필요. 로컬 kind와 GKE 개발 환경 제공
Apache 2.0 라이선스