AI가 인시던트를 처리할수록 엔지니어는 시스템 감각을 잃는다

AI SRE가 경보 분석부터 가설 수립, 텔레메트리 조회, 배포 내역 연계, 수정까지 맡으면 평균 복구 시간은 줄어들지만, 엔지니어가 시스템의 동작과 장애 방식을 체득할 기회도 감소함 자동화는 일상적인 대응 경험을 없애면서 사람이 해결해야 할 새롭고 비정상적인 장애만 남기므로, 운영자에게 이전보다 높은 숙련도와 더 많은 훈련이 필요함 항공업계는 드문 실패에 대비해 조종사를 정기적으로 시뮬레이터에서 훈련하며, 미국 FAA 규정상 기장은 이륙 중 엔진 고장 등을 다루는 교육이나 숙련도 검사를 6개월마다 받아야 함 Rootly와 Uptime Labs의 시뮬레이션에서는 엔지니어가 전자상거래 장애를 조사하고 Slack의 LLM 기반 이해관계자와 소통하며, 불완전한 정보 속 판단과 조율을 직접 연습함 LLM 의존으로 시스템 작동 방식과 대응자의 이해 사이에 이해 부채(comprehension debt) 가 쌓이지 않도록 실습형 시뮬레이션을 온콜 준비 과정에 정기적으로 포함해야 함 자동화가 가장 어려운 장애만 사람에게 남김 AI 보조 인시던트 대응 도구인 이른바 AI SRE는 경보를 조사하고 가설을 세우며 텔레메트리를 조회함 최근 배포와 장애 신호를 연계하고 직접 수정까지 구현할 수 있음 야간의 일상적인 용량 문제를 처리하면 엔지니어가 호출에 응하지 않아도 됨 그러나 일상적인 인시던트는 대응자가 시스템의 정상 동작과 실패 방식을 비교적 안전하게 체득하는 기회이기도 함 AI가 해결하지 못하는 전례 없고 어려운 장애가 발생하면 엔지니어는 과거보다 실전 경험이 부족한 상태에서 대응을 넘겨받게 됨 자동화의 역설과 복구 시간의 양극화 인간공학 연구자 Lisanne Bainbridge는 1983년 논문 The Ironies of Automation에서 자동화의 역설을 다룸 자동화는 운영자가 일상 업무를 연습할 기회를 줄임 새롭고 비정상적인 상황에 대한 책임은 계속 사람에게 남음 따라서 운영자는 자동화 이전보다 더 숙련돼야 하며 더 많은 훈련을 받아야 함 AI 보조 대응은 대부분의 인시던트에서 평균 복구 시간(MTTR)을 낮출 수 있음 반면 복잡한 인시던트에서는 대응자가 시스템 감각을 잃어 조사에 어려움을 겪고, 해결 시간이 크게 늘어날 수 있음 항공업계는 드문 실패를 반복 훈련함 항공기는 비행의 상당 부분을 자동화하지만, 엔진 고장·신뢰할 수 없는 계기·이륙 중단·실속처럼 자동화가 처리하지 못하는 비정상 상황은 조종사가 책임짐 현대 ...