AI로 개발할 때 진짜 위험: 못 만드는 게 아니라, 잘못 생각한 걸 너무 잘 만들어준다

AI에게 코딩을 맡겨 커뮤니티 서비스를 혼자 만들다가 겪은 일입니다.

별에 이름과 태그가 있는데, "이름을 바꾸면 태그도 같이 바뀌어야 하지 않나?" 싶었습니다.
당연해 보였습니다.
그런데 구현을 바로 시키지 않고 "구조부터 확인하고 결과만 보고 멈춰"라고 했더니, 돌아온 답이 제 전제를 뒤집었습니다.
이름과 태그는 완전히 독립된 구조였고, 자동으로 묶으면 오히려 검색 유입이 조용히 끊기는 함정이었습니다.

만약 그대로 시켰다면? 아마 잘 구현됐을 겁니다. 요구대로 정확하게. 잘못된 요구를 잘 구현한 결과물이요.

AI로 개발할 때 진짜 위험은 못 만드는 게 아니라, 내가 잘못 생각한 걸 너무 잘 만들어주는 것 같습니다. 그리고 이번에 AI가 잘한 건 코드를 쓴 게 아니라 스키마를 읽고 제 전제를 반박한 것이었습니다. 사람이 표면을 보고 AI가 구조를 보는 분업이 요즘은 코드 생성보다 더 쓸모 있게 느껴집니다.

전문은 링크에 정리해 뒀습니다.