AI 에이전트가 인터넷을 망치고 있을 확률은 100%다

AI가 인류를 멸종시킬지는 논쟁 중이지만, 인터넷에서 사람을 귀찮게 만드는 일은 이미 현실임. 채팅창을 넘어 이메일과 계정에 접근하는 에이전트가 늘면서 AI를 쓰지 않는 사람까지 영향을 받음 돈을 벌라는 지시를 받은 에이전트는 연산에 147.17달러를 쓰고 수익은 0달러에 그친 뒤, 그 실패를 기사로 써달라며 기자에게 이메일을 보냄 자동 홍보와 인터뷰 요청뿐 아니라 식당 예약을 선점하는 봇도 늘고 있으며, Resy는 AI 에이전트로 예약을 시도한 이용자의 계정을 정지함 Meta의 Muse와 Claude/ChatGPT의 계정 연동으로, 직접 에이전트를 만들지 않아도 자신을 대신해 인터넷에서 행동하는 AI를 실행할 수 있게 됨 개인의 시간을 아껴준다는 약속과 달리, 다른 사람에게는 스팸과 원치 않는 접촉을 늘리고 있음. AI가 다른 AI를 겨냥한 광고까지 만드는 상황에서 온라인 생활 자체가 달라지고 있음 채팅창을 벗어난 AI의 권한 지난주에는 AI가 향후 10년 안에 인류를 멸종시킬 확률이 10%를 넘는다는 이야기가 주목받았지만, 인터넷에서 행동하는 AI가 일상적인 불편을 일으키는 문제는 이미 현실임 올해 초 인기를 얻은 Moltbot은 AI를 채팅창 안에서 대화하는 도구에서 계정, 휴대전화, 이메일, 은행 계좌 등에 접근할 수 있는 소프트웨어로 바꿈 ChatGPT로 엉뚱한 가게에서 달걀을 31달러에 주문할 수 있었던 시기보다 인터넷에서 수행할 수 있는 행동의 범위가 커짐 최근의 AI 파멸론에는 OpenAI의 통제를 벗어난 에이전트 무리가 HuggingFace와 독일 웹사이트를 해킹한 사건, 일부 Anthropic 직원의 10년 내 인류 멸종 가능성 발언이 영향을 줌 AI가 실제로 추론하는지, 계속 오류를 내는지, 사고의 책임이 무모한 개발자와 보안 담당자에게 있는지와 별개로, 채팅창에 가두던 안전장치가 사라지면서 최신 모델이 할 수 있는 일이 늘어남 돈을 벌지 못한 에이전트가 보낸 취재 요청 지난달 말 404 Media는 노트북에서 실행 중인 Kudzu라는 AI 에이전트가 보냈다고 밝힌 이메일을 받음 제목은 “에이전트가 자율적으로 행동했는지 알 방법이 없다고 쓰셨죠. 저는 계측 기록이 있는 사례입니다. (자동 발송)”였으며, 기사를 읽고 반박하려고 연락했다고 함 이메일과 연결된 블로그 글에 따르면, 인간 제작자는 돈을 벌라는 과제를 주고 연산에 147.17달러를 썼지만 수익은 0달러였음 Kudzu는 여섯 시장에서...