인공지능은 자본주의의 최종 목적지다

AI 산업은 인류가 축적한 지식과 창작물을 기업 자산으로 전환하고, 접근권과 가격을 통제하는 새로운 식민화 체제라는 비판을 받음 인류 멸종 위험을 강조하는 논쟁이 AI 기업의 권력을 오히려 키우는 반면, 무기화, 차별 재생산, 환경 파괴처럼 이미 발생하는 피해는 밀려나고 있음 거대 AI 기업의 규제 요구에는 국가와의 결합, 자원 확보, 소규모 경쟁자 배제라는 이해관계가 있으며, 통제권을 내주지 않은 채 정당성을 얻으려 한다는 비판을 받음 편리한 소비자용 AI와 의료 분야의 가능성은 인정하지만, 그 이면의 무단 학습과 저임금 데이터 노동, 데이터센터 자원 소비와 노동자 대체 문제를 함께 봐야 함 기본소득이나 AI 기업 지분 배분만으로는 권력 집중과 남반구의 자원 수탈을 해결하기 어려우며, Roy는 규제를 넘어 AI 기업 자체를 끝내야 한다고 요구함 언어와 신뢰를 흔드는 AI Arundhati Roy는 AI 시대를 ‘실제 어리석음’, ‘실제 초어리석음’, ‘재귀적으로 눈덩이처럼 커지는 어리석음’으로 풍자하며, AI를 받아들이지 않으면 뒤처진다는 압박을 비판함 대시 사용만으로 AI 문장을 의심하고, 다시 AI 앱으로 진위를 판별하는 상황은 언어에 대한 인간의 직관을 기술에 넘기는 문제와 연결됨 대시를 즐겨 쓴 Emily Dickinson의 작품마저 기계에 흡수되고 의심받게 되는지를 질문함 요한복음의 “태초에 말씀이 있었다”는 구절을 빌려, 인간과 언어의 근본적 관계가 훼손되면 사회적 결속도 무너질 수 있다고 봄 문학계에서는 교수들이 학생 과제를 의심하고 출판사가 신인 작가의 원고를 범죄 현장처럼 검토해야 하면서, 읽기와 배움의 즐거움이 기계적인 진위 조사로 바뀌고 있음 진실과 거짓, 가상과 현실, 자기 자신과 복제물을 구분하지 못하고 언어와 문화가 뒤섞이면 집단적 정신 붕괴로 이어질 수 있다는 우려가 있음 다만 이런 불안이 산업혁명이나 컴퓨터 등장 때와 같은 새 기술에 대한 도덕적 공황인지, 실제로 파국적인 단절인지는 구별할 필요가 있음 멸종 경고와 현재의 피해를 대하는 차이 Anthropic 직원 Jacob Coxon은 인류를 절멸시킬 가능성이 있는 프로젝트에서 일할 수 없다는 이유로 사직했으며, 이후 주요 AI 기업 CEO들이 그의 경고에 동의하거나 반박하는 논쟁에 참여함 Roy는 이익과 선점 경쟁이 주도하는 개발 현장을 맨해튼 프로젝트보다 더 극단적인 상황에 비유함 기업 지도자들은 문명 종말의 가능성을 인정하면...