전업 글쓰기와 익명 활동을 그만두고 Guardian Angel을 출시합니다

Hacker News 의견들 전체 글은 https://gwern.net/guardian-angel에서 볼 수 있음 챗봇의 인격은 사용자가 아니라 소유 기업의 이해관계에 맞춰져 있고, 광고와 구독으로 사용자를 수익화하며 인간을 증폭하기보다 대체하려는 유인을 가짐. 결국 프로그래머·변호사·작가·연구자 모두 제거해야 할 병목이 될 수 있음. 그래서 GA의 세 원칙인 대체가 아닌 향상, 정신적 주권, 자아실현을 전적으로 지지함 고임금 사무직 지식 노동자를 완전히 제거하려는 발상이 새롭다는 반응이 놀라움. 노코드 플랫폼은 1980년대부터 있었고, 관계형 데이터베이스와 SQL조차 비싼 프로그래머 없이 데이터에 접근하는 수단으로 홍보됐음 1950년대 미국에서는 “인간을 없애라”는 표현이 무감각하게 받아들여졌기에, 당시 광고는 사람에게 더 중요한 일을 맡기자고 포장했음 ChatGPT가 처음 나왔을 때도 곧 완전히 쓸모없어질 거라는 얘기를 들었지만, 아직도 기다리는 중임 글의 많은 부분에 동의하지만, 명백한 윤리적 선택지인 개인용 컴퓨팅으로서의 AI를 피하는 듯해 인상적임 인류에게 도움이 되려면 모델을 가능한 한 많은 개인에게 직접 제공해야 함. 지금은 비용과 노력이 막대하지만 범용 컴퓨팅도 메인프레임과 공유 모델을 거쳐 개인화됐음. 개인용 컴퓨터가 인류에게 준 선물처럼, 자신의 프로그램을 성찰하고 인간의 언어로 말하는 인터페이스도 개인에게 돌아가야 함. 그보다 못한 것을 옹호한다면 결국 우리의 주인이 되려는 셈임 대체가 왜 문제인지 모르겠음. 경제 성장은 그런 식으로 일어나며, 말이나 인간 계산원도 향상시키는 대신 대체했음 GA 소속은 아니지만 gwern을 거의 10년간 알고 지냈고, 함께 GPT-2가 단순 자동완성을 넘어 체스를 둘 수 있음을 처음 입증하는 등 여러 프로젝트를 수행했음. 특히 자신의 연구가 미칠 영향을 진심으로 고민하고 주변 사람을 배려하는 인간적인 면모가 돋보였기에 지원을 고민하는 사람에게 추천하고 싶음 GA 자체도 추구할 가치가 있는 야심 찬 구상임. 자신처럼 말하고 어느 정도 자신처럼 사고하는, 더 똑똑한 자기 자신에게 얼마나 지불할지 생각해 보면 발상은 탄탄하고 초기 결과도 유망해 보임. 개인정보도 매우 진지하게 다루며, 공격자가 GA에 접근해 은행 계좌 정보를 빼낼 가능성 같은 위협에 대해 마음에 드는 기술적 해법을 마련했음 더 똑똑한 나를 소유주에게 빌려 쓰기 위해 돈을 내야 한다면 그것이 어떻게...