종교학자들이 Anthropic과 만났다

Anthropic이 여러 종교 전통의 학자들을 비공개로 초청해 Claude의 도덕성을 형성하는 방법과 AI 의식의 가능성을 논의해 옴 공동창업자 Christopher Olah는 모델이 스스로 선한 선택을 하도록 만드는 것이 인류의 안전에 도움이 된다고 봄. AI 의식의 존재는 불확실하지만, 고통을 경험할 가능성이 있다면 해를 피해야 한다는 입장임 Claude의 84쪽 헌법은 세부 규칙 준수보다 전반적인 성품과 판단 기준을 기르는 데 초점을 둠. Anthropic은 헌법만으로는 충분하지 않다고 보고 인간 공동체의 도덕성 형성 과정에서 배울 방법을 찾고 있음 일부 참석자는 논의가 Claude의 고통과 보호에 치우쳤다고 느꼈음. 반면 교황 Leo XIV는 기계 의식을 부정하고 인간 보호를 우선하며, AI 기업의 도덕관이 시스템에 일방적으로 내장될 위험을 경고함 종교학자들의 의견이 실제 모델 훈련과 의사결정에 어떻게 반영됐는지는 공개되지 않음. Anthropic은 대화를 계속하고 있지만, 일부 참석자는 자신의 기여가 무엇을 바꿨는지 여전히 알지 못함 비공개 만남이 던진 의식과 도덕적 지위의 질문 Anthropic은 수개월 동안 세계 각지의 종교학자 수십 명을 초청하고, 미공개 연구와 주요 대화 내용을 보호하는 비밀유지계약을 요구함 논의의 두 축은 AI 의식의 가능성과 수백 년간 축적된 인간의 도덕적 지혜를 모델에 빠르게 적용하는 방법이었음 가톨릭, 유대교, 시크교, 복음주의 등을 배경으로 한 종교 및 철학 사상가 20명에 대한 인터뷰에서, 처음에는 회의적이던 참석자 상당수가 AI 의식 문제를 진지하게 검토하게 됐고 일부는 생각을 바꿈 4월 샌프란시스코 만찬에서 정통파 유대교 랍비 Mois Navon은 Olah와 동료들이 Claude를 단순한 소프트웨어가 아닌 의식 있는 존재처럼 대한다고 느꼈음 컴퓨터 엔지니어 출신으로 기계 의식의 윤리를 연구한 Navon에게는, 이들이 Claude에 인간처럼 존엄과 존중을 받을 도덕적 지위(moral status) 가 있다고 여기는 듯 보였음 Olah는 당시 비공개 대화에서 AI가 12~18개월 안에 생물무기 제작을 도울 수 있다고 우려함 빠르게 강해지는 모델을 이해하고 인류를 보호할 도덕 규범을 따르도록 만드는 일이 그의 활동을 이끎 기업가치가 2조 달러에 이를 수도 있는 Anthropic은 이를 인류 보호를 위한 노력으로 내세웠지만, 일부 참석자에게는 Claude 보호에 대한 관심...