그냥 말하면 된다

• 인간의 가치를 창작물이나 업무 산출물의 품질로 평가하면, AI와 인간의 능력 격차에 인간 존엄을 걸게 되어 위험함
• 인간 선호 논리는 AI가 못 하거나 인간이 더 잘한다는 전제에 기대지만, 현재와 미래의 프런티어 모델에도 유지될지는 불확실함
• 창작물의 품질은 의도한 일을 수행하는지로 판단할 수 있으며, 이때 의도와 물질적 형식을 함께 봐야 함
• 생성형 AI는 최소한의 의도만으로도 그럴듯한 형식을 만들 수 있어, AI slop처럼 형식 뒤의 의도가 흐려지기 쉬움
• 더 단단한 기준은 “인간은 가치 있다”이며, 인간의 존엄성은 능력이나 벤치마크 점수에 의존하지 않음

인간 가치와 AI 능력 격차

• 인간의 가치를 창작물이나 업무 산출물의 품질로 평가하는 방식은 AI와 인간 사이의 능력 격차에 의존해 불안정함
• AI 시대에도 인간을 선호해야 한다는 논리는 보통 AI가 어떤 역할을 절대 수행할 수 없거나, 인간이 더 잘하거나, 인간 산출물에 AI가 재현하지 못하는 미묘한 스타일이 있다는 전제에 놓임
• 이런 논리는 2023년 무렵 ChatGPT 같은 과거 모델에서는 더 설득력 있었을 수 있지만, 현재와 미래의 모델에도 계속 성립할지는 확실하지 않음
• 더 단단한 기준은 “인간은 가치 있다”이며, 이는 최신 프런티어 모델의 특정 벤치마크 점수 같은 시점 의존 조건에 묶이지 않음
• Magnifica Humanitas, §50는 “인간의 존엄성은 사람의 능력에 의존하지 않는다”는 문장으로 같은 방향을 뒷받침함

창작물의 품질, 의도, 형식

• 창작물의 품질은 그것이 효과적인지, 의도한 일을 수행하는지로 판단할 수 있으며, 여기에는 의도와 물질적 형식이라는 두 요소가 있음
• 많은 창작물 가치 논의는 형식에 지나치게 집중하고 의도를 상대적으로 덜 다룸
• 창작은 의도를 형식으로 증류하는 과정이며, 인간은 마음속 이미지에 충분히 가까워질 때까지 창작물을 반복적으로 다듬음
• 생성형 AI의 특이점은 최소한의 의도만으로도 상당한 형식을 만들어낼 수 있다는 데 있음
• “상사에게 보낼 사직서를 써줘” 같은 요청에서도 인간의 목적이 불명확한 채로 AI가 그럴듯한 결과를 만들어낼 수 있음
• AI slop은 형식 뒤의 의도를 식별하기 어려울 때 쓰기 좋은 개념일 수 있음
• 인간도 의도 없는 형식을 만들 수 있지만, 생성형 AI는 그런 형식을 만드는 진입 장벽을 낮췄음
• intentless form은 의도 없는 형식 문제를 다루는 연결 자료임
• 산문에서는 잘 다듬어진 프롬프트가 이미 의도한 형식에 가까울 수 있음
• LLM으로 인간 커뮤니케이션을 중재하는 문제와 관련해, Tom Hudson은 LLM으로 이메일을 쓸 거라면 차라리 프롬프트를 보내는 편이 실제로 무슨 말을 하려 했는지 알 수 있어 낫다고 봄
• 생성형 AI의 병리는 식별 가능한 의도 없이도 너무 쉽게 상당한 형식을 허용한다는 데 있으며, 손으로 직접 만들 때는 이런 실수가 더 어렵게 발생함