AI의 빠른 사고와 느린 사고: 메타인지의 역할 (2021)

SOFAI는 과거 경험으로 빠르게 답하는 시스템 1과 추론으로 문제를 푸는 시스템 2를 결합하고, 메타인지 에이전트가 자원과 기대 보상을 고려해 둘 사이를 중재하는 다중 에이전트 아키텍처임 시스템 1 우선으로 작동하며, 먼저 생성한 해답과 신뢰도를 바탕으로 추가 추론의 필요성을 판단함. 시스템 2가 항상 더 좋은 답을 낸다고 가정하지 않음 메타인지 판단도 빠른 1단계와 정밀한 2단계로 나뉨. 시스템 2를 실행해 얻을 추가 기대 보상이 실행 비용보다 클 때만 시스템 2를 활성화함 순차 의사결정에서는 매 단계마다 풀이기를 선택하거나 전체 의사결정 순서에 대해 한 번만 선택할 수 있음. 전자는 선택의 유연성을, 후자는 풀이기의 깊은 도메인 지식 활용을 지원함 제약이 있는 격자 경로 탐색과 인식적 계획 수립을 대상으로 구현을 진행 중임. 단일 방식 시스템보다 높은 유연성, 속도, 의사결정 품질을 목표로 하지만, 성능 검증 결과는 제공하지 않음 좁은 AI의 한계와 SOFAI의 목표 이미지 해석, 자연어 처리, 분류, 예측 등에서 AI가 발전했지만, 대부분 제한된 역량과 목표에 집중하는 좁은 AI에 해당함 성과는 개선된 알고리듬과 기법뿐 아니라 대규모 데이터셋과 연산 자원의 가용성에도 밀접하게 연결되어 있음 일반화, 적응성, 강건성, 설명 가능성, 인과 분석, 추상화, 상식 추론, 윤리적 추론 등은 여전히 부족함 암묵적 지식과 명시적 지식을 함께 활용하는 학습과 추론의 매끄러운 통합도 부족함 인간이 이러한 능력을 발휘하는 메커니즘을 AI 설계에 활용하기 위해, Daniel Kahneman의 빠른 사고와 느린 사고 이론에 기반한 SOFAI(SlOw and Fast AI) 를 제안함 목표는 메타인지가 없거나 시스템 1과 시스템 2를 구분하지 않는 단일 방식 시스템보다 유연성, 실행 속도, 의사결정 품질을 높이는 것임. 현재는 아키텍처 설계와 구현을 진행하는 단계임 인간의 시스템 1과 시스템 2 시스템 1은 직관적이고 빠르며 종종 무의식적으로 작동하지만, 답이 부정확할 수 있고 보통 설명을 제공하지 않음 무의식적 편향, 휴리스틱, 지름길에 의존해 잘못된 답을 낼 수 있음 부정확하고 불완전하더라도 세계 모형을 구축하며, 인과 추론으로 지식의 빈틈을 메워 일상적 자극에 합리적으로 대응하게 함 시스템 2는 시스템 1이 처리하기 어려운 복잡한 상황에서 추가 연산 자원, 집중적 주의, 정교한 논리적 추론을 사용함 복잡한 산술 계산과 다...