AI환각 잡는 '엄격한 족보' 온톨로지

생성형 인공지능(AI)을 실무에 도입하려는 기업의 가장 큰 걸림돌은 환각과 각 에이전트마다 다르게 정의된 언어다. 이 경우 AI가 사실과 다른 정보를 제공하거나 부서간 소통을 방해할 수 있다. 특히 보안이 중요해 부서 간 장벽이 있는 금융회사나 공공기관에는 치명적이다. 이런 가능성을 배제하기 위해 주목하는 게 컴퓨터 공학의 지식 체계인 ‘온톨로지’다.

온톨로지는 그리스어로 ‘존재(onto)’와 ‘학문(logia)’이 결합한 철학 용어다. 세상에 존재하는 사물과 개념의 본질을 분류하고 규명하는 학문이다. AI 업계는 온톨로지를 ‘특정 도메인에서 개념과 그 관계를 형식적으로 정의한 지식 모델’로 본다. 기존 대규모언어모델(LLM)이 세상의 모든 글을 학습해 대본을 외운 ‘배우’라면, 온톨로지는 그 대본의 사실 여부와 인물 관계를 낱낱이 기록해 둔 ‘족보’에 가깝다.

AI의 환각 문제는 데이터 부족보다는 의미 기준의 불확실성이나 도메인의 규칙 부재 등에서 비롯된다. 이에 따라 온톨로지는 정보를 크게 다섯 가지 뼈대로 구조화한다. 개체를 묶어 클래스를 만들고, 개체가 지닌 특징인 속성과 계체간 연결된 관계를 정의한다. 이 사이의 규칙까지 정리해 AI를 학습시킨다.

이렇게 학습한 AI는 ‘애플’이란 단어가 사과인지 기업을 말하는지 혼돈하지 않고 답한다. 애플(개체)은 기업(클래스)에 속하며 ‘아이폰을 제조한다(관계)’가 명확히 성립해 학습했기 때문이다.

온톨로지가 단순 검색을 넘어 스스로 판단·실행하는 에이전틱 AI 시대에 복잡한 맥락을 쉽게 파악하도록 돕는 핵심 기능이 된 이유다. AI 선두주자 기업 팰런티어가 특히 온톨로지를 잘 활용한다. 데이터 정제에만 수주가 걸리던 복잡한 항공기 센서 데이터를 온톨로지로 구조화해 전문 분석가뿐만 아니라 현장 엔지니어와 설계자 누구나 즉시 결함을 예측하고 설계를 개선할 수 있는 모델을 만들었다.

라현진 기자 raraland@hankyung.com