서재홍 한양대 교수팀, 얼굴인증 시스템 보안 취약점 규명

서재홍 한양대학교 수학과 교수 연구팀이 최근 딥러닝 기반 얼굴인증 시스템의 구조적 보안 취약점을 밝혀내 학계의 주목을 받고 있다. 얼굴 특징 벡터의 수학적 성질에 기반해 단 100번의 인증 시도로 얼굴 복원이 가능하다는 것을 입증한 것이다.

28일 관련 학계에 따르면 서 교수팀은 인공신경망 기반 얼굴인증 기술이 가진 수학적 구조를 분석해 최소한의 인증 시도만으로도 등록된 사용자 얼굴 이미지를 복원할 수 있는 가능성을 확인했다.

서 교수는 "딥러닝 기반 얼굴인식 모델이 특수한 수학적 조건을 만족하도록 학습된다는 점에 착안해, 직교기저(orthogonal basis) 역할을 하는 얼굴 이미지를 활용하는 방식으로 실험을 설계했다"며 이는 기존 방식보다 수천 배 효율적인 공격 기법이라고 설명했다.

이번 연구는 얼굴인증 시스템의 구조적 이해를 도모하고자 하는 학문적 시도에서 출발했다. 서 교수는 "딥러닝의 동작 원리는 여전히 수학적으로 명확히 규명되지 않은 영역"이라며 "이번 연구는 그 구조를 이해하고, 더 나은 방어 기법을 개발하기 위한 기반을 다지는 과정"이라고 강조했다.

서 교수는 얼굴인식 API(응용프로그램인터페이스)를 활용하는 서비스 기업에 공격에 대한 방어책으로 "유사도 점수 자체가 외부에 노출되지 않도록 설계하는 것이 핵심"이라고 조언했다.

이번 연구가 의미하는 바에 대해 서 교수는 "본 연구는 딥러닝 기반 얼굴인증 기술이 가진 알고리즘적 특성을 수학적으로 이해하는 데 중요한 기틀을 제공한 것"이라고 말했다.

한편 서 교수의 연구 논문 'Scores Tell Everything about Bob: Non-adaptive Face Reconstruction on Face Recognition Systems'는 작년 5월 미국 샌프란시스코에서 열린 정보보호 분야 최고 권위 국제학술대회인 'IEEE Symposium on Security and Privacy 2024'에서 발표됐다.

이민형 한경닷컴 기자 meaning@hankyung.com