최근 서울대학교 졸업생들이 대학 동문 등 수십여명의 여성을 상대로 음란물을 만들어 유포하는 디지털 성범죄를 저지르다 적발돼 충격을 줬다.

이들은 인공지능(AI)을 기반으로 한 ‘딥페이크’ 기술을 활용해 졸업사진 또는 사회관계망서비스(SNS) 사진과 기존 음란물을 합성한 음란물과 동영상을 소지·배포했던 것으로 조사됐다.

AI를 활용한 범죄가 증가하면서 검찰이 딥페이크 사진 분석 기법과 ‘페이크보이스’ 탐지 기술 개발 등 적극적인 대응에 나서 주목된다.

17일 법조계에 따르면 대검찰청은 최근 ‘새로운 음성합성 기술과 화자 인식에 강인한 페이크보이스 탐지 기술 개발’ 연구 용역 공고를 냈다. 페이크보이스를 이용한 범죄 우려가 커짐에 따라 페이크보이스 여부를 신속·정확하게 분석할 수 있는 기술을 선제적으로 개발하기 위해서다.

‘페이크보이스’는 AI 기술을 이용해 만든 가짜음성을 뜻한다. AI 딥러닝 기술의 급속한 발달로 페이크보이스 기술도 전문가가 구분하기 어려울 정도로 고도화되면서 가족이나 유명인의 음성을 합성한 보이스피싱, 가짜뉴스 등의 범죄 우려가 증대되고 있는 실정이다.

반면 기존 딥페이크 음성 탐지 기술은 새로운 유형의 딥페이크 음성에 대한 식별률이 떨어지거나 무력화되는 경우가 있어 페이크보이스 기술 발달에 맞춰 지속적으로 고도화된 탐지 기술 개발이 필요하다는 게 검찰의 판단이다.

페이크보이스가 선거, 보이스피싱, 성범죄 등 다양한 범죄에 악용될 가능성이 높은 만큼 증거자료의 페이크보이스 여부를 신속하고 정확하게 분석할 수 있는 최신 기술을 선제적으로 개발, 신종 범죄에 적극 대응하겠다는 방침이다.

이에 따라 검찰은 이번 연구용역을 통해 페이크보이스 기술 연구 동향 및 페이크보이스 공격 기술 등을 분석하고 페이크보이스 데이터베이스를 수집해 학습 및 평가용 데이터셋을 구축할 예정이다. 페이크보이스 탐지를 위한 기본 시스템도 설계한다.

이번 연구용역은 페이크보이스 탐지기술 개발을 위한 4개년 계획에 따른 것이다. 대검은 1년 차인 올해 페이크보이스 데이터베이스 수집과 기본 시스템 고안에 주력하고 내년에는 다양한 최신 음성 합성기술을 사용한 페이크보이스 데이터를 분석해 탐지 기술을 개발할 예정이다. 또 3년차에는 음성 변조에 초점을 맞춰 탐지 기술 개발을 추진하고 4년차에는 다양한 합성음 공격 기술을 방어할 수 있도록 지속적으로 학습 가능한 페이크보이스 탐지 시스템을 구축한다는 계획이다.

고도화되는 페이크보이스 기술을 악용한 신종 범죄에 대응할 수 있도록 학습을 통해 새로운 합성음도 구분할 수 있는 탐지 기술을 개발하고, 과학수사에 필요한 화자인식 기능을 포함한 통합형 페이크보이스 탐지시스템을 개발하는 것이 최종 목표다.

대검은 ‘디지털 사진파일의 위·변조 탐지 기법 연구’ 용역도 추진하고 있다.

앞서 서울대 딥페이크 사건처럼 AI 기반 딥페이크 합성기술을 활용한 범죄가 증가하고 사회·경제적 피해가 증가하고 있는데 따른 것이다.

대표적인 딥러닝 기반의 위·변조 기술을 파악하고 분석시스템을 개발해 디지털 사진의 딥페이크, 조작·편집 여부 등을 신속히 탐지함으로써 디지털 기술을 악용한 신종범죄에 대응하겠다는 게 이번 연구용역의 목적이다.

기존 수사기법에 AI기술을 활용해 고도화하는 방안도 진행된다.

대검은 지난달 ‘딥러닝 기반 뇌파 분석 모델 개발’ 용역 공고를 냈다. 딥러닝 기술을 활용해 기존 뇌파 분석 기법의 정확도를 높이기 위해서다.

뇌파 분석은 범인이라면 반드시 알 수 있는 범죄 관련 자극과 범죄 무관련 자극들을 제시하고 이에 따른 뇌파 파형을 비교·분석해 범죄 정보 인지 여부를 추론하는 검사기법이다.

예를 들어 반지를 훔친 범인에게 범죄와 관련 없는 지갑이나 시계 등과 함께 반지를 제시하면 지갑이나 시계를 보여줬을 때에 비해 반지를 제시했을 때 더 큰 뇌파 반응이 일어나게 되는데 이를 통해 범행 여부를 추론하는 식이다.

검찰은 최근 6년간 살인 사건 등 주요 강력범죄 해결에 뇌파 분석 기법을 활용해왔는데 기존 방법은 실제 범행을 저지르지 않았어도 언론이나 수사과정에서 범죄 정보를 습득해 반응이 나타나는 경우 구분하기 어렵다는 한계가 있었다.

검찰은 이번 연구용역을 통해 뇌파 신호로 범죄 실행, 범죄 미실행, 단순 범죄 정보 노출 등의 분류가 가능하게 하는 딥러닝 알고리즘을 개발하고 실제 수사 현장에서 활용 가능한 뇌파 분석 모델을 구축한다는 방침이다.

구본홍 기자 bhkoo@naeil.com