경찰이 5~10분 내 ‘가짜 영상’을 분석·판별할 수 있는 기술을 개발했다.

경찰청 국가수사본부(국수본)는 ‘딥페이크(Deepfake) 탐지 소프트웨어’를 개발해 관련 범죄 단속에 본격적으로 활용한다고 5일 밝혔다.

딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어인 딥페이크는 기존 영상을 다른 영상에 겹쳐서 만들어 내는 인공지능(AI) 기술을 기반으로 한 이미지 합성기술을 말한다.

특히 AI 기술이 급격히 발달하면서 딥페이크 이용 범죄의 위험이 커지고 있다. 특히 제22대 총선을 앞두고 딥페이크 영상을 이용한 허위정보 유포 또는 여론조작에 대한 우려가 확산되고 있다.

◆세계 곳곳서 선거판 흔들어 = 실제로 세계 곳곳에서 완성도가 높지 않은 딥페이크 영상이 선거에 큰 영향을 미친 사례들이 나타나고 있다.

지난해 5월 튀르키예 대선 당시 쿠르드족 분리주의 무장단체 쿠르디스탄노동자당(PKK)이 야당 연합의 케말 클르츠다로을루 후보를 지지하는 조작된 영상이 확산했다. 가짜 영상이란 사실이 밝혀졌지만 선거가 끝난 이후였다.

지난해 9월 슬로바키아 총선에서는 투표 이틀 전에 야당 대표의 “선거 승리를 위해 돈을 뿌려야 한다”는 음성이 퍼졌다. 딥페이크 기술을 이용한 가짜라는 사실이 밝혀졌지만 역시 선거가 이미 끝난 후였다.

국내에서도 최근 사회관계망서비스(SNS)를 통해 윤석열 대통령 관련 가짜 영상이 퍼져 논란이 됐다.

해당 영상은 ‘가상으로 꾸며본 윤석열 대통령 양심고백연설’이라는 제목의 46초 분량으로 윤 대통령이 등장해 “무능하고 부패한 윤석열정부는 특권과 반칙, 부정과 부패를 일삼았다”며 “저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”라는 발언이 나온다.

하지만 영상은 윤 대통령이 후보자였던 2022년 2월 제20대 대선 후보 방송 연설을 짜집기한 조작된 영상이다.

경찰은 방송통신심의위원회에 해당 영상에 대해 삭제 및 차단을 요구했고 방심위는 긴급소위를 열고 접속 차단을 의결했다.

◆5400명 관련 데이터 520만점 학습 = 경찰이 이번에 개발한 소프트웨어는 페이스 스왑(Face Swap·영상 등에서 얼굴을 인식하고 교체하는 AI 딥러닝 기술) 등 딥페이크 기술이 쓰인 것으로 의심되는 영상을 시스템에 올리면 통상 5~10분 이내에 분석 작업을 완료해 진위를 판별한다.

또한 판별이 완료됨과 동시에 결과보고서를 즉시 만들어내 수사에 곧바로 활용할 수 있도록 한다.

기존에 만들어진 딥페이크 탐지 모델은 해외에서 제작돼 서양인 위주의 데이터로 구성된 것이 대부분이었다. 이로 인해 한국인을 대상으로 합성된 영상에 대해서는 탐지율이 떨어지는 문제점이 있었다.

새로 개발한 소프트웨어는 한국인 데이터 100만점, 아시아 계열 인종 데이터 13만점 등 한국인과 관련한 인물 5400명의 데이터 520만점을 바탕으로 다양한 학습이 이뤄졌다. 특히 기존에 학습된 데이터가 아닌 새로운 형태의 합성 영상이 발견되더라도 대응할 수 있도록 최신 AI 모델을 적용했다.

해당 소프트웨어의 진위 여부 탐지율은 약 80%에 달한다. 다만 경찰은 탐지율이 100%가 아닌 점을 고려해 증거자료보다는 수사 방향을 설정하는 자료로 활용할 예정이다. 또 딥페이크와 관련한 새로운 기술이 끊임없이 개발·전파되는 만큼 딥페이크 영상 선거범죄에 대해선 학계·기업 등 AI 전문가로 구성된 민간 자문위원의 교차 검증을 받아 소프트웨어의 오탐지 가능성을 최소화할 계획이라고 경찰은 전했다.

국수본 관계자는 “딥페이크 이용 여부가 의심될 때 빠른 분석과 결과 확인을 거쳐 적극적으로 수사할 수 있을 것”이라며 “향후 더욱 정확한 탐지가 이뤄지도록 소프트웨어를 고도화하고 선거범죄, 합성 성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다”고 말했다.

◆AI영상 선거에 활용 못해 = 중앙선거관리위원회는 지난 1월 29일부터 선거운동에서 딥페이크 콘텐트가 활용되는 것을 규제하기 시작했다. AI 기능이 포함된 프로그램으로 만든 영상·사진·음향을 본인의 당선이나, 상대 후보의 낙선을 위해 사용하는 것을 금지하고 있다. 제3자가 특정 후보의 당선 혹은 낙선을 위해 조작된 영상·사진·음향을 제작해 배포하는 것도 불법이다. 만약 이를 어기면 7년 이하 징역 또는 1000만원 이상 5000만원 이하 벌금을 부과한다. 이는 지난해 12월 말 국회가 공직선거법을 개정한데 따른 것이다.

경찰 역시 딥페이크 선거 범죄는 전문 수사역량을 갖춘 시도경찰청 사이버수사대에서 직접 수사하기로 하는 등 엄정 대응 방침을 밝혔다.

방송통신심의위원회에 따르면 국내에서 딥페이크 성적 허위 영상물에 차단·삭제 시정을 요구한 사례는 지난해 1월부터 11월까지 5996건으로 집계됐다. 2020년 473건, 2021년 1913건, 2022년 3574건으로 지속 증가하는 추세다.

중앙선거관리위원회는 지난 1월 29일부터 2월 16일까지 딥페이크를 활용한 선거운동으로 공직선거법을 위반한 게시물 129건을 적발했다.

장세풍 기자 spjang@naeil.com