지난해 3월 소셜미디어를 중심으로 미국 공화당 유력 대선주자인 도널드 트럼프 전 미국 대통령이 뉴욕 맨해튼에서 체포됐다는 설명이 담긴 사진이 확산됐다. 하지만 인공지능(AI) 기술로 생성한 딥페이크 이미지란 사실이 확인되면서 헤프닝으로 끝났다.

앞서 지난해 2월에는 조 바이든 대통령이 트렌스젠더 혐오 발언을 하는 가짜 영상이 유포돼 화제가 됐다.

이처럼 자신들이 지지하지 않는 정치인을 깎아내리기 위해 딥페이크 영상과 이미지가 사용한 사례는 흔한 일이 됐다. 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어인 딥페이크는 기존 영상을 다른 영상에 겹쳐서 만들어 내는 AI 기술을 기반으로 한 이미지 합성기술을 말한다.

◆세계 곳곳서 선거판 흔들어 = 특히 올해는 세계 각국에서 대선과 총선 등이 잇달아 치러지고 있어 각국 정부와 산업계가 허위정보와 가짜뉴스 방지에 총력을 다하는 분위기다.

실제로 세계 곳곳에서 딥페이크 영상이 선거에 큰 영향을 미친 사례들이 나타나고 있다.

지난해 5월 튀르키예 대선 당시 쿠르드족 분리주의 무장단체 쿠르디스탄노동자당(PKK)이 야당 연합의 케말 클르츠다로을루 후보를 지지하는 조작된 영상이 확산했다. 가짜 영상이란 사실이 밝혀졌지만 선거가 끝난 이후였다. 또 지난해 9월 슬로바키아 총선에서는 투표 이틀 전에 야당 대표의 “선거 승리를 위해 돈을 뿌려야 한다”는 음성이 퍼졌다. 딥페이크 기술을 이용한 가짜라는 사실이 밝혀졌지만 역시 선거가 이미 끝난 후였다.

◆정치인 자료 영상 구하기 쉬워 = 제22대 국회의원 선거(4.10 총선)를 목전에 둔 국내에도 팁페이크가 '발등의 불'이 됐다.

중앙선거관리위원회(선관위)가 21대 총선 이후 공직선거법 위반으로 온라인 게시물 삭제 요청을 한 사례는 6만815건(26일 현재)에 달한다. 딥페이크의 경우 경고 1건, 준수 촉구 1건, 삭제 요청 208건이었다.

정치인은 기자회견, 방송 출연, 국회 발언 등 다양한 자료 영상을 확보하기 쉬워 딥페이크 제작이 쉽기 때문이다.

선관위 등에 따르면 유튜브에 올라온 일부 영상 가운데 정치인들이 총선 후보자를 비난하고 조롱하는 모습이 딥페이크 기술로 제작됐다. 영상 속 정치인들의 얼굴과 목소리는 실제 정치인과 흡사했지만 인공지능(AI)을 활용한 딥페이크 영상으로 드러났다고 한다.

◆선관위, 모니터링에 62명 투입 = 사정이 이렇다보니 선관위는 물론 경찰, 각 정당이 딥페이크 가짜 콘텐츠를 찾아내 걸러내는데 총력을 기울이고 있다.

지난해 12월 28일 여야는 선거일 90일 전부터 선거운동을 위해 인공지능을 이용해 만든 딥페이크 영상을 제작·편집해 유포·게시할 수 없도록 하는 ‘딥페이크 선거운동 금지법’(공직선거법 개정안)을 통과시켰다. 새 법은 지난 1월 29일부터 시행됐다. 이를 위반하면 7년 이하 징역 또는 1000만원 이상 5000만원 이하 벌금형에 처한다.

선관위는 지난 1월 11일부터 경기도 과천청사에 전문가와 모니터링 전담 요원 62명으로 구성된 ‘허위사실 비방 AI 딥페이크 특별대응 모니터링반’을 설치·운영하고 있다.

이들은 총 3단계의 과정을 통해 딥페이크를 골라낸다. 우선 선관위에서 구축한 AI 기반 ‘지능형 사이버 선거범죄 대응 시스템’을 이용해 온라인상에서 선거범죄 가능성이 있는 정치 관련 게시물 등을 자동으로 수집한다. 시스템이 잡아내지 못하는 게시글은 요원들이 직접 특정 단어나 논쟁거리를 직접 검색해 식별한다.

모니터링반은 2단계에서 수집된 게시물이 딥페이크가 맞는지 확인하는 범용 프로그램을 활용한다. 마지막으로 범용 프로그램으로 판단이 어려운 게시물에 대해서는 전문가로 구성된 자문위원들이 판단한다.

선관위 관계자는 “기술적 한계를 보완하기 위해 3단계 감별을 통해 신뢰도를 높이고 있다”면서 “기술 발달로 실제와 구분하기 어려운 가상 영상을 누구나 쉽게 만들 수 있는 상황이 된 만큼, 유권자들도 선거공보나 후보자토론회 등 공식 선거운동방법과 신뢰성 있는 언론매체 등을 통해 종합적으로 후보자의 자질과 공약을 따져 봐야 한다”고 말했다.

◆시도경찰청 사이버 수사대가 직접 관할 = 경찰은 딥페이크 선거 범죄의 경우 전문 수사역량을 갖춘 시도경찰청 사이버수사대에서 직접 수사하기로 하는 등 엄정 대응할 방침이다.

경찰은 최근 딥페이크 판별 소프트웨어를 개발했다. 소프트웨어는 페이스 스왑(Face Swap·영상 등에서 얼굴을 인식하고 교체하는 AI 딥러닝 기술) 등 딥페이크 기술이 쓰인 것으로 의심되는 영상을 시스템에 올리면 통상 5~10분 이내에 분석 작업을 완료해 진위를 판별한다.

특히 판별이 완료되면 결과보고서를 즉시 만들어내 수사에 곧바로 활용할 수 있다. 다만 경찰은 소프트웨어의 진위 여부 탐지율이 약 80%인 점을 고려해 수사 방향을 설정하는 자료로 활용한다.

국가수사본부 관계자는 “딥페이크 이용 여부가 의심될 때 빠른 분석과 결과 확인을 거쳐 적극적으로 수사할 수 있을 것”이라며 “향후 더욱 정확한 탐지가 이뤄지도록 소프트웨어를 고도화하고 선거범죄, 합성 성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다”고 말했다.

민간도 힘을 보태고 있다.

최근 네이버, 카카오, SK커뮤니케이션즈는 총선의 공정성, 신뢰성을 제고하기 위해 악의적 선거 딥페이크 사용 방지를 위한 공동선언을 채택했다. 중앙선거관리위원회와 협력해 포털 등에서 딥페이크 영상을 이용한 허위 조작정보가 명확히 확인된 경우 빠르게 조치한다는 방침이다.

◆선거법 위반행의 486건 적발 = 한편 선관위는 지난 26일까지 4·10 총선 관련 공직선거법 위반 행위 486건을 적발해 조치했다. 이중 98건을 고발했고, 10건을 수사의뢰했다. 380건에 대해서는 경고 등의 행정조치를 했다.

지난 2월 강원지역 한 지방의회의원이 대한노인회 지회장과 공모해 총선 입후보예정자를 위해 노인회 임원 등 15명에게 31만원 상당의 식사를 제공한 혐의로 고발됐다. 또 경북의 한 노동조합 위원장은 노조 내 조직을 특정 예비 후보자 선거 운동에 활용하고, 조합원들에게 선거운동을 하게 한 혐의로 고발됐다. 선관위는 또 경남 예비 후보자의 선거 대책기구 관계자가 선거구민이 탑승한 관광버스 안에서 확성장치를 이용해 선거운동을 하고 모임 회장에게 현금 30만원을 기부한 혐의에 대해서도 고발했다.

인터넷 언론사 선거 보도 심의 조치 현황을 보면 공정 보도 준수 촉구 조치가 156건, 주의 7건, 주의 조치 알림문 게재 2건, 경고 2건 등으로 나타났다.

선거 여론조사와 관련해서는 경고 등의 조치가 72건, 고발 조치가 22건, 과태료 부과가 4건이었다.

장세풍 기자 spjang@naeil.com