딥페이크를 이용한 성범죄가 빠르게 증가하는 가운데 그 대상이 청소년으로 까지 확산되고 있다. 최근 군 장병에게 쓴 위문편지가 공개되며 논란이 발생한 서울의 한 여고 학생들도 온라인상에서 딥페이크 등 사이버 성폭력 피해를 당한 것으로 확인됐다.

19일 서울시교육청 등에 따르면 이 학교에서 발생한 피해 사례들을 확인해 경찰에 수사를 의뢰했다.

시교육청 관계자에 따르면 "학생들에 대한 사이버 성범죄가 발생했다는 사실은 교육부에 먼저 접수됐다"며 "이를 이첩 받아 성적 수치심을 일으킬 수 있는 게시글과 딥페이크 이미지 등을 분류해 수사를 의뢰했다"고 말했다.

앞서 이 학교는 한 재학생이 군 장병을 조롱하는 듯한 내용의 위문편지를 보낸 사실이 알려지며 논란에 휘말렸다. 학교 측은 행사의 취지가 왜곡돼 유감이라며 재발 방지를 약속하는 등 사과에 나섰지만 논란은 가라앉지 않았다. 이후 일부 온라인 커뮤니티에는 재학생들에 대한 성희롱성 게시글과 합성 사진 등 디지털 성범죄물이 잇달아 올라왔다. 다만 합성 사진 등이 포함된 게시물의 경우 대부분 삭제된 상태다.

교육부와 시교육청은 앞으로도 관련 신고를 계속 접수하고, 문제의 소지가 있는 게시물의 경우 경찰에 수사를 의뢰할 방침이다.

◆심상치 않은 확산세 = 딥페이크는 특정 인물을 인공지능(AI) 기술을 이용해 일반인 얼굴로 교묘하게 합성시킨 편집물을 만들어내는 것을 말한다. 인공지능의 심층학습을 의미하는 딥러닝(deep learning)과 가짜를 뜻하는 페이크(fake)를 조합한 신조어다.

딥페이크는 2017년 처음 등장해 온라인 커뮤니티와 소셜네트워킹서비스(SNS)에서 성행하고 있다. 특히 영상산업에서 과거를 재현하거나 실존하지 않는 인물을 표현할 때 특수효과 수단으로 널리 활용되고 있다.

문제는 딥페이크 기술이 보이스피싱 등 사기에도 활용되며, 누군가의 얼굴을 합성해 타인을 사칭하면서 가짜뉴스를 생성하는 경우가 있다는 것이다. 또 유명인의 얼굴로 합성한 얼굴로 타인을 비난하는 허위 영상으로 명예훼손을 끼칠 우려도 나온다. 특히 최근에는 음란영상물 등 사이버 성범죄에 악용되는 사례가 발생하고 있다.

텔레그램 'n번방' 사건을 계기로 사이버 음란물 범죄에 대한 사회적 경각심이 확산됐지만 관련 범행은 계속되고 있다. 대중에게 알려진 연예인은 물론 일반인을 대상으로 제작된 딥페이크 음란물을 SNS 등을 통해 무차별적으로 공유한다. 최근까지 텔레그램에선 딥페이크 등이 유통되는 단체대화방이 운영되는 것으로 알려졌다.

실제로 방송통신심의위원회는 지난해 11월 K팝 아이돌 가수들의 초상을 이용한 딥페이크 등 성적 허위영상물을 중점적으로 모니터링해 614건의 접속을 차단했다. 이중 418건(68.1%)은 불법음란사이트에서 딥페이크 영상물 형태로, 196건(31.9%)은 SNS를 통해 합성된 이미지 형태로 유통됐다.

확산세도 심상치가 않다. 방심위가 공개한 성적 허위정보영상물 처리 현황 자료에 따르면 지난해 하반기(6~12월) 동안 딥페이크 영상 등 성적 허위영상물 시정요구(접속차단)와 자율조치(삭제) 건수가 548건이었다. 그러나 올해 같은 기간 해당 건수가 2295건으로 무려 319%나 증가했다.

딥페이크 범죄에 대한 처벌은 지난해 6월 25일 개정 '성폭력범죄의 처벌 등에 관한 특례법'이 시행되면서 강화됐다. 개정법은 딥페이크 영상물을 제작·반포·상영한 자를 '5년 이하의 징역 또는 5000만원 이하의 벌금'으로, 영리를 목적으로 정보통신망을 이용해 반포한 경우에는 '7년 이하의 징역'으로 가중 처벌하도록 했다.

그전까지는 불법합성물에 대한 처벌 규정이 미비해 명예훼손 또는 음란물 유포 등의 요건을 충족해야만 처벌할 수 있었다.

이현숙 탄틱내일 대표는 "기업에서 이런 표현들에 대해 자율적으로 규제할 수 있도록 섬세한 가이드라인을 만들고 시민들은 볼 때마다 신고하고 상습적으로 아동 특히 여성청소년에게 혐오표현을 하는 사람들을 퇴출시키는 것도 필요하다"면서 "아동성범죄자는 회원가입을 막는 플랫폼도 있는데 이를 활용하는 것도 필요할 것 같"고 말했다.

◆법원, 엄벌 움직임도 = 그동안 솜방망이 논란도 있었지만 법원도 최근 딥페이크 범죄에 엄벌을 내리는 분위기가 감지된다.

지난해 12월 제주지방법원 형사항소1부(방선옥 부장판사)는 성폭력범죄의 처벌 등에 관한 특례법 위반(허위영상물편집 및 반포 등) 혐의로 기소된 A씨에 대한 항소심에서 징역 1년 6개월을 선고한 원심판결을 파기하고 징역 3년을 선고했다. 또 성폭력 치료프로그램 40시간 이수와 아동·청소년 관련 기관 등 취업제한 4년을 명했다.

취업준비생인 A씨는 지난해 11월 15일부터 올해 3월까지 딥페이크 기술을 이용해 일반인 나체 사진과 연예인의 얼굴 사진을 합성한 사진 285장을 텔레그램 채팅방을 통해 전송·배포했다.

재판부는 "피해자들이 아직 피해 사실도 모르고 있고, 알려지면 받게 될 정신적 충격과 피해의 정도는 가늠하기 어렵다. 사건 변론에 나타난 여러 양형 조건들을 종합하면 원심의 형이 너무 가벼워 부당하다"며 양형 이유를 밝혔다.