딥페이크 범죄가 커다란 사회문제로 부상한 가운데 제도 개선이 시급하다는 주장이 제기됐다.

오세훈 서울시장은 3일 국회에서 열린 딥페이크 대응 토론회에 참석해 “딥페이크 삭제 지원 주체를 지자체로 확대해야 한다”며 “권한을 확대하는 법령 개정이 시급하다”고 촉구했다.

오 시장은 “딥페이크 영상은 누구나 피해자가 될 수 있고 또 정확한 피해 규모를 추산하는 것조차 어렵다”며 “서울시는 최대한 서둘러 단 한명의 피해자라도 더 도울 수 있도록 하고 피해자가 무거운 짐을 홀로 감당하지 않도록 함께 하겠다”고 말했다.

서울시는 딥페이크 피해에 대응하기 위해 방송통신심의위원회와 협력해 피해 영상물을 24시간 내 삭제하는 핫라인 시스템을 가동 중이다. 디지털 성범죄 SOS 상담창구를 신설해 딥페이크 피해자 상담도 진행한다.

진화하는 딥페이크 기술에 대응하기 위해 피해자 얼굴 사진과 유사도·정확도가 높은 영상을 검출하는 기술을 내년 상반기까지 개발하고 검색부터 신고까지 전 과정을 AI가 수행하는 신고자동화 시스템도 올해 안에 구축할 계획이다.

딥페이크 범죄는 딥러닝(deep learning. 심층학습)과 가짜(fake. 페이크)를 합친 말이다. AI 기술을 활용해 만든 진짜 같은 가짜 콘텐츠다. 최근 ‘AI 소라(텍스트 기반 영상 생성 기술)’ 같은 여러 생성형 AI와 딥페이크 앱이 등장하면서 범죄 규모가 급증하고 있다. 영상 제작까지 빠르면 7초 밖에 걸리지 않고 제작부터 유포까지 너무 쉽게 가담할 수 있는 구조라는 점이 범죄 다발의 원인으로 꼽힌다.

정부와 서울시 추산에 따르면 현재 전국적으로 400~500개 학교에서 피해가 발생했다. 피해자가 피해 사실을 모르는 경우가 많아 실제 피해 규모는 훨씬 더 클 것으로 추산된다.

수백개의 관련 사건을 수사 중인 경찰에 따르면 검거된 인원의 95%가 10대와 20대인 것으로 알려졌다.

현행법상 딥페이크 성착취물 피해자는 여성가족부 산하 한국여성인권진흥원 디지털성범죄피해자지원센터, 수사기관 등을 통해 피해 영상물에 대한 삭제 지원 요청을 할 수 있다. 센터는 유포 사실이 발견되면 인터넷 플랫폼 사업자에게 직접 또는 방송통신심의위원회에 삭제 요청을 한다. 방심위는 센터와 수사기관 등에서 신고를 받아 삭제와 접속차단 등 시정요구를 할 수 있다.

이제형 기자 brother@naeil.com