플랫폼 기업에 딥페이크 등 디지털 성범죄물에 대한 삭제와 수사 협조 의무를 부과해야 한다는 주장이 나왔다. 특히 초등학교에서부터 ‘생성형 인공지능(AI)’ 등 디지털 윤리교육이 필요하다는 지적도 나온다.

이수정 경기대 범죄심리학과 교수는 3일 “딥페이크 등 불법촬영물을 근절하기 위해 과징금 부과나 서비스 운영 정지 등 플랫폼 기업을 제재할 수 있는 장치를 마련하고, 이들에게 삭제 의무를 부여해야 한다”며 “무엇보다 수사기관과 협조를 의무화해 기업의 책임을 강화해야 할 것”이라고 말했다.

이날 국회에서 열린 국민의힘 조은희 의원과 한국여성인권진흥원 주최 ‘딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책 토론회’에서 이 교수는 “초등학교에서도 코딩 수업을 하고 있지만 기술을 전달하는 데만 치중하고 있다”며 “교육의 본질에 대해 고민해야 할 때”라고 강조했다.

◆해외선 의무 위반하면 처벌 = ‘딥페이크 등 디지털성범죄 예방과 대응책 마련을 위한 입법과제’를 주제로 기조 발제에 나선 이 교수는 “현재 딥페이크물을 비롯한 불법촬영물이 유포되는 창구가 수사하기 어려운 해외 플랫폼으로 넘어가고 있다”며 “이 때문에 피해자가 불법촬영물을 발견하고 정부기관에 삭제를 요청해도 제대로 대응하기가 어렵다”고 지적했다.

현재 여성가족부 산하 진흥원의 디지털성범죄피해자지원센터가 피해자로부터 삭제를 요청받아 불법촬영물이 발견된 플랫폼에 이를 지우도록 요청하고 있지만, 강제할 권한이 없어 한계가 뚜렷하다.

반면 해외에서는 플랫폼 기업에 대해 엄격한 의무가 부여된다.

영국은 온라인안전법에서 플랫폼 기업의 불법촬영물 감시·삭제 의무를 부여했다. 이를 위반한 기업에 대해서는 형사처벌할 수 있다. 특히 아동 성 착취 콘텐츠 방지에 대한 플랫폼 책임을 강화했다.

호주는 ‘온라인 안전법 2021’에서 아예 딥페이크물을 만들지 못하도록 명시했다.

독일도 네트워크집행법을 통해 유해 콘텐츠 관리 책임 강화, 불법 콘텐츠 24시간 내 삭제 의무화, 투명성 보고서 제출 등을 강제하고 있다. 특히 이를 위반한 기업에 대해서는 최대 5000만유로(약 742억여원)의 벌금 부과 등 기업의 불법촬영물 근절 장치를 마련했다.

이 교수는 “보호할 대상이 사업자인지, 사회적 약자와 아동·청소년인지를 선택할 시기”라고 강조했다.

이 교수는 또 딥페이크 근절책으로 △가해자 처벌 강화 △삭제 신청을 쉽게 할 수 있도록 ‘원스톱 지원 창구’ 마련 △학교의 범죄예방 교육 의무화 등을 제안했다.

특히 이 교수는 한국 실정에 맞는 현실적인 근절 방안으로 ‘함정 수사 허용’을 꼽았다. 그는 “현재 범죄 시도를 부추긴다는 이유로 아동·청소년 대상 범죄를 포함해 함정 수사를 할 수 없도록 규정했다”며 “하지만 수사 지침을 엄격히 세우고, 아동 범죄를 중심으로 함정 수사를 유연하게 적용하는 국가도 있다”고 설명했다.

◆빠른 기술 발전 못따라가는 교육 = 또한 이 교수는 한국에서 불법촬영물 범죄가 빈번하고 10대 피·가해자가 많은 이유로 ‘빠른 기술 발전과 교육 방향’을 원인으로 꼽았다.

그는 “발전된 정보통신(IT) 기술로 인해 아무리 큰 용량의 영상도 쉽게 주고받을 수 있게 됐다”며 “관련 범죄가 빠르게 확산하는 데 영향을 줬을 것”이라고 말했다. 이어 “초등학교에서도 코딩 수업을 가르치고 있다”며 “문제는 학생들이 만드는 코딩으로 인한 최악의 결과물이 뭔지 교육하지 않고 기술만 전달한다는 점”이라고 짚었다.

내년 1학기에 도입되는 AI 디지털교과서에 대해서도 이와 비슷한 이유로 우려를 나타냈다.

실제로 한국청소년정책연구원의 ‘청소년 디지털 인재를 어떻게 양성할까’ 보고서에 따르면 불법합성물을 제작하는 주 도구로 지목되는 AI에 대한 교육을 받은 중고등학생이 3명 중 1명에 불과한 것으로 나타났다.

이는 연구진이 지난해 7~8월 전국 중·고등학교에 다니는 청소년 2261명(남학생 1172명·여학생 1089명)을 대상으로 설문한 결과에 의해 확인됐다.

보고서는 “청소년이 생성형 AI를 올바르게 사용하기 위한 정부 차원의 구체적인 가이드라인은 아직 마련되지 않은 실정”이라며 “교육부, 과학기술정보통신부, 여성가족부 등 관련 부처가 청소년의 디지털 역량 강화를 위한 사업을 추진해야 한다”고 제언했다.

장세풍 기자 spjang@naeil.com