딥페이크 범죄가 사회적인 논란을 불러온 가운데 시민단체가 기업의 책임을 강화해야 한다는 성명을 발표했다. 텔레그램 상에서 딥페이크 성폭력물이 제작·유통된 데 이어 네이버의 자회사 스노우의 카메라 어플리케이션 ‘소다’가 성적 불쾌감을 일으키는 사진을 인공지능으로 생성한다는 사실이 알려졌다.

진보네트워크는 “딥페이크 성범죄의 경우 뿌리 깊은 여성 혐오와 성차별, 젠더 폭력이라는 우리 사회 구조적 문제를 다시 한번 드러냈다”며 “인공지능 기술 기업의 책임을 물어야 한다”고 15일 밝혔다.

이어 “딥페이크 성폭력은 첨단기술을 이용한 기술 매개 성폭력으로 가해자들이 손쉽게 불법 성폭력물을 제작할 수 있고, 무한대로 복제·확산이 가능해 광범위한 피해를 발생시킨다”며 “빅테크 기술 기업들은 정작 이 사태를 방조하고 제대로 된 책임을 지고 있지 않다”고 지적했다.

특히 n번방 사건에서도 성착취 유통 경로로 꼽힌 텔레그램이 다시 문제가 된 것에 대해 심각하다는 평가를 내놨다. 스노우 역시 내외부에서 인공지능 생성물이 문제된다는 지적에도 통제할 수 없다며 책임을 회피하고 있다.

진보네트워크는 “인공지능 제품과 서비스의 바탕이 되는 데이터 학습과 출력물 생성으로 인한 문제가 불거졌을 때 해당 제품과 서비스를 시장에 제공하거나 배치한 기업들은 책임을 회피해선 안 된다”며 “기술 기업은 이를 방지하고 조치하기 위한 주의 의무를 다해야 한다”고 강조했다.

이어 “이용자의 오남용이 우려될수록 출시 기업은 예상되는 오남용을 통제할 수 있는 조치를 취하거나 올바른 사용 방법과 오남용에 따른 책임에 대해 이용자에게 충분히 고지하는 등 오남용을 최소화할 책임이 있다’며 “제품의 품질을 계속 모니터링하고 소비자 또는 이용자의 불만에 신의성실하게 응대할 책무가 있다”고 강조했다.