SW정보 이동 SW정책소식 이동

[과기부]디지털 성범죄 피해방지, 인공지능(AI)이 돕는다

SW중심사회 과학기술정보통신부 2019-07-23 339명 읽음

 

디지털 성범죄 피해방지, 인공지능(AI)이 돕는다
- 과기정통부, 웹하드 불법촬영물 삭제지원 시스템 개발
- 여가부, 디지털 성범죄 피해자 지원센터 업무에 적용 개시

 

 

 

 

 

► 과학기술정보통신부(장관 유영민, 이하 ‘과기정통부’)와 여성가족부(장관 진선미, 이하 ‘여가부’)는 웹하드 사이트를 통한 디지털 성범죄 피해영상물의 유포를 효율적으로 방지하기 위해 22일(월)부터 여가부의 ‘디지털 성범죄 피해자 지원센터’(이하 ‘지원센터’, 한국여성인권진흥원 소재) 업무에 인공지능 기술을 시험 적용하기로 했다.

 

 

► 그동안 디지털 성범죄 피해자가 신고한 불법촬영물이 웹하드 사이트에 게시되어 있는지 확인하려면, 지원센터 삭제지원 인력이 수작업으로 피해촬영물에서 검색용 이미지를 추출하고 각 사이트를 검색해야 하는 등 신속한 피해자 지원에 한계가 있었다.

 

 

ㅇ 이를 개선하기 위해 과기정통부, 여가부, 지원센터, 한국전자통신연구원(이하‘ETRI’)은 올해 초부터 협의체를 구성하고 인공지능(AI) 기술을 활용한 웹하드 사이트 ‘불법촬영물 삭제지원 시스템’(이하‘삭제지원 시스템’) 개발을 추진해왔다.

 

 

► 이번 시스템 개발은 기술개발 주체(ETRI)와 현장(지원센터)의 협업을 통한 성과물이다. ETRI는 지원센터의 요구사항을 도출하여 삭제지원 시스템의 기능을 설계ㆍ개발하였으며, 지원센터는 기능 검증을 거쳐 7월 22일부터 실제 업무에 시험적으로 활용하기로 했다.

 

 

ㅇ 삭제지원 시스템은 인공지능(AI) 기술을 활용하여 피해자가 신고한 불법촬영물에서 이미지를 추출하여 웹하드 사이트에서 피해촬영물과 유사한 영상물을 자동으로 선별ㆍ수집하는 기능 등을 갖추고 있다.

 

 

ㅇ 지원센터의 삭제지원 인력은 피해촬영물과 유사한 영상물의 이미지, 유사도, 제목, 주소(URL) 등 삭제지원 시스템을 통해 수집된 정보를 검토하여 영상물을 확인하고, 피해촬영물 유포사례가 있을 경우 해당 웹하드 사이트에 삭제 요청을 하게 된다.

 

 

► 아울러, 현재 삭제지원 시스템을 통해 검색할 수 있는 국내 웹하드 사이트는 10개로, 7월 22일부터 시험적으로 적용한 후, ’19년 하반기에 35개 웹하드 사이트에 대한 검색기능을 추가 개발하여 지원센터 업무에 정식으로 적용할 예정이다.

 

 

► 과기정통부 관계자는 “이번에 개발된 삭제지원 시스템은 관련 기관간의 긴밀한 협력을 통해 새롭게 개발된 기술이 현장에서 잘 활용될 수 있도록 현장과 개발자가 협업한 좋은 사례”라고 강조하고, “앞으로도 디지털 성범죄 피해방지를 위해 현장에서 필요한 기술을 개발하여 적용할 수 있도록 적극 지원하겠다.”라고 밝혔다.

 

 

► 여가부 관계자는 “전체 웹하드 사이트를 대상으로 한 삭제지원 시스템 활용시 웹하드에 유포된 불법촬영물 검색시간이 현저히 단축될 수 있고 365일 24시간 자동 검색도 가능하여 디지털 성범죄 피해자를 보다 신속하게 지원할 수 있을 것으로 기대한다.”라고 밝혔다.

관련 콘텐츠

홈페이지 만족도

콘텐츠 내용에 만족하십니까? 현재 페이지의 만족도를 평가해 주십시요. 의견을 수렴하여 빠른 시일 내에 반영하겠습니다.

등록