ETRI, AI로 디지털 성범죄 피해 막는다...유해사이트 탐지시스템 개발
상태바
ETRI, AI로 디지털 성범죄 피해 막는다...유해사이트 탐지시스템 개발
  • 황민승 기자
  • 승인 2021.09.09 16:14
  • 댓글 0
이 기사를 공유합니다

피해영상 웹사이트 유포사례 신속 탐지·삭제 지원 기대

국내 연구진이 최신 인공지능(AI) 기술을 활용해 불법 촬영으로 인한 디지털 성범죄 피해와 그에 따른 2차 피해의 확산을 신속하고 효율적으로 억제할 수 있는 시스템 개발에 성공했다.

한국전자통신연구원(ETRI)은 지난 2019년 웹하드 대상 AI 기반 불법촬영물 삭제지원시스템을 개발해 한국여성인권진흥원 디지털성범죄피해자지원센터 업무에 적용해온 데 이어 올해 검색대상을 인터넷 사이트까지 확장하는 데 성공하고, 이달 중 지원업무에 시험 적용한다고 9일 밝혔다.

ETRI는 이번 기술 개발로 AI가 인터넷 사이트를 자동 검색해 웹 페이지의 음란성 여부를 판단할 수 있게 됐으며, 그만큼 탐지효율이 혁신적으로 개선돼 피해자 지원에 더욱 빠르게 대응할 수 있을 것으로 기대하고 있다.

이 기술은 과학기술정보통신부 ‘AI 기반 유해미디어(음란성) 분석·검출 시스템 개발’ 과제로 개발됐으며, 판도라티비, 엘컴텍, SK텔레콤, 광운대학교가 공동연구기관으로 참여했다. 

이번 연구개발의 핵심은 영상물의 유해성을 분석·검출하는 AI 기술이다. AI가 등록된 키워드로 웹페이지들을 검색하고 텍스트, 이미지 등 웹페이지 내 게시물을 분석해 유해성을 검출한다.

ETRI 연구진의 AI 엔진은 프레임당 약 100만 회의 세부판단을 근거로 영상 간 유사도 비교를 수행해 정교하다. 콘텐츠 유해성을 판단하는 성능이 99.4% 이상의 정확도와 0.01초 이하의 검출속도를 달성해 상당히 높은 성능 수준이라는 게 연구팀의 설명이다. 이는 AI를 적용한 유해 웹사이트 자동수집 시스템 개발에 AI 엔진을 내장시켜 기술을 고도화한 결과다.

ETRI가 개발한 기술에는 ▲AI 기술을 활용하여 등록된 키워드로 웹페이지를 검색하는 기능 ▲유해 영상물 유포 의심 사이트 관련 정보를 자동으로 선별·수집하는 기능 등을 갖추고 있다.

연구진은 지난 6월부터 두 달간 진행된 시험기간 동안 피해 영상물의 검색 키워드, 썸네일 이미지, 주소(URL) 등을 활용해 총 1만 8945건의 웹사이트를 자동 수집했으며, 이중 유해사이트로 판별된 2631개 웹사이트를 걸러내는 데 성공했다.

ETRI 이남경 미디어지능화연구실장은 “이번 AI 기술은 디지털 성범죄 피해자 지원업무에 유용하게 활용될 것”이라며, “앞으로도 미디어 지능화 기술을 통해 디지털 역기능 대응 기술을 고도화하는 등 선제적 디지털 성범죄 사전탐지·확산방지를 위해 노력할 계획”이라고 말했다.



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
0 / 400
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.