[생활보안] 인공지능의 두 얼굴, 딥페이크 기술
상태바
[생활보안] 인공지능의 두 얼굴, 딥페이크 기술
  • 전유진 기자
  • 승인 2020.12.04 09:39
  • 댓글 0
이 기사를 공유합니다

딥페이크 사례로 알아보는 인공지능의 현주소

최근 데뷔한 한 신인 그룹의 콘셉트가 공개되자 업계에 파문이 일었다. 인간 멤버 4명과 가상 세계 아바타 멤버 4명이 함께 활동한다고 밝혔기 때문이다. 총괄 프로듀서는 “인간 멤버와 아바타 멤버가 디지털 세계에서 소통하며 함께 또는 따로 온·오프라인에서 활동할 것”이라고 전했다. 그런데 일각에서는 가상 세계 멤버가 새로운 음란물 요소로 악용될 수 있다는 우려의 목소리가 나오면서 딥페이크 범죄 논란이 불거졌다.

 

딥페이크는 인공지능(AI) 기술을 활용해 실존하는 인물의 얼굴이나 특정 부위를 합성한 영상 제작 기술을 뜻한다. AI의 자체 학습 기술인 딥러닝(Deep Learning)에 가짜(Fake)라는 말을 덧붙여 만든 용어로, 본격적으로 쓰이기 시작한 건 2017년 말 해외 커뮤니티에서 딥페이크스(Deepfakes)라는 아이디를 쓰는 유저가 등장하면서부터다.

기존 딥페이크 기술은 사용 문턱이 높아 코드를 컴파일하는 등의 작업이 필요했지만, 이 유저가 얼굴을 영상에 합성할 수 있는 소프트웨어를 제작해 이를 커뮤니티에 공유하면서 스마트폰으로 영상을 합성할 수 있는 페이크 앱(Fake App)도 활성화됐다. 이로 인해 최근에는 일반 사용자도 쉽게 딥페이크 기술을 사용할 수 있게 됐다.

문제는 사람들이 이 기술을 악용해 유명 배우의 얼굴을 성인 영상물에 합성한다는 데 있다. 네덜란드 사이버 보안 연구 회사가 발표한 ‘딥트레이스’ 보고서에 따르면, 전 세계 딥페이크 영상의 25%가 한국 여성 연예인들로 만들어졌다고 전했다. 딥페이크 영상 중 98%가 포르노로 소비되고 있으며 한국 여성 연예인은 이 중 4분의 1을 차지하는 것으로 나타났다.

 

딥페이크는 단지 유명인을 대상으로 한정하지 않는다. 구글이나 인스타그램, 페이스북 등 소셜 네트워크 서비스(SNS)에서 인물의 이미지 데이터를 어렵지 않게 모을 수 있어 딥페이크 대상은 일반인에게까지 확장됐다.

전북지방경찰청 사이버 수사대는 “최근 타인이나 지인의 얼굴을 포르노 등 음란 영상에 합성해 이를 유포한 30대 남성이 경찰에 붙잡혔다”고 전했다. 이 남성은 트위터상에 이른바 '지인 능욕 방'을 개설해 팔로워들에게 나체 사진 등 합성 사진을 유포한 혐의를 받고 있다. 지인 능욕이란 지인의 얼굴에 음란 사진을 합성해 인터넷상에서 공유하는 행위를 일컫는다.

그는 2017년 8월부터 올해 10월까지 딥페이크 기능이 있는 스마트폰 앱을 통해 22명의 얼굴을 음란 영상물과 합성한 뒤 1200여 명에게 유포했다. 합성된 사진 중에는 아동· 청소년도 포함된 것으로 알려졌다.

관련 범죄도 꾸준히 늘고 있다. 영국 BBC는 “2018년 12월 약 8000개로 집계됐던 딥페이크 비디오가 지난해 12월 기준 1만 4698개로 증가했다”고 보도했다. 약 1년 만에 2배가량 증가한 셈이다. 영상들 중 96%는 음란물이 차지했다.

딥페이크 기술이 사용된 부분을 감지해 영상 진위 여부를 판별하는 마이크로소프트의 식별 솔루션 (사진: 마이크로소프트)

 

딥페이크는 인물 표정, 대사, 입술의 움직임을 합성해 상당히 정교하게 표현하는 수준에 도달했다. 진위를 가리기 어려워져 딥페이크 범죄 피해자는 고통을 호소한다. 이에 미국 스탠퍼드대학교 HAI(Human-Centered AI) 연구소는 딥페이크를 감지하는 AI 모델을 개발했다.

스탠퍼드대가 개발한 AI는 영상 속 인물의 말하는 입 모양과 음성 소리 간의 미세한 불일치를 인식해 81% 이상의 정확도로 조작된 영상을 판별한다. 가짜를 발견하기 위해 영상에서 입술 영역을 추출하고 입의 모양과 소리의 음소 간 정합 여부를 학습해 영상에서 이상한 부분을 찾아낸다.

스탠퍼드대 연구원은 “딥페이크 감지 AI를 이용해 AI 악용에 대응하는 사례로서 AI의 부작용에 대한 우려와 윤리 문제가 제기될수록 활용도가 높을 것으로 기대되며, 악의적인 영상 조작과 같은 부작용으로 인해 손해를 입지 않도록 대책 마련이 시급할 것으로 보인다”고 강조했다.

한편 우리나라는 법개정 전 딥페이크를 처벌하는 별도 규정이 없어 정보통신망법상의 명예훼손이나 음란물 유포에 관한 책임밖에 묻지 못했다. 그러나 올해 6월 '성폭력범죄의 처벌 등에 관한 특례법(성폭력 처벌법)' 개정으로 딥페이크 영상 제작과 유포는 5년 이하의 징역 또는 5천만 원 이하의 벌금에 처해질 수 있다. 또 제작을 의뢰한 자도 공범으로 처벌받을 수 있게 됐다.

다만 이번에 논란이 일었던 아바타의 경우, 디지털 성범죄 피해자로 인정받지 못할 가능성이 크다. 성폭력 처벌법 제14조의 2 제1항에 따르면 딥페이크 성범죄 대상은 ‘사람’의 얼굴, 신체 또는 음성을 대상으로 한 촬영물, 영상물, 또는 음성물을 처벌 대상으로 한다. 따라서 인간의 분신 격인 아바타 멤버가 피해자가 되어도 이에 대한 강력한 처벌은 어려울 것으로 보인다.

전문가들은 딥페이크 범죄의 심각성을 강조하며 “AI 악용과 관련한 위험을 방지하고 완화할 수 있는 다양한 분야의 이해 관계자를 적극적으로 확충해, AI 악용 가능성을 염두에 두고 이를 미리 적극적으로 대응해야 할 필요성이 있다”고 전했다.



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
0 / 400
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.