AI(인공지능) 기술의 발전은 산업 전반은 물론, 우리 일상에서도 많은 편의성을 제공해 줄 것으로 기대되고 있다. 하지만 언제나 그렇듯 새로운 기술의 등장은 기존에 없던 새로운 위협도 함께 가져온다. AI 기술도 이미 범죄에 악용되는 사례가 다수 보고되고 있다. 최근에는 여성의 사진을 나체 사진으로 만들어 주는 딥페이크 기반 AI 앱이 논란이 되기도 했다.

딥페이크의 정의

딥페이크란 딥러닝(deep learning)과 페이크(fake)의 합성어다. AI 기술로 가짜 동영상, 사진 등을 만드는 기술을 딥페이크라고 한다. 2017년 미국 온라인 커뮤니티에서 유명 배우를 합성한 가짜 음란 동영상이 올라오면서 딥페이크가 처음 세상에 알려졌다.

딥페이크는 가짜 정보를 마치 진짜 정보인 것처럼 표현할 수 있다. 얼굴을 바꾸거나 목소리를 똑같이 재연하는 딥보이스(deep voice) 기술을 접목하는 방식 등으로 조작한다. 사람들은 실제 인물이 말하고 움직인 것처럼 착각할 수 있어 문제가 되고 있다. 딥페이크는 진실과 상관없거나 전혀 다른 결과물을 만들어 낼 수 있다. 사용자의 의지에 따라 내용이 조작되면 부정확한 정보의 전파, 개인 프라이버시 침해 등의 피해가 생길 수 있다.

딥페이크가 기술은 ‘생성적 적대 신경망(GAN: Generative Adversarial Network)’을 기반으로 한다. GAN이란 데이터를 생성하는 것, 데이터를 감별하는 것이 서로 경쟁하며 진짜를 더 진짜처럼 만드는 것을 말한다. AI는 데이터를 더 진짜처럼 만들기 위해, 반대로 진짜인지의 진위 여부를 판별하기 위해 계속 학습한다.

딥페이크에 수많은 사람이 속아 넘어가는 것은 AI의 발전 속도가 빠르기 때문으로 볼 수 있다. 딥페이크를 학습하는 AI를 모두 파악할 수 없는 것도 문제다. AI가 인류 역사를 위협한다고 주장하는 미래학자들은 “감시망을 피해 개발한 AI가 갑자기 나타나 해악을 끼칠 수 있다”며 우려한다. AI 개발 기술을 가진 사람 모두를 감시하기란 불가능하고 딥페이크가 언제 어디서 범죄에 악용되는지 파악하는 것도 불가능하다.

AI 기술의 그림자, 딥페이크 범죄

최근 여성의 나체 이미지를 만드는 ‘누디파이(nudify)’ 딥페이크 애플리케이션이 논란이 됐다. 여성의 사진을 이용해 옷을 벗는 모습을 구현할 수 있어 순식간에 수많은 이용자를 모았다. 외신들은 2023년 9월에만 2400만 명이 사이트를 방문했고 광고 링크 수도 급증했다고 보도했다.

딥페이크가 성범죄와 밀접한 연관성이 있다는 주장은 꾸준히 제기돼 왔다. 네덜란드 사이버 보안 회사 딥트레이스는 2019년 올라온 딥페이크 영상의 96%가 음란물이고, 25%가 한국 여성 연예인라고 지적했다. 게다가 딥페이크 기술이 우리 일상 속을 파고들었다는 증거는 계속 나오고 있다. 미국 AI 기업 딥미디어는 “2023년에 50만 개 정도의 딥페이스 영상과 음성이 SNS에 올라올 것이다”고 전망했다. 이처럼 일상생활을 좀먹기 시작한 딥페이크는 다양한 형태의 범죄로 발전하고 있다.

이 외에도 딥페이크는 여론을 조작하기 위한 수단으로 악용되고 있다. 우크라니아-러시아 전쟁이 막 시작된 지난 2022년 3월 16일 볼로디미르 젤렌스키 대통령이 “우리는 패배했다. 러시아군에게 항복해야 한다”라고 말한 동영상은 딥페이크 영상으로 판별됐다. 러시아가 우크라이나 국내 상황을 혼란시키고 유리한 국제 여론을 얻기 위해 이런 딥페이크 영상을 만든 것으로 추측할 수 있다. 미국 정치가 힐러리 클리턴도 딥페이크 영상의 피해를 입었다. 힐러리 클린턴이 상대 진영 후보를 지지하는 영상은 딥페이크로 밝혀졌다.

딥페이크 범죄는 나날이 진화하고 있다. 충남경찰청이 적발한 보이스피싱 범죄단은 수사 과정에서 딥페이크 기술을 연구한 것으로 드러나 충격을 주었다. 인터넷에서 찾은 검사 사진으로 가짜 동영상을 만드는 기술을 연구한 것으로 추정된다. 전화 통화가 아닌 영상 통화로 검사 얼굴을 보여주면 피해자가 더 잘 속을 것이라고 계산한 것이다. 다행히 영상 통화 보이스피싱은 시도 단계에서 적발돼 피해자가 나오지 않았지만 향후 딥페이크 기술이 금융 범죄에 악용될 수 있음을 시사한다. 전화 통화로는 속지 않았던 사람들도 동영상으로 검사의 얼굴을 보여주는 가짜 동영상에 혹할 수밖에 없기 때문이다.

학교 폭력에도 딥페이크 범죄가 연루될 수 있어 정부와 관계 부처도 긴장하고 있다. 딥페이크 동영상은 스마트폰을 사용하는 사람이라면 누구나 손쉽게 만들 수 있다. 이를 악용해 학교 내에서 집단 따돌림을 당하는 학생의 얼굴을 합성해 가짜 동영상을 만들고 이를 빌미로 폭행, 금품 갈취 등을 하는 신종 학교 폭력이 등장했다.

딥페이크 범죄 꼼짝 마

국제 사회는 딥페이크 범죄의 위험성을 인지하고 다양한 방식으로 대응하고 있다. 우선 딥페이크 영상을 구별하는 기술 개발에 한창이다.

인텔이 개발한 딥페이크 탐지기 ‘페이크캐처(FakeCatcher)’는 딥페이크 동영상이나 사진에 나타난 오류를 탐지하는 기술이다. 영상을 밀리초(ms, 1000분의 1초)로 쪼개 어색한 점을 찾아낸다. 살아있는 사람의 동영상은 심장이 뛰면서 전신에 혈액이 공급되고 이로 인한 혈류의 변화가 나타난다. 반면 딥페이크로 조작된 동영상의 혈류는 미묘하게 다르다. 페이크캡처는 혈류의 차이를 발견하는 기술로 약 96%의 정확도를 나타낸다.

센티널(Sentinel)은 회사 이름과 같은 딥페이크 탐지 모델 ‘센티널’을 개발했다. 센티널은 AI 알고리즘이 딥페이크 영상인지 자동으로 판별해 준다. 원본 동영상에 나온 인물을 학습해, 조작된 동영상에서 어떻게 달라졌는지 찾아 준다.

우리나라도 딥페이크 탐지 기술 개발에 나서 성과를 거뒀다. 딥브레인AI가 개발한 ‘딥페이크 탐지 AI 솔루션’은 영상, 음성, 이미지, 음성 조작 등을 판별한다. 원본 동영상과 조작된 동영상의 차이를 AI가 분석하는 필터링 기술이 핵심이다. 딥브레인AI 관계자는 “가상 인간을 원하는 얼굴, 원하는 목소리로 바꾼 조작 이미지와 영상을 탐지할 수 있다. 특정 인물의 모습, 목소리를 딥러닝 학습한 AI는 가짜 동영상을 판별할 수 있다”고 설명했다.

딥페이크 기술을 포기할 수 없는 미래 사회

이 세상의 모든 기술은 양면성이 있다. 나쁘게 이용하면 사람에게 피해를 주지만 반대로 잘 활용하면 큰 도움을 준다. 딥페이크 기술도 AR(증강현실), VR(가상현실) 등과 결합해 올바른 방향으로 쓰일 수 있다면 딥페이크 기술은 인류에게 큰 이익을 가져다줄 것이다.

미국을 대표하는 빅테크 기업 구글, 마이크로소프트, 메타, 아마존 등은 자발적으로 생성 AI 콘텐츠에 워터마크를 표기하기로 했다. 이용자는 AI가 생성한 콘텐츠를 식별할 수 있어 악용될 가능성이 사전에 차단된다.

딥페이크 기술을 환영하는 산업은 엔터테인먼트 제작사다. 딥페이크 기술로 이미 작고한 유명인을 구현해 팬들을 위한 콘텐츠를 생산할 수 있다. 우리나라에서는 딥페이크 기술을 활용해 이미 세상을 떠난 송해, 유재하, 울랄라세션 임윤택, 박윤배 등 연예인을 복원한 사례가 있다.

영화 스타워즈 로그 원에서도 별세한 캐리 피셔(레아 공주 역)가 딥페이크 영상으로 등장했다. 어색함이 있지만 스타워즈 시리즈 영화를 사랑하는 팬들에게는 추억을 안겨 주었다.

교육 시장도 딥페이크 기술을 반기는 추세다. 코로나19 팬데믹과 IT의 발달은 교육 시장의 변화를 일으켰다. AI를 통해 학습하는 교육 프로그램 개발이 증가하고 있다. AI로 구현한 강사가 강의를 하고 가상의 시나리오를 경험하는 교육 콘텐츠 개발이 시도되고 있다.

딥페이크의 부작용을 막기 위한 세계 각국의 노력도 이어지고 있다. 미국 하원은 ‘딥페이크 책임성법’을 발의했다. 이 법안은 고도화된 딥페이크 기술로부터 피해를 예방하고 사회 질서를 지키는 내용이 담겼다. 구체적으로는 온라인에 올라간 모든 딥페이크 콘텐츠에 라벨을 부착해야 하며 딥페이크 동영상으로 허위 사칭한 것에 대해 처벌할 수 있고 피해자는 소송을 통해 보상을 받을 수 있다. 중국도 ‘인터넷 정보 서비스 딥 합성 관리 규성’을 시행 중이다.

우리나라 역시 내년 총선을 앞두고 ‘딥페이크 선거운동 금지법’이 담긴 공직선거법이 최근 국회를 통과했다. 핵심은 선거일 90일 전부터 딥페이크를 활용한 선거운동을 할 수 없다. 이를 위반하면 7년 이하의 징역 또는 1000만 원 이상 5000만 원 이하 벌금에 처한다.

하지만 단순히 선거운동에만 적용됐다는 점에 우려의 목소리도 크다. 딥페이크로 인해 발생할 일반인의 피해에 대한 법안 마련도 시급하다는 지적이다. 당장은 선거운동에만 국한돼 있지만 전문가들의 의견 수렴과 사회적 논의를 거쳐 딥페이크를 비롯한 AI 관련 범죄에 대한 법제도 정비가 본격적으로 추진되어야 할 시점이다.

오현지 기자 다른기사 보기