보안을 위협하는 양날의 검, 인공지능
상태바
보안을 위협하는 양날의 검, 인공지능
  • 석주원 기자
  • 승인 2019.07.23 18:17
  • 댓글 0
이 기사를 공유합니다

인공지능이 초래할 수 있는 다양한 보안 위험들

[CCTV뉴스=석주원 기자] 기술의 발전은 우리의 생활을 풍요롭게 만들어 주지만, 언제나 그렇듯 새로운 기술은 밝은 면과 어두운 면을 동시에 품고 있다. 미래 산업의 마법 지팡이처럼 여겨지는 인공지능 역시 이러한 통설에서 벗어날 수 없다. 물론, 여기에서 말하고자 인공지능 기술의 부작용이 SF 창작물에서 흔히 볼 수 있는 인공지능의 반란은 아니다. 그렇다면 우리가 현실적으 로 만나볼 수 있는 인공지능의 부작용에는 어떤 것들이 있을까?


■ 공격에 먼저 사용된 인공지능 기술

지금까지 우리는 인공지능 기술이 보안산업을 어떻게 발전시키는 지에 대한 여러 사례들과 기술들을 살펴봤다. 인공지능 기술은 현재의 보안 기술들을 한 단계 끌어 올려 주며, 이를 통해 안정적인 비즈니스 환경을 확보할 수 있고, 인력도 더 효율적으로 운용할 수 있다. 그런데 이 인공지능 기술이 수비 측의 전유물이 아니라는 걸 간과해서는 안 된다. 아니, 애초에 인공지능 기술을 더 빨리, 더 적극적으로 활용하기 시작한 것은 공격측이었다. 하루에도 수십만 건씩 발생한다는 변종 악성 코드들을 사람이 하나하나 만들어 냈을 리가 만무하다.
보안 시스템에 적용된 인공지능이 악성 코드의 공격 유형을 자동으로 분석해 대응책을 마련하듯, 공격 시스템에서 동작하는 인공지능도 보안 취약점을 탐지하고 지속적인 공격을 시도해 보안 시스템의 구멍을 찾아낸다. 또, 공격자의 위치를 더 효과적으로 위장하는 데에도 인공지능 기술이 유용하게 활용되고 있다. 이렇게 놓고 보면 사실상 현재의 보안산업은 인공지능에 의해 고도화된 공격을 역시 인공지능으로 고도화된 방어 시스템으로 막아내는 형태를 취하고 있는 것이나 마찬가지다.
인공지능으로 인한 보안 위협은 여기에서 그치지 않는다. 인공지능은 스스로 학습하며 지속적으로 발전해 나간다. 이는 어느 순간 인공지능이, 인간이 아직 도달하지 않은 영역까지 발전해 지금껏 우리가 경험하거나 상상해 보지 않았던 새로운 공격 패턴을 만들어 낼 가능성도 있다는 걸 의미한다. 거창하게 인간의 인지를 벗어난 진화까지 갈 필요도 없다. 그저 지금 우리가 상정하고 있는 공격 패턴을 약간만 비틀 수 있다면, 그 틈새로 내부 시스템에 침투해 막대 한 피해를 발생시키는 것은 충분히 가능한 일이다. 즉, 인공지능 기술의 발전은 보안 시스템의 강화와 함께 공격 시스템의 진화도 촉발시킬 수 있다는 걸 항상 염두에 두어야 한다.


■ 인공지능 기술로 발생한 현실적인 보안 위협

인공지능이 진화해 인간의 인지를 초월한 영역에서 사이버 공격을 감행한다는 가정은 지금 시점에서는 뜬구름 잡는 이야기로 느껴진다. 그렇다면 좀 더 현실적인 범위에서 인공지능의 발전이 가져온 보안 위협에는 어떤 사례들이 있을까?
인공지능 기술로 더욱 고도화된 보안 위협의 대표적 사례가 피싱(Phishing)이다. 피싱은 불특정 다수를 거짓된 정보로 현혹해 주로 금전적인 피해를 유발시키는 범죄 행위로, 현재 여러 수법들이 동원되고 있다. 인공지능과 빅데이터의 발달은 피싱 수법의 고도화에 일조를 했는데, 가령 특정한 공격 대상자를 선정한 후 잠정적 피해자에 대한 모든 주변 정보를 수집해 최적화된 피싱 수법을 도출해 내기도 한다. 이렇게 특정 타깃을 노린 피싱을 스피어 피싱(Spear phishing)이라고 한다. 스피어 피싱에 의한 공격은 주변인을 사칭할 때의 정밀함이 일반적인 피싱보다 높기 때문에 평소에 충분한 주의를 기울이는 사람도 낚여 버리는 경우가 종종 발생한다.
인공지능 기술로 초래된 또 하나의 잠재적 위협으로는 딥페이크(Deepfake)가 있다. 딥페이크란 동영상의 특정 부분만을 인공지능 기술로 합성한 영상 콘텐츠를 말한다. 이 딥페이크가 가장 먼저 활용된 곳은 다름 아닌 성인 콘텐츠였는데, 외국에서 성인 영상물에 유명 연예인의 얼굴을 합성한 딥페이크 영상이 범람했던 시기가 있었다. 당시의 조작된 성인 콘텐츠들은 퀄리티도 조잡한 수준이었고, 피해자가 개인의 영역에 머물러 있었던 데다, 성인물이라는 특성상 크게 이슈화 되지는 않았다.
그런데 지금은 여기서 한 발 더 나아가 유명 정치인의 얼굴을 합성해 실제와 비슷한 딥페이크 영상을 제작해 내는 수준에 이르렀다. 이러한 딥페이크 영상의 문제점은 실제 인물을 사칭해 거짓된 정보를 대중에게 퍼뜨릴 수 있다는 데 있다. 이른바 가짜 뉴스에 강력한 신빙성을 더해줄 수 있다는 걸 의미한다. 안 그래도 가짜 뉴스는 사회의 불안을 초래하는 심각한 문제로 받아들여지고 있는데, 여기에 딥페이크를 비롯한 인공지능 기술이 접목되면 가짜 뉴스의 거짓된 신빙성을 더욱 쉽게 끌어 올릴 수 있다. 특히 내년에는 우리나라의 총선과 미국의 대선을 앞두고 있어 벌써부터 딥페이크 등 인공지능 기술을 이용한 불법 선거 운동을 우려하는 목소리가 높아지고 있다.

전체 기사를 보시려면 로그인 필요

로그인 또는 회원가입을 해주세요. (회원만 열람가능)

로그인 회원가입


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
0 / 400
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.