이제 AI(인공지능)는 더이상 꿈의 기술이 아니다. 물론 아직 사람이 하는 모든 일을 대신할 수 있는 AI는 여전히 먼 미래의 기술로 여겨지지만 이미 산업 전반에서 AI 기술이 다양한 형태로 스며들고 있다. 이에 따라 기업 규모를 가리지 않고 IT기업들은 AI 기술 경쟁에서 앞서가기 위해 막대한 투자를 아끼지 않고 있다. 보안업계도 예외는 아니라서 인터넷과 스마트폰 이래 최대의 혁신으로 기대받고 있는 AI 기술을 어떻게 활용할 것인지를 두고 많은 연구가 진행 중이다. 2024년 보안업계가 주목하는 네 번째 기술, AI 기술에 대해 살펴보았다.

높아진 AI 활용

AI는 일반적으로 인간의 지능이 필요하거나 인간이 분석할 수 있는 것보다 규모가 큰 데이터를 처리하고 추론, 학습해 행동할 수 있는 컴퓨터 및 기계를 구축하는 것과 관련된 과학 분야다. 과거에는 사전 프로그래밍된 규칙에 따라 데이터를 분석하는 데만 AI가 쓰였지만 기술이 발전하면서 AI가 스스로 사례와 데이터를 취합해 학습하고 성장하는 것이 가능해졌다.

AI의 발전 가능성을 대중에게 알리고 능력의 확장성을 드러낸 2016년의 알파고부터 UN 무대에서 연설을 진행한 휴머노이드 로봇 소피아, 다양한 기능이 내장된 로봇 개 스팟, 이제는 일상이 된 딥페이크까지. 수많은 AI 기반 기술들이 이미 여러 분야에서 활용되고 있다.

AI가 모든 산업에서 광범위하게 활용되는 이유는 빠르고 정확한 정보 처리 능력과 자동화 능력 덕분이다. AI를 사용함으로써 사람은 기계적이고 반복적인 업무에서 벗어날 수 있고 이 과정에서 범할 수 있는 실수를 원천 봉쇄할 수 있다. 처리해야 할 정보의 양이 나날이 늘어나는 현대에 AI 기술은 이제 선택이 아닌 필수로 여겨지고 있다.

AI의 활용도가 높아지면서 보안업계 역시 AI에 집중하고 있다. 이미 위험 자동 탐지나 자동 대응, 소프트웨어 패치, 업데이트 등 반복적인 작업에 AI가 적극 활용되고 있으며 CCTV 영상 모니터링, 사이버 공간에서의 위협 인지 등 보다 복잡한 보안 능력이 필요한 영역에서도 AI 기반 기술이 도입되고 있다.

보안업계에서 AI의 활용도가 급격하게 높아진 이유는 방대한 데이터를 바탕으로 학습하고 미래를 예측하는 머신러닝과 딥러닝 기술의 정교함이 높아졌기 때문이다. 과거에는 AI를 활용하기 위해서는 AI가 판단 근거로 사용할 관련 데이터를 사람이 직접 투입해 줘야 했다. 하지만 지난 몇 년간 꾸준히 개발이 이뤄진 덕에 이제는 사람이 AI의 학습을 도울 필요가 없어졌다.

AI가 스스로 외부 데이터를 조합, 분석해 학습할 수 있는 딥러닝을 통해 초기 설정만 제대로 한다면 AI가 알아서 학습하고 분석, 판단해 위협을 대비할 수 있게 된 것이다. AI가 알아서 악성코드를 탐지하고 이메일 피싱, 스미싱을 감지하며 이상 행동을 탐지해 사용자에게 알림을 보내는 일이 특별한 일이 아닌 미래가 도래하고 있는 것이다.

시장 조사 기업 AMR(Allied Market Research)에서는 최근 보고서에서 전 세계 사이버 보안 시장에서 AI는 2022년 192억 달러(약 25조 7241억 원)로 평가되었으며 2032년까지 연평균 23.6% 성장해 2032년에는 1548억 달러(약 207조 3236억 원)에 이를 것이라고 전망했다.

AI 기술의 장점과 단점

사이버 공격의 정교함과 빈도가 증가하면서 기업들과 기관에서는 더욱 강력하고 새로운 보안 솔루션을 원하고 있다. 여기에 오늘날 전 세계에서 생성되는 일일 정보량은 약 25억GB로 인간이 직접 처리할 수 있는 정보량의 한계를 아득히 뛰어넘을 정도로 많은 데이터가 실시간으로 생성, 유포되고 있다. 이런 상황에서 자동으로 학습하고 성장하며 보안 위협을 막아낼 수 있는 AI 기술에 관심이 쏠리는 것은 어찌보면 당연한 수순이라고 할 수 있다.

하지만 상술한 AI 기술의 장점은 공격자에게도 동일하게 적용된다는 단점이 있다. 실제로 작년에 IT업계에 불어닥친 챗GPT는 해커들에게 유용하게 활용될 여지가 있다는 우려가 제기되기도 했다. 인터넷상에 존재하는 수많은 인터넷 정보를 AI가 취합하고 학습해 사용자들이 쉽게 대응하기 힘든 피싱 이메일, 악성 소프트웨어를 만들 수 있다는 것이다.

해커들은 AI를 활용해 악성 소프트웨어를 훨씬 빠르게 만들고 있으며 이전보다 더욱 설득력 있는 피싱 이메일을 생성해 보안 위협을 높이고 있다. 생성형 AI를 통해 작성된 피싱 이메일은 이전보다 훨씬 자연스러워졌고 코딩 작성 능력과 검토 능력을 보유한 생성형 AI는 누구나 활용 가능한 악성코드를 양산하고 있다.

이처럼 AI를 활용한 보안 위협 시도가 많아짐에 따라 AI를 보안에 도입하려는 움직임이 활발해지고 있다. AI가 생성한 악성코드를 AI가 막아내는 격이다. 하지만 AI를 활용하기 위해서는 복잡한 소프트웨어에 대한 이해가 선행되어야 하고 보안 솔루션에 AI를 제대로 접목하기 위해서는 보안 인프라와 기술 비용에 대한 상당한 투자가 선행되어야 한다는 단점이 있다.

더불어 나날이 다양해지는 각종 IoT 장치 네트워크 간의 운용성에 대한 문제도 해결해야 한다. 여러 장치에 사용된 상이한 소프트웨어와 애플리케이션을 기업의 보안 규정과 프로토콜에 맞춰 호환하는 작업이 필요하다. 여러 가지 단점이 존재하고 위험성도 있지만, AI가 향후 보안 시장을 주도할 것이라는 데는 대다수의 보안 전문가들이 동의하고 있다.

확대되는 AI 보안 서비스

AI는 랜섬웨어나 신종 악성코드에 대한 정보를 빠르게 탐지하는 데 유용하며 설정에 따라 보안 위협에 대한 판단까지 내릴 수 있다. 무궁무진한 가능성을 보여주는 기술이기에 AI를 적용한 보안 솔루션에 대한 개발이 빠르게 이어지고 있고 이를 적용한 기업, 국가 기관도 등장하고 있다.

마이크로소프트(MS)는 2023년, 생성형 AI를 접목한 '마이크로소프트 시큐리티 코파일럿'을 선보인 바 있다. 보안 조직의 업무를 보완하는 데 생성형 AI를 활용한 솔루션으로 자체적으로 사이버 공격자의 전술과 테크닉을 학습해 개선하는 것은 물론, 조직 전체의 보안 위협에 대한 사례도 체계적으로 정리해 보안 팀의 역량 개선에 활용되고 있다.

트렌드마이크로 역시 작년에 보안 전문가가 다양한 방식으로 활용 가능한 생성형 AI 기반 제품을 개발해 공개했다. 이 제품은 보안 전문가가 일상 속 자연어를 입력하는 것만으로도 다수의 보안 위협을 체계적이고 자세하게 보여주는 제품으로 보안 전문가의 위험 평가, 위협 조사 시행 시간을 50% 이상 단축시켰다는 평을 받는 시스템이다.

아예 생성형 AI를 보안 어드바이저로 활용하는 솔루션도 개발되었다. 기업의 교정 지침이나 플레이북 템플릿, 사고 분석 시스템이 내장된 생성형 AI가 자연어를 기반으로 한 사용자의 보안 질문에 몇 초 안에 관련 정보를 일괄적으로 검색, 자료를 보여주는 솔루션이다. 일례로 '작년 우리 기업의 대표적인 보안 위협을 알려줘'라는 질문을 던지면 AI가 관련 자료를 순식간에 취합해 제공하는 것이다.

구글에서는 사용자의 클라우드 환경을 지속적으로 모니터링해 이상 행위를 탐지하고 보안 위협에 대응하는 솔루션을 발표했고, 과학기술연합대학원대학교(UST) 한국전자통신연구원(ETRI)에서는 다수의 이상상황을 복합적으로 검출, 판단할 수 있는 지능형 CCTV를 개발해 서비스하고 있다. 시각 AI와 언어 AI가 결합되어 영상 속 사람들의 행동을 AI가 분석해 이상 행동을 감지하는 방식이다.

국내 보안기업들 역시 AI 신뢰도를 높이는 기술과 AI 예측 데이터에 룰 필터링을 적용하는 기술, AI 모델의 판단 근거를 알려주는 서비스 등을 개발하고 있다. 보안업계에서 나날이 높아지는 AI 기술에 대한 요구로 인해 정부 기관 역시 보다 적극적으로 움직이고 있다.

정부에서는 금융 분야 AI 보안 가이드라인을 작년 4월에 발표했으며 국가정보원에서는 지방자치단체와 공공 기관에 생성형 AI 기술 활용 보안 가이드라인을 배포했다. 행정안전부 역시 챗GPT에 한정된 주의 사항을 주요 정부 기관에 배포하며 AI의 보안 위협에 대비할 것을 촉구했다. 금융보안원 역시 신년 조직 개편을 통해 AI 혁신실을 신설하고 AI를 활용한 금융 보안에 적극 대응할 것을 밝혔다.

보안업계에서 AI는 뜨거운 감자로 떠오른 지 오래다. 모든 기술에 명암이 있듯 AI 기술 역시 보안에 있어 긍정적인 부분이 있고 약점으로 작용될 부분이 있다. 분명한 것은 향후 보안업계의 미래를 결정지을 핵심 기술이 AI라는 점이다. AI 기술이 앞으로 보안업계에 어떤 변화를 가져올지 귀추가 주목된다.

김민진 기자 다른기사 보기