[포커스온] 보안업계에 부는 AI 바람

2016년 3월 구글 딥마인드의 인공지능(AI) 바둑 프로그램 알파고가 전 프로 바둑기사 이세돌 9단을 이긴 사건을 다들 기억할 것이다. 당시 AI 앞에 무너진 인간의 한계에 세계는 놀랐고 IT-과학 등 주요 업계는 AI에 더욱 주목했다.

그로부터 7년이 지난 지금, AI라는 말은 이제 생소하지 않다. 언어를 번역하고 대화를 나누는 AI 챗봇부터 내 취향을 알고 제품을 추천해주는 AI, 그림을 그리는 AI 화가까지 어느 하나 AI가 손을 뻗치지 않은 분야가 없다. 그리고 이제는 ICT의 발전과 함께 중요해진 보안업계에서도 AI의 역할은 점점 커지고 있다. 몇 년 전부터 등장한 AI 해커 이야기는 그냥 나오는 말이 아니다.

한국인터넷진흥원(KISA)이 2022년 발표한 ‘KISA INSIGHT: AI 중심 사회의 도래와 보안 이슈 분석(이하 KISA INSIGHT)’ 보고서에 따르면, 앞으로 도래할 AI 중심 사회에서는 AI를 활용한 공격이 급속도로 증가할 것이기에, 이를 대비하기 위한 AI 보안 기술과 관련 제도가 꼭 필요하다고 강조했다.

AI의 새로운 전쟁터가 될 보안업계

AI의 등장은 보안업계에 새로운 패러다임을 가져오고 있다. 과거의 보안 기술은 나날이 진화하는 다양한 공격에 대응하는 방식으로 발전해 왔다. 그리고 공격의 주체는 대부분 사람이었다. 하지만 AI가 발전하면서 공격과 방어의 패러다임은 바뀌고 있다.

미국의 저명한 암호학자이자 보안 전문가인 브루스 슈나이어는 2022년 6월 열린 국제 보안 전시회 ‘RSA 컨퍼런스 2022’에서 “지금까지의 해킹은 전문 지식, 시간, 독창성, 운이 필요한 인간의 활동이었지만 AI가 해킹을 시작하면 해킹의 속도, 규모, 범위 등 모든 부분이 바뀔 것이다”라며 AI 해커의 위험성을 경고했다.

또한 그는 AI 해커가 이미 등장했으며, AI 해커는 사람이 예측할 수 없는 방식으로 그동안 우리가 경험하지 못했던 공격을 시도할 것이라고 전망했다. 하지만 그러면서도 그는 AI의 발전이 보안에 위협만이 되는 건 아니라며 보안에도 AI를 적용할 수 있다고 덧붙였다.

이처럼 AI는 보안업계에서 양날의 검으로 작용할 가능성이 높다. 잘 설계된 AI 해커가 익스플로잇이나 디도스(DDos) 등 사이버 공격을 감행한다면 대량의 시스템이 한 번에 감염돼 중요 정보가 유출되는 사고로 이어질 수 있다. 또한 자율주행차, 커넥티드카 등 미래 모빌리티를 해킹하는데 AI가 활용되면 작게는 개인의 안전부터 크게는 한 도시의 교통 인프라까지 위협하는 사태에 이를 수도 있다.

이미 AI를 사이버 공격에 활용한 사례는 많이 나오고 있다. AI로 영상·음성을 합성하는 딥페이크· 딥보이스 공격을 통한 금융 사기, AI를 통한 퍼징으로 데이터 충돌 등 취약점을 찾은 후 공격하는 제로데이 공격 등 AI는 다양한 공격에 활용되고 있다.

AI 기술 스타트업 튜닙의 박규병 대표는 “영화 터미네이터의 스카이넷 같이 잘 만들어진 AI가 인간의 통제를 넘어 해킹 등 사이버 공격을 가하는 일은 충분히 벌어질 수 있다. 물론 현재로서는 GPT-3와 같이 고도화된 AGI(Artificial General Intelligence, 범용 인공지능)에 한해서다. 마치 아이들이 언어를 배울 때 자신이 학습하지 않은 말을 하는 것처럼 AGI는 자신을 설계한 인간의 통제를 벗어나는 행위를 하거나 값을 내놓는 경우가 있다. 이처럼 만약 AGI가 해커가 된다면 사람이 예측할 수 없는 공격을 할 가능성이 있다”라고 설명했다.

하지만 너무 걱정하지 않아도 될 것은 이런 위협에 대응하기 위한 보안 기술에도 AI가 탑재되고 있기 때문이다. 현재 범용성이 높은 차세대 방화벽(NGFW), 차세대 백신(NGAV) 등 보안 제품에는 AI가 적용되고 있으며, 제로데이 공격, 지능형 지속 공격(APT) 등 새로운 사이버 공격에 대비한 보안 솔루션에도 AI가 탑재가 가속화되고 있다.

막스 시트 ETH 추리히 CSS(보안연구센터) 선임 연구원은 2022년 미국 외교 안보 전문 매체 ‘내셔널 인터레스트’에 쓴 ‘AI는 향후 사이버 전쟁에서 양날의 칼’이라는 제목의 기고에서 “AI의 등장은 보안의 미래와 직결돼 있다”고 강조했다.

이어 “따라서 보안업계는 AI를 통해 사이버 범죄 조직이나 해킹 집단의 개발자, 운영자, 관리자 및 기타 직원이 더 나은 작업을 수행할 수 있는지를 연구하고, 동시에 향후 사이버 전쟁 시 공격 및 방어, 양쪽의 관점에서 AI의 주요 응용 분야를 모두 이해하고 관련 기술을 만들어가야 한다”라고 말했다.

AI와 함께 성장하는 보안 시장

시장 조사 업체 마켓앤마켓은 전 세계의 AI 기반 보안 시장이 연평균 21.9%의 성장률을 기록해 2023년 224억 달러(약 30조 원)에서 2028년에는 606억 달러(약 80조 원)까지 성장할 것으로 예측했다.

이처럼 AI가 주목받자 보안업계는 빠르게 움직이고 있다. 보안 기업들은 AI CCTV, 보안 소프트웨어 등 다수 제품에 AI를 도입하고 있으며, 세계 주요국들은 AI를 기반으로 한 보안 R&D 투자를 확대하는 등 AI 기반의 보안 기업을 육성하기 위해 힘쓰고 있다.

물리 보안 분야에서는 지능형 CCTV와 얼굴 인식 출입 관리 등 AI 기반의 영상 분석 솔루션이 주목받고 있다. 국내 보안 기업 에스원이 85개 고객사를 대상으로 실시한 조사에 따르면, 2023년 보안업계를 주도할 기술로 AI가 뽑혔다.

사이버 보안 분야에서는 PC·노트북·스마트폰 등을 비롯한 여러 전자 기기에 필요한 엔드포인트 보안에 AI 도입이 더욱 활발해질 것으로 보인다. 여기에는 안티 바이러스와 방화벽 등 실시간으로 위협을 탐지하고 대응하는 솔루션과 개인정보 보호를 위한 정보 탐지 기술이 포함된다.

보안 기업 파수 관계자는 “다른 산업도 마찬가지지만, 최근 보안업계 내에서 AI에 대한 관심이 커지고 있다. 파수도 최근 AI가 핵심 기술인 개인정보 탐지 솔루션을 출시했다. 이처럼 각 기업들의 핵심 분야에 맞게 AI 기술이 제품과 솔루션에 적용되고 있으며 AI를 전면에 내세운 보안 솔루션도 많이 나오고 있다. 이 추세는 앞으로도 계속될 것으로 보인다”라고 설명했다.

일례로 지난 1월 5일부터 8일까지 열린 세계 최대 규모의 국제 가전·IT 전시회 ‘CES 2023’에는 AI를 기반으로 한 보안 제품이 다수 등장했다. 사람을 찾아주는 AI 기반의 영상 분석 플랫폼부터, 개인정보 보호를 위한 AI 탈중앙화 생체 인증 솔루션까지 다양한 AI 보안 기술이 공개됐다.

우리나라 정부도 AI 보안을 위한 투자를 늘여가고 있다. 2021년 말 과학기술정보통신부와 한국인터넷진흥원(KISA)은 약 420억 원(기업당 7억 원)을 투입해 2025년까지 AI 보안 기업 100개사를 발굴하고, 글로벌 경쟁력을 갖춘 보안 기업 60개사를 육성한다는 계획을 밝혔다. 이를 위해 양 기관은 AI의 주요 분야인 머신러닝, 딥러닝, 패턴 인식 기술을 활용한 신규 보안 제품·솔루션의 개발과 고도화를 지원하고 있다.

KISA 관계자는 “AI 보안 시장을 육성하기 위해 2021년도부터 여러 사업을 진행 중이다. 2021부터2022년까지 총 30개의 보안 기업을 발굴해 AI 기반 보안 제품을 개발·사업화하도록 지원했다. 이 외에도 보안 전문가들과 함께 AI 보안에 대해 논의하는 ‘AI 시큐리티 데이’ 행사를 열고, AI 보안 기술 개발에 필요한 데이터세트도 개방하고 있다. 기업들의 관심이 높아짐에 따라 AI 보안에 대한 지원과 연구를 앞으로 더 늘여갈 계획이다”라고 말했다.