[기고] 검증된 AI 보안 기술이 AI 악용하는 공격 막는다

[자료 제공=이글루코퍼레이션]

최근 진입 장벽이 낮아진 인공지능(AI)이 모든 산업에서 다방면으로 활용되고 있다. AI를 이용해 의료 진단을 받고, 은행 대출 심사를 진행하며, 심지어 자동차 자율주행에도 AI를 적용한다. 하지만 AI 기술이 발전하고 활용 영역이 확대되는 등 AI 기술에 대한 접근성이 좋아진 만큼 이를 악용하는 사례가 늘어나고 있다.

공격자들은 기술 수준이 높아진 AI 기술을 사이버 공격에 악용하고 있다. 실제로 일부 해커가 AI을 통해 온라인에서 더 발전한 형태의 피싱 이메일을 작성하고 악성코드를 개발하는 등의 사례가 포착되고 있다. 이처럼 사이버 공격자들은 AI를 활용하여 다양하고 고도화된 공격 수법들을 만들어냈고, 보안 위협 경보량은 기하급수적으로 증가했다.

보안 기업 이글루코퍼레이션은 이러한 보안 위협에 선제적으로 대응하기 위해 2016년부터 AI 전문가들을 영입하고 보안에 최적화된 알고리즘을 개발하는 등 AI 보안 대응 체계를 구축해 왔다.

2019년 초에는 국내 최초 AI 보안관제 솔루션인 ‘스파이더 티엠 AI 에디션(SPiDER TM AI Edition)’을 출시했다. 스파이더 티엠 AI 에디션은 사이버 보안 분야에 최적화된 AI 기술을 토대로 보안관제 요원의 역량과 경험에 따라 과탐·오탐·미탐이 발생했던 문제점을 해결하고, 걸러진 핵심 정보와 의심스러운 단서를 집중 분석할 수 있는 시간을 벌어준다.

또한, 이글루코퍼레이션은 AI 보안관제 체계 구축에서 더 나아가 고객이 이를 지속적으로 잘 운영할 수 있도록 지원하는 조직을 보유하고 있다. 정보 보안 및 데이터 전문가로 구성된 이들은 원본 데이터로부터 AI가 지도/비지도 학습에서 학습·탐지 시 사용할 데이터의 특성들을 정의해 놓은 피처(feature)를 선별하고 이를 목적에 부합하는 머신러닝 모델에 적합한 형태로 변환하여 머신러닝 모델의 정확성을 높이는 작업을 수행하고 있다.

이글루코퍼레이션은 AI 보안의 정확도와 신뢰도를 높이기 위한 AI 데이터세트 구축에도 집중하고 있다. 양질의 보안 학습 데이터는 AI 보안 솔루션을 도입, 개발 및 연구하고자 하는 조직 모두에게 필요하다. AI 보안 시스템을 개발하거나 도입하였더라도 머신러닝 알고리즘이 학습하는 데이터의 수준이 떨어진다면, 도출된 결과물의 수준도 낮아질 가능성이 높다.

이글루코퍼레이션은 이러한 데이터를 기반으로 기존 보안 장비의 한계성을 뛰어넘을 수 있는 AI 기반의 탐지 모델을 만들고 있다. 보안관제, 침해 사고, 머신러닝 등 각 분야 전문가들 간의 긴밀한 협업을 통해, 보안 환경에서 실질적인 효과를 창출할 수 있는 AI 모델 구현에 집중하고 있다.

2021년부터는 한국인터넷진흥원(KISA)의 ‘사이버보안 인공지능(AI) 데이터셋 구축 사업’을 수행하며 양질의 AI 데이터 구축 역량을 증명했다. 더불어 AI 관련 특허 20여 개를 취득하며 고유의 기술력 확보에도 힘을 기울였다.

이처럼 AI가 시장의 관심을 받으면서 ‘설명 가능한 AI(XAI: eXplainable AI)’ 기술이 핵심 트렌드로 부상했다. 판단 결과에 대한 근거를 제공해 주는 XAI 기술을 통해서라면 AI와 사용자 간의 관점 차이를 줄이고 예측 과정에 대한 설득력을 높여 AI 기술의 투명성과 신뢰성을 강화할 수 있기 때문이다. 일찍이 AI 기술 도입에 뛰어든 금융·사이버 보안·모빌리티 업계에서는 각 분야에 특화된 XAI 기술 적용에 박차를 가하고 있다.

이글루코퍼레이션은 2021년 특허 등록한 XAI 기술을 자사의 AI 보안 솔루션에 적용하며, AI의 신뢰성을 높이고 있다. AI가 어떤 기준에 따라 특정 행위를 이상 혹은 정상으로 탐지했는지를 확인함으로써, 해당 조직의 판단 기준에 맞지 않는 오탐(위협이 아니지만 위협이라고 판단하는 것) 발생률을 크게 낮출 수 있다.

AI를 활용하는 공격자에게 앞서기 위해서는 AI 기반의 공격 탐지 기술은 물론, AI를 악용한 보안 위협을 탐지할 수 있는 능동적인 방어 체계 구축이 필요하다. 이글루코퍼레이션 역시 정상적인 AI 서비스를 악용한 우회 공격 및 적대적 공격 등에 대한 방어 방법 등을 지속 연구 중에 있다.