국가정보원은 11월 28일 영국 국가사이버안보센터(NCSC)와 미국 사이버안보·인프라보호청(CISA) 및 파이브아이즈(Five-Eyes)를 비롯한 주요국 23개 기관들이 참여한 '안전한 AI 시스템 개발 가이드라인'을 공동으로 발표했다.
주요 참여 기관은 미국 NSA와 FBI, 호주 ACSC, 캐나다 CCCS, 뉴질랜드 NCSC, 에스토니아 RIA·NCSC, 프랑스 ANSSI, 독일 BSI, 이스라엘 INCD, 이탈리아 ACN, 일본 NISC, 나이지리아 NITDA, 노르웨이 NCSC, 폴란드 MC·NASK, 싱가포르 CSA 등 23개 기관이다.
이번 가이드라인은 영국 NCSC와 미국 CISA가 최근 안전한 AI 시스템 확보를 위해 AI 개발과 관련한 가이드 마련을 주도하고 국정원 등 주요국 사이버 안보 기관이 협력 파트너로 대거 참여한 결과물이다.
국정원은 '한미 전략적 사이버안보 협력 프레임워크(4월)' 및 '한영 전략적 사이버 파트너십(11월)' 체결 등 연이은 정상 간 사이버 안보 협력 토대를 조성하는 가운데 다방면의 연대를 공고히 하고자 협력 파트너로서 참여했다고 밝혔다.
국정원에 따르면 이번 가이드라인은 AI 시스템 제공 업체의 IT 기술자들이 안전하게 개발하는데 도움을 주는 실용적인 조언을 제공하고 있다.
가이드라인은 먼저 개발 과정 전반에 걸쳐 '보안내재화(Design by Secure)'를 강조하면서 ▲보안에 대한 책임 ▲책임성·투명성 보장 ▲기업 영업 시 보안 내재화 최우선적 고려 등 3개 원칙을 제시했다.
또한 안전한 AI 시스템 개발 방법에 대해 설계, 개발, 배포, 운영 등 4 STEP으로 구분해 각 단계별로 상세한 조치 사항이 담겨있다.
안전한 AI 시스템 개발을 위한 4 STEP
❶ 안전한 설계: 시스템에 대한 위협요소 분석, 윤리적 요소 고려
❷ 안전한 개발: 공급망 보안 대책 마련
❸ 안전한 배포: 배포 IT인프라 보호, AI 모델 조작 환경 보호
❹ 안전한 운영: 시스템 행동 모니터링, 자동 업데이트 보안 대책 적용
국정원 백종욱 3차장은 "국정원은 주요국들과 사이버 안보 파트너십을 바탕으로 AI 등 신기술 등장에 따른 신종 공격 위협에 적극 대응해 나갈 계획이다"라고 밝혔다.
