인공지능(AI)이 빠른 속도로 발전하면서 부작용과 폐해를 우려하는 목소리도 커지고 있다. 이에 따라 AI의 폐단을 막기 위한 다양한 노력이 세계 각국에서 시도되고 있다. 또한 이 과정에서 각국의 이해 관계가 얽히면서 AI 규범을 둘러싼 국제 사회의 셈법은 더욱 복잡해지고 있다.

AI 규범의 범위

현재 AI 규제와 관련된 논의는 오픈AI의 챗GPT, 구글 제미나이(Gemini) 등과 같은 생성형AI를 넘어 범용AI(artificial general intelligence, AGI)로 확대되고 있다.

생성형AI가 사용자의 요구에 맞춰 텍스트, 이미지, 음성 등 새로운 형태의 데이터 창작물을 제공하는 것에 초점을 맞추고 있는 반면, 범용AI는 인간의 창의적인 영역에 도달하거나 그 이상을 목표로 하는 AI를 의미한다.

등장 시기만 문제일 뿐 범용AI의 등장은 확실시되고 있다. 최근 전 세계적으로 관심을 모았던 샘 올트먼 오픈AI CEO의 해임과 복귀에서도 범용AI가 중요한 화두로 등장한 바 있다. 인간이 해왔던 업무를 컴퓨터가 유사한 수준 또는 그 이상으로 소화할 것으로 예상된 범용AI는 고위험 AI 출현의 가장 유력한 후보가 되고 있다.

따라서 범용AI의 등장 이전에 안전한 AI 활용 환경을 만들기 위한 규범 마련에 속도가 붙고 있다. AI 규범의 범위는 크게 세 가지로 볼 수 있다. ▲AI가 데이터를 처리할 때 정당하게 공개된 정보를 수집하고 정당한 이익을 창출하는 것 ▲AI을 이용하면서 기업과 민간이 느끼는 불확실성 해소 ▲투명한 AI 구현과 이용자의 권리다.

미국이 AI 규범 마련에 나선 까닭

AI의 단적인 폐단은 가짜뉴스에서 노골적으로 드러났다. 우크라이나-러시아의 전쟁에서 가짜뉴스가 판치면서 AI에 대한 위기감이 증폭됐다. 딥페이크로 만들어진 젤렌스키 우크라이나 대통령의 가짜 항복 선언 영상은 전쟁 초기 혼란을 가중시키기도 했다. 이처럼 AI 딥페이크 기술의 위험성이 고스란히 드러나면서 발빠르게 관련 규제에 나선 국가는 미국이었다.

미국에 본사가 있는 구글과 메타는 AI 기술로 만든 콘텐츠에 워터마크 표시를 넣는 서비스 개발에 나섰다. 우크라이나-러시아 전쟁에 이어 전 세계를 혼돈에 빠뜨린 하마스-이스라엘 전쟁에서도 가짜뉴스가 쏟아지자 엑스(구 트위터)와 페이스북 등은 AI가 생성한 가짜뉴스에 워터마크를 삽입했다. 가짜뉴스의 파급력을 상쇄하려는 조치로 풀이된다.

바이든 행정부는 지난 10월 말 ‘AI 행정명령’을 발표했다. 핵심 내용은 ‘AI 모델이 국가 안보나 경제 안보 등에 위험을 초래하면 이를 연방정부에 통지해야 한다’는 것이다. 오픈AI, 마이크로소프트, 구글 등 미국 기업의 AI 기술을 이용하는 외국 기업도 포함된다.

미국 의회는 자국 내 AI 규범을 지켜야 하는 범위 안에 외국인, 외국 기업이 포함될 수 있도록 법제화에 나선 것으로 알려졌다. 이는 전 세계 AI 시장의 주도권을 미국이 쥐고 가겠다는 의지를 천명한 것으로도 해석된다. 또 다른 관점으로는 국가 기밀과 안보를 위협하는 AI 기술 개발을 막으려는 의도도 포함된 것으로 보인다.

미국 바이든 대통령이 AI 행정명령을 발표한 직후인 11월 초 ‘AI 안전 정상회의’가 영국에서 열렸다. 이 자리에서 한국을 비롯한 미국, 중국, 영국 등 28개국과 유럽연합(EU)은 ‘블레츨리 선언(Bletchley declaration)’을 발표했다.

블레츨리 선언의 핵심 내용은 고성능 범용 모델의 실존적 위험에 대응하자는 것이다. ▲AI에 대한 적절한 평가 지표 ▲안전 테스트를 위한 도구 개발 ▲고성능 AI 위험 식별 및 과학적 이해 구축 등에 대한 국제 협력 방침 등의 내용이 담겼다.

7개 경제 선진국 모임인 G7도 AI 규범 마련에 힘을 보탰다. 블레츨리 선언 이후인 12월 초에 발표된 ‘히로시마 AI 프로세스’에 따르면 AI를 개발한 기업은 고도의 AI을 시장에 내놓기 전에 위험성을 평가하고, 이를 줄일 수 있는 적절한 조처를 해야 한다는 국제 지침을 명시했다.

이와 함께 AI를 개발한 기업, AI 사용자까지 모두 포함해 AI를 적절히 이용하는 능력을 키우고 그로 인해 발생할 수 있는 가짜 정보 등의 위험성을 인식해야 한다는 국제 행동 규범도 제시했다. 더 나아가 국제적인 전문 기관을 만들고 AI가 생성한 콘텐츠를 구별하는 전자워터마크 개발, 빅테크 기업을 대상으로 한 모니터링 제도 활성화 등의 제안도 나왔다.

발 빠르게 움직인 EU

AI 규범을 놓고 EU의 움직임도 미국 못지않게 빨랐다. 미국이 자국을 중심으로 움직이고 있다면, EU는 실제로 일어날 수 있는 상황과 인권에 대해 초점을 둔 법제화 작업에 결실을 맺었다. 유럽의회는 올해 6월 ‘AI 규제법 초안’을 통과시켰다.

초안에 따르면 생성형AI가 만든 콘텐츠는 해당 사실을 명시해야 한다. AI가 학습한 데이터의 저작권도 공개해야 하며 공공장소에서 안면 인식 기술로 사람을 감시하거나 이를 통해 얻은 정보를 경찰 수사에 쓸 수 없도록 했다. AI로 신용도를 매겨 사람을 걸러내는 작업도 할 수 없다. 이 같은 규정을 위반한 기업에 대해 연간 매출의 최대 6%에 해당하는 벌금을 부과할 수 있지만 실제로 법이 적용되기까지 다소 시간이 걸릴 것으로 예상된다.

일각에서는 EU의 AI 법제화 움직임이 미국의 빅테크 기업을 견제하기 위한 수단이라는 분석도 있다. 유럽 시장에 진출하기 위해 AI 규제법을 준수하는 과정에서 미국 빅테크 기업들의 노하우가 노출된다는 것이다. 반면 지나친 규제가 AI 발전을 역행한다는 지적도 있다.

한편, AI 기술 개발에 사활을 걸고 있는 중국이나 우크라이나 전쟁에 전력을 쏟고 있는 러시아는 미국과 EU의 주도권 싸움이 마냥 달갑지만 않다. 현재 미국이 추진하는 AI 규범이 전 세계에 영향을 미치면 미국의 AI 산업 독점 가능성은 더욱 높아진다.

AI 규범에 참여하며 실리 챙기기 나선 우리나라

고학수 개인정보위원회 위원장은 현지 시간으로 지난 10월 26일 유엔 AI 고위급 자문기구(UN High-level Advisory Body on Artificial Intelligence)의 자문위원으로 선발됐다. 우리나라는 내년 5월 영국과 함께 AI의 안전한 활용을 위한 ‘미니 정상회의’를 공동 주최한다. 정부는 메타, 구글 등 글로벌 AI 기업과 소통하고 협력하며 국제 규범 논의를 선도한다는 방침이다. 고학수 위원장은 “기술 선도국과 소비자국 사이에서 중재자적 역할을 할 것이다”고 전했다.

AI 규범 논의로 AI 시장의 주도권 싸움 1라운드는 시작됐다. 우리나라는 강대국 사이에서 적극 기여하며 AI 거버넌스 분야의 역할을 점차 늘려갈 방침이다. 무궁무진하게 성장할 AI 시장에서 유리한 고지를 차지하기 위한 우리나라의 행보도 점차 빨라지고 있는 모습이다.

오현지 기자 다른기사 보기