인공지능(AI) 챗봇 심심이가 디지털화의 심각한 부작용 중 하나인 온라인 혐오를 차단하기 위해 기초과학연구원(IBS)과 힘을 모은다.
심심이는 최근 IBS 데이터 사이언스 그룹과 온라인 혐오 문해 해결을 위한 업무협약(MOU)을 체결했다고 26일 밝혔다.
이번 협약은 심심이의 인공지능(AI) 챗봇 윤리 검증 노력의 일환으로 이뤄졌다. 향후 데이터 사이언스 그룹과의 협업을 통해 일상대화 챗봇과 사람의 상호작용 패턴을 면밀히 파악하는 것은 물론 온라인 혐오 표현 문제 해결에 적극 나설 계획이다.
또한 심심이와 IBS는 사회에 공헌하기 위한 유기적 협력 체계 구축에도 공조하기로 합의했다. 이를 위해 상호 관심 영역 데이터 수집·연계·정제, 기계학습, AI 기반 데이터 분석·도구 개발 노력을 경주할 예정이다.
이와 관련 심심이는 과학기술정보통신부가 주관하는 AI 학습용 데이터 구축 사업에 참여해 윤리 검증을 돕는 데이터셋 구축 사업을 수행하고 있다. '텍스트 윤리검증 데이터' 과제 주관기관으로서 각 분야 전문성을 갖춘 5개 기관과 컨소시엄을 구성, 자유 공모 분야에 선정되며 7개월 간 19억 원을 지원받으면서 과제를 수행 중이다.
심심이 컨소시엄은 대화형 AI가 사람과 대화하는 데 사용하는 대화 시나리오부터 서술형 텍스트에 이르기까지 다양한 텍스트 관련 윤리성을 검증하거나 비도덕적 텍스트의 구조 규명에 주력할 방침이다.
최정희 심심이 대표는 "AI 챗봇이 전 세계에서 윤리적 문제에 부딪치면서 지속가능한 AI를 위해서는 이 한계를 근본적으로 해결해야 한다는 점을 일찌감치 인식해왔다"며 "IBS의 우수한 데이터 과학자들과 함께 윤리 문제를 효과적으로 해결할 수 있는 방안을 도출해 AI 챗봇의 지속가능한 발전을 견인할 수 있도록 노력할 것"이라고 밝혔다.
ISB 데이터 사이언스 그룹을 이끌고 있는 차미영 CI(Chief Investigator‧KAIST 전산학부 교수)는 “심심이는 약 1억 4000만 쌍의 대화 시나리오 데이터를 기반으로 만들어진 생동감 있는 대화 플랫폼”이라며, “온라인 데이터 속 혐오 표현을 탐지하는 AI 개발을 위한 최적의 도구가 될 것”이라고 말했다.
