자연어처리 기반 인공지능(AI) 스타트업 튜닙이 윤리성 판별 엔진 ‘세인트 패트릭(St.Patrick)’의 베타 버전을 출시했다. 세인트 패트릭은 AI로 문장 속 혐오 표현과 개인정보 포함 여부를 확인하는 기술이다.
튜닙은 자사 AI 모델과 학습 데이터의 윤리성 담보를 위해 윤리성 판별 엔진 ‘세인트 패트릭’을 개발했다. 세인트 패트릭은 혐오 표현과 개인정보 두 가지를 탐지한다. 혐오 표현 탐지 모듈은 한국어 문장 속 혐오 표현을 ▲욕설 ▲성 혐오 ▲인종 차별 등 11가지로 세부 분류한다. 이후 각 표현의 강도를 ▲없음 ▲미약 ▲명백 ▲심각 등 네 단계로 표시한다. 타 서비스 대비 분류가 구체적이고 자세하다는 것이 튜닙의 설명이다.
개인정보 탐지 모듈의 경우 이름과 주소, 주민등록번호 등 14개의 개인정보 항목들을 감지한다. 기존의 규칙 기반의 탐지 모델 뿐 아니라 문장의 문맥을 고려해 개인정보를 탐지하는 기술도 함께 적용됐다.
튜닙은 윤리성 판별 엔진이 온라인상의 윤리 문제에 새로운 해결책이 될 것으로 기대했다. 최근 인터넷 비방 댓글, n번방 사태, 이루다 혐오 발화 등 온라인상의 혐오 표현 문제는 더욱 극심해지고 있다. 지난해 국가인권위원회의 온라인 혐오 표현 인식 조사에 따르면, 국내 만 15세 이상 남녀 중 70.3%가 온라인 혹은 오프라인 실생활에서 혐오 표현을 경험했다.
박규병 튜닙 대표는 “온라인의 윤리 문제나 AI 윤리 문제는 기술의 발전과 더불어 늘 고민해야 하는 본질적 문제다. 이번 윤리성 판별 엔진 개발을 시작으로 대화 문맥상의 윤리성 문제, AI 모델의 윤리성 문제를 총체적으로 점검하고 수치화할 수 있는 솔루션 개발에 매진하겠다”고 말했다.
한편 튜닙은 현재 영어 챗봇 블루니(BLOONY)를 클로즈 베타 테스트 중이다. 또 이번 달 내로 윤리성 판별 엔진이 탑재된 또 다른 페르소나 챗봇을 한국어로 서비스할 예정이다.
