“맘충·짱깨는 못 막아요”…악플 퇴치 ‘AI’, 곳곳이 허점! [IT선빵!]

[헤럴드경제=유동현 기자] “뛰는 클린봇 위에 나는 혐오표현?”

네이버가 악성 댓글 방지 인공지능(AI) ‘클린봇’의 감지 수준을 높이고 있지만 혐오 표현을 잡기엔 역부족이다. 여전히 댓글창에는 ‘한남(한국남자 비하 표현)’ ‘짱깨(중국인 비하 표현)’ 등 악플이 횡행한다. 악플이 갈수록 교묘해지면서 클린봇의 빈틈을 노리고 있기 때문이다.

하지만 ‘어디까지가 악플인가?’ 이를 논의할 네이버의 악플 논의기구마저 2년째 가동을 멈췄다.

야심찬 ‘클린봇2.0’…‘맘충’·‘짱깨’ 등 혐오 악플 못 막어

네이버는 지난달 악플 방지 AI ‘클린봇’을 ‘클린봇2.0’으로 고도화했다. 연예뉴스 댓글창 폐지를 시작으로 본격 ‘악플과의 전쟁’에 뛰어든 뒤 선보인 인공지능 기술이다.

클린봇2.0은 악성을 걸러내는 수준이 '욕설 단어'에서 '문장 맥락'으로 확대됐다. 맥락을 파악해 욕설 사이에 일부러 오타를 넣거나, 이모티콘을 끼우는 경우까지 거른다. 네이버 측은 클린봇2.0의 정확도가 95% 수준까지 올라왔다고 설명한다. 100개의 악플 중 95개를 자동으로 거른다는 의미다.

하지만 악플을 잡기엔 아직도 역부족이다. 클린봇의 수준이 올라가는 만큼 악플도 교묘해지고 있기 때문이다. 욕설을 하는 댓글은 숨김 처리가 되지만 표면상 욕설이 아닌 악플까지 잡아내지 못하는 실정이다. 혐오표현이 대표적이다. 댓글 창 내 ‘맘충’(극성맞은 학부모 비하 발언), ‘꼴페미(페미니즘 비하 표현)’, ‘한남’, ‘짱깨’ 등 혐오표현은 제약 없이 오르내리고 있다.

“어디까지가 악플?”…논의기구는 부재

악플은 갈수록 교묘해지지만 이에 대한 기준 마련 논의는 부재하다.

네이버는 클린봇2.0을 내보이면서 악플에 대한 기준을 마련했다. 각종 논문과 방송통신심의위원회에서 마련한 5가지 등급 기준이 반영됐다.

이에 ▷욕설(일반적인 욕설, 네이버 내부 욕설 데이터에 포함된 표현) ▷저속한 표현(타인에게 불쾌감을 주는 속되고, 격이 낮은 표현) ▷선정적 표현(성적으로 자극적인 표현) ▷폭력적 표현(신체적 위협에 대한 표현) ▷차별적 표현(지역/인종/국가/종교 등에 기반한 차별 표현) ▷비하적 표현(상대방에게 모멸감과 수치심을 주는 비하 표현) 등 6가지 악플 기준이 마련됐다.

위 기준에 해당할 경우 악플로 인정돼 클린봇2.0이 자동 숨김 처리를 적용한다.

하지만 댓글 내 '짱깨' '맘충' 등 각종 혐오표현은 그대로 노출되고 있다. 큰 틀의 기준은 마련됐지만 ‘어디까지가 악플인지’ 이를 논의해야할 단계가 남았기 때문이다.

네이버가 이를 위해 운영했던 '댓글정책이용자패널'은 2018년 8월을 끝으로 운영이 종료됐다. 이용자들의 의견을 모아 악플 기준을 마련할 기구가 부재한 상황이다. 클린봇이 고도화되더라도 진화하는 악플을 막기엔 역부족인 이유다.

네이버 관계자는 “악플 기준에 대한 공론화가 필요한 만큼 관련 기구가 재가동 될 수 있다"면서 "악플 근절을 위해 상습적으로 악플을 다는 특정인에 페널티를 부여하는 방안도 검토 중"이라고 말했다.