네이버

[헤럴드경제=김민지 기자] 네이버가 음란 이미지를 실시간으로 감지해 검색 노출을 99.5% 막아주는 ‘엑스아이(X-eye) 2.0’을 오는 7월부터 적용한다고 29일 밝혔다.

음란물 필터링 AI 시스템 ‘엑스아이(X-eye)’는 지난 2017년 처음 탄생했다. 네이버에 축적된 방대한 4백여만 장의 이미지를 형태별로 분류해 AI 학습을 거쳤다. ‘엑스아이’ 도입 전에는 이미지 모니터링 담당자들이 조치를 취할 때까지 유해물이 노출됐지만, 도입 후에는 98.1%의 높은 적중률로 유해한 사진, 동영상을 실시간으로 걸러내는 것이 가능해졌다.

이번에 업그레이드된 ‘엑스아이 2.0’은 네이버 AI랩과 클로바가 진행한 선행 이미지인식 기술 연구결과를 활용해 더욱 고도화됐다. ▷속도, 정확도가 더욱 높아진 고성능 이미지인식 모델 ‘렉스넷(ReXNet)’, ▷AI 모델 학습 시 데이터 부족을 위해 사용되는 데이터증강기법 ‘컷믹스(CutMix)’, ▷더욱 안정적으로 모델을 학습하고 인식 정확도를 향상시키는 최적화 기법 ‘AdamP’ 등 다양한 AI 기술들이 적용됐다.

네이버가 음란 이미지를 실시간으로 감지해 검색 노출을 99.5% 막아주는 ‘엑스아이(X-eye) 2.0’을 오는 7월부터 적용한다고 29일 밝혔다. [네이버 제공]

이를 통해 기존 정상/음란으로만 구분하던 ‘엑스아이 1.0’에서 정상/음란/성인/선정 총 4가지 등급으로 커버리지를 확대했다. 판단 정확도는 99.5%로 강화됐다. 이미지뿐 아니라 선정적 표현에 대한 판단도 뛰어나 다양한 서비스에서 활용할 수 있다.

아울러 선정적 부분이 지나치게 작게 나오거나 희미한 경우 등 잘못 탐지할 가능성이 높은 사례를 보완했다. 극히 일부의 놓친 이미지에 대해서도 AI 모델이 빠르게 자동학습이 가능하도록 설계했다. 최신 데이터를 지속적으로 반영할 수 있어 탐지 정확도는 더욱 높아질 것으로 기대된다.

유봉석 네이버 서비스운영총괄은 “건전한 인터넷 이용 환경 조성을 위해 네이버는 음란물, 성인물은 물론 불법촬영물, 혐오 등 사회적 변화에 맞춰 다양한 유해 콘텐츠 차단을 위해 지속적으로 노력해오고 있다”며 “추후 엑스아이의 오픈 API 기술을 공개해 아직 기술이 부족한 스타트업과 사업자 등 다양한 영역에서 활용할 수 있도록 준비 예정이다"라고 밝혔다.

한편, 네이버는 지난해 발생한 N번방 사건 등 아동·청소년 관련 성범죄, 성착취물 관련 성적 표현에 대한 관리를 강화하고 있다. 지난 1월 29일에는 업그레이드된 ‘AI클린봇 2.5’를 적용했고, 건강한 그린인터넷 구현 및 문화 형성을 위해 정책적인 부분과 기술적인 개선 등을 노력하고 있다.