AI성인물 무분별 유포...학부모 ‘전전긍긍’

최근 인공지능(AI)이 그림을 그려주는 서비스가 큰 인기를 끄는 가운데, 이를 이용한 성인 콘텐츠가 무분별하게 확산되고 있어 학부모들의 우려가 커지고 있다. 특히 정상적인 성인물이 아닌 ‘아청법’ 위반에 해당할 수 있는 불법 콘텐츠 등도 생산되고 있다.

20일 헤럴드경제 취재에 따르면, 일부 그림 제작 AI 프로그램으로 제작된 성인 콘텐츠가 온라인커뮤니티·사회관계망서비스(SNS) 등을 통해 급속도로 확산되고 있다. 커뮤니티·SNS로 퍼진 성인 콘텐츠는 별다른 제한 없이 누구나 볼 수 있어 아동·청소년들의 접근도 자유롭다.

한 온라인 커뮤니티에서는 AI가 그린 성인 콘텐츠만 별도로 올리는 게시판까지 개설됐다. 원칙적으로는 한국에서 이용이 불가하지만, 우회 프로그램을 이용해 얼마든지 이용이 가능하다. 또한 성인 인증이 필요 없어 누구나 성인 콘텐츠를 볼 수 있다.

일부 AI가 그린 성인 콘텐츠는 유아로 보이는 얼굴에 성인의 몸을 그리거나, 교복을 입은 미성년자로 보이는 캐릭터가 등장하는 등 아동·청소년의 성보호에 관한 법률(아청법) 위반 소지도 있었다.

현행 법에 따라 실제 성인으로 설정이 됐더라도, 교복을 입는 등 외관이 미성년자로 판단될 경우 아청법 위반으로 처벌을 받을 수 있다. 아청법 위반 게시물을 배포할 시 7년 이하의 징역 또는 5000만원 이하의 벌금, 소지할 시 1년 이하의 징역 또는 2000만원 이하의 벌금에 처한다.

실제 2019년 대법원은 여고생 캐릭터가 등장하는 성인 애내메이션을 소지·배포한 40대 남성에 대해 아청법 위반 혐의로 벌금 500만원을 선고한 바 있다. 당시 재판부는 “표현물들에 부여한 특징들을 통해서 나이는 19세 미만임을 알 수 있고, 청소년으로 인식될 수 있는 표현물에 해당한다”며 “이 사건 만화 동영상들은 아동·청소년 이용 음란물에 해당한다”고 유죄 사유를 설명했다.

일각에서는 인간이 아닌 AI의 판단에 의해 제작된 만큼 고의성을 입증할 수 없어 아청법을 적용하기 힘들다고 주장하고 있다.

하지만, 법조계는 이 역시 아청법 적용이 어렵지 않다고 판단하고 있다. 민주사회를 위한 변호사모임(민변) 아동청소년인권위원회 소속 신수경 변호사는 “의뢰인이 입력한 키워드가 성인물 내용과 직접적 연관성이 있다고 입증하는 것은 어려운 것이 아니다”라며 “고의성을 놓고 법정 다툼은 있겠지만, 음란물 제작죄 적용이 가능할 것으로 생각된다”고 말했다.

AI는 짧은 시간에 대량으로 그림을 생산할 수 있어 이런 성인물도 더욱 범람할 것으로 예상된다. 아울러 아동·청소년이 직접 성인물을 제작할 수도 있다. 이에 따라 학부모의 근심은 늘어가고 있다. 2살 딸을 육아 중인 한정민(31) 씨는 “아이를 키우기 점점 더 위험한 세상이 되가는 것 같아 무섭다”며 “온라인이 되지 않는 곳이 없으니, 이제는 한국에는 안전지대도 없는 것 같다”고 걱정했다.

초등학생 자녀 2명을 키우고 있는 주부 최모(37) 씨는 “큰 애가 내년이면 3학년에 올라가는데, 또래 아이들이 벌써부터 성인물을 언급하는 경우가 있다”며 “아이가 여자아이인 만큼 주변 남자아이들로부터 해코지를 당하지는 않을까 걱정된다”고 말했다.

신 변호사는 “덮어놓고 모든 AI 성인물을 근절하기 보다는, 플랫폼 업체가 나서서 아동·청소년들이 접근을 하지 못하도록 하고 정상적 성인물이 생산될 수 있도록 환경을 조성해야 한다”며 “아울러 한국 사회는 성인들만의 생각으로 규제를 하려 하지 말고 학생들과 함께 이런 문제를 논의해 해결책을 찾을 필요가 있다”고 제안했다. 채상우 기자