‘나한테 어떻게 이럴 수 있어’ 성착취물 속 끔찍한 내 얼굴, 알고보니 지인이 만들었다 [세상&]

[헤럴드경제=김아린 기자] 경찰청 국가수사본부가 지난 1월부터 지난달까지 ‘딥페이크(Deepfake·인공지능 허위영상물)’ 범죄를 저지른 419명을 검거하고 이 가운데 17명을 구속했다.

13일 경찰에 따르면 구속된 17명 중 20대 남성 A씨는 지인들의 사진을 합성해 허위 성적 영상물을 만들고 이를 해외 사이트에 올렸다. 경찰은 지난 3월경 ‘자신의 사진을 이용한 딥페이크 성착취물이 유포되고 있다’는 피해 신고를 여러 건 접수해 수사에 착수했다. 경찰은 유포된 복수의 영상물을 분석한 결과 동일인이 만들었다는 정황에 무게를 두고 수사를 진행해 A씨를 검거한 후 구속 송치했다. 또 범행 계정과 게시물은 삭제 조치했다.

경찰은 SNS(사회관계망서비스)에서 지인 사진을 이용한 음란물을 만들어달라는 의뢰를 받아 제작·판매한 20대 남성 B씨도 붙잡아 구속 송치했다. 경찰은 영상 제작에 쓰인 생성형 AI 프로그램을 특정하고 편집 전 원본 사진까지 증거물로 확보해 B씨에게 영상물 제작을 의뢰한 이들까지 수사하고 있다.

경찰은 이번 단속에서 허위 영상물을 빠른 속도로 가려내는 ‘딥페이크 탐지 소프트웨어’을 활용했다. 이는 해외 법집행 기관에서도 사용하고 있는 소프트웨어로 국내 허위 성착취물 탐지에 특화되도록 훈련된 인공지능 모델이 탑재됐다. 소프트웨어로 탐색한 영상물 가운데 추가 분석이 필요한 경우 과학수사 영상분석관이 위변조를 추가 검증하고 있다.

국수본 관계자는 “피의자가 어떤 프로그램으로 영상을 조작했고, 어느 부분을 변경했는지까지 범행의 전 과정을 기술적으로 분석·재구성해 증거로 사용하고 있다”며 “기술이 진화하는 속도 이상으로 경찰 대응을 발전시켜 허위영상물 범죄에 무관용 원칙으로 강력 대응하겠다”고 강조했다.