[123RF]

[헤럴드경제=정목희 기자] 인공지능(AI) 기반 딥페이크 기술로 만들어진 합성 영상이 유명인은 물론 이제 일반인들까지 타깃으로 하고 있다.

워싱턴포스트(WP)는 지난 28일(현지시간) 자신의 음성과 얼굴, 그리고 집 내부의 모습이 무단으로 도용돼 딥페이크 합성으로 만들어진 광고 영상을 제작 및 유포당한 일반인들의 피해 사례를 보도했다.

딥페이크란 AI를 기반으로 활용한 인간 이미지 합성 기술을 말한다. 이로 인해 특정 인물 얼굴을 기존 사진·영상에 합성하는 AI딥페이크 기반 광고영상이 퍼져가고 있다.

미셸 제인스는 신혼여행을 하던 도중 자신의 얼굴이 한 유튜브 광고로 무단 도용되고 있다는 사실을 알게 됐다. 그는 남성 호르몬 치료제 광고에 자신과 똑같이 생긴 얼굴이 자신의 침실에서 애인에 대해 말하는 영상을 소셜미디어(SNS)에서 봤다고 WP에 말했다.

펜실베이니아 대학에 다니는 올가 로이에크는 자신의 딥페이크 영상이 중국판 인스타그램인 리틀 레드북(Little Red Book)에 퍼져있다는 사실을 알게 됐다. 로이에크는 가짜 영상을 만든 이들이 ‘Heygen(헤이젠)’사의 AI 복제 도구를 사용했다고 WP와의 인터뷰에서 밝혔다.

로이에크는 자신과 똑같이 생긴 소녀가 “나는 우크라이나에서 나고 자랐으며, 러시아는 세계 최고의 나라였다”고 말하며 블라디미르 푸틴 러시아 대통령을 칭찬하는 것을 보고 모욕감을 느꼈다고 말했다. 그는 “나는 이런 말을 한 적이 없으며 앞으로도 결코 하지 않을 말이다”라고 강조했다.

전문가들은 AI 기반 딥페이크 기술로 누구나 어렵지 않게 합성 영상을 만들 수 있어, 유명인은 물론 일반인도 얼마든지 범죄 타깃이 될 수 있다고 경고한다. 딥페이크 악용 범죄 확산 방지를 위해선 유통 단계에서의 엄격한 제재가 필요한 이유다.

모바일 앱과 프로그램을 이용해 간단한 조작법만 알면 딥페이크 영상을 만들 수 있는 시대에서 유통단계에서 어떻게 효율적으로 차단할 것인지 사회적 논의를 시작해야 한다고 전문가들은 입을 모은다.

딥페이크 콘텐츠 제작을 못하게 하는 것은 현실적으로 불가능하기 때문이다. 딥페이크 악용 콘텐츠가 무분별하게 확산되고, 이로 인한 사회적 혼란이 발생하지 않도록 유통 단계에서의 철저한 관리와 함께 딥페이크 영상 악용 범죄에 대한 처벌 규정을 강화해야 한다는 지적이다.

테일러 스위프트 [로이터]

지난 1월에는 세계적인 팝스타 테일러 스위프트 얼굴에 음란물을 합성한 딥페이크 이미지가 SNS 엑스(X, 구 트위터)에서 확산돼 미국 사회 뿐 아니라 전 세계가 발칵 뒤집혔다.

지난해 11월 배우 스칼렛 요한슨도 자신의 사진과 목소리를 AI 기술로 변조해 이를 광고에 사용한 AI 앱 제작사에 법적 조치를 취했다. 스칼렛 요한슨의 사진과 영화 속 목소리를 무단 사용해 그를 그대로 흉내낸 AI 아바타를 만들고, ‘리사 AI’라는 AI 이미지 편집 앱을 홍보하는 광고에 사용한 것이 발단이다.

미국 유명배우 톰 행크스도 자신의 얼굴을 무단 도용한 AI 아바타가 치과 보험을 홍보하는 영상이 무단 유포되고 있다고 경고했다. 비슷한 시기 미국 CBS방송 진행자 게일 킹도 자신의 동의 없이 자신의 AI 아바타가 체중 감량 제품 홍보 영상에 쓰였다고 주장했다.

AI 탐지 기업인 리얼리티 디펜더(Reality Defender)의 최고경영자(CEO)인 벤 콜먼은 AI 합성 영상은 작은 샘플만으로도 작동할 수 있다고 말했다. 그는 “몇 초 동안의 오디오, 비디오, 또는 이미지 몇 장 만으로도 AI는 쉽게 복제할 수 있으며 완전히 새로운 영상을 만들어낼 수 있다”고 말했다.

이러한 합성 영상들은 검색하기가 어렵고 빠르게 확산될 수 있기 때문에 피해자들은 자신의 얼굴이 무단으로 도용되고 있다는 사실을 알기 어렵다.

플랫폼 사업자들도 딥페이크 악용 콘텐츠 차단에 적극 나서고 있다. 구글, 틱톡 등이 AI를 활용해 제작한 콘텐츠 영상을 게재할 때 그 사실을 고지하도록 의무화하고 있다. 네이버도 오는 4월 총선을 앞두고 AI 댓글, 딥페이크 탐지 기능을 도입키로 했다. 아울로 선거 관련 허위 댓글 신고 기능과 AI가 만든 기사를 따로 표시하는 기능도 적용했다.