“이게 이정재야, 손흥민이야?” 소름 돋는 ‘진짜 같은 가짜’ 알 수 있나요?

[헤럴드경제=박지영 기자] “딥페이크 점점 감쪽같아지는데… 알아차릴 수 없나요?”

딥페이크(deep fake)가 ‘일상’을 파고 들고 있다. 딥페이크는 인공지능(AI)을 활용한 일종의 얼굴 합성 기술이다. 사진은 물론 동영상에서도 실제와 분간하기 어려울 정도로 자연스럽다. 이미지, 영상 제작 측면에서 유용한 기술이지만 유명인이나 정치인의 얼굴이 무단으로 합성되는 등 부작용도 만만치 않다. 실제와 가짜 영상을 구분하기 어려워지면서 이를 탐지할 수 있는 기술도 발전하고 있다.

16일 인텔은 딥페이크 영상을 감지할 수 있는 ‘페이크 캐쳐(Fake Catcher)’ 기술을 개발했다고 밝혔다. 밀리초(1000분의 1초) 단위 내로 결과를 제공하며 정확도는 96%에 달한다. 비디오 영상에서 나타나는 인간의 ‘혈류’를 바탕으로 진위 여부를 가려내는 것이 특징이다. 대부분 딥페이크 탐지 기술은 원본 데이터를 바탕으로 영상 속 차이를 찾아내는데, 인텔의 ‘페이크 캐쳐’는 사람의 혈류 신호를 수집하고 알고리즘을 통해 시공간 지도로 변환해 합성 여부를 감지한다.

페이크 캐처는 딥페이크 탐지 플랫폼으로 다양한 방면에서 활용될 수 있다. 현재는 웹 기반 플랫폼 통해 서버와 인터페이스 상에서 구동된다. 영상을 플랫폼에 올려 진위 여부를 가리는 것 뿐 아니라 SNS 상에서 딥페이크 영상이 업로드 되는 것을 ‘사전’에 차단하는 등 활용 가능하다.

딥페이크는 일상을 파고든 지 오래다. 처음 대중에 알려진 것은 2018년 버락 오바마 전 미국 대통령이 트럼프 당시 미국 대통령을 비난하는 영상이 퍼졌을 때다. 초반에는 전문가들이 정치인, 유명인을 다른 영상에 합성하는 방식이 주를 이뤘다.

최근에는 재미를 유발하는 ‘앱’으로 일반인들도 어렵지 않게 딥페이크 영상을 만들 수 있게 됐다. 지난해 선풍적인 인기를 끌었던 ‘리페이스’, ‘페이스플레이’ 등이 대표적이다. 수십만명이 앱에 가입해 유명 연예인의 영상에 자신의 얼굴을 합성하며 딥페이크 기술을 이용했다. 가상인간 또한 딥페이크 기술을 활용한다. 대부분 가상인간이 실제 사람의 몸에 가상으로 제작된 얼굴을 입히는 방식을 사용하는데, 이때 딥페이크를 통해 자연스러운 표정을 구사한다.

문제는 악용 소지가 높다는 점이다. 정치인을 활용해 가짜뉴스를 퍼뜨리거나 음란물에 얼굴을 합성해 디지털 성범죄물을 만드는데도 자주 사용된다. 특히 디지털 성범죄물의 경우 연예인, 일반인 가리지 않고 합성되고 있어 큰 문제다.

국내에서도 딥페이크 탐지 기술 연구가 활발히 이루어지고 있다. 카이스트(KAIST) 이흥규 전산학부 연구팀과 디지탈이노텍이 공동 개발한 ‘카이캐치(KaiCatch)’가 대표적이다. 앱으로 간편하게 사용 가능한게 특징이다. 30여만장의 이미지, 포렌식 영상, 딥페이크 실험 영상 자료 데이터 등을 학습해 얼굴의 기하학적 왜곡 신호를 분석해 딥페이크를 탐지한다.

삼성SDS 사내벤처로 출발해 연구 및 사업화를 진행 중인 ‘팀나인’도 있다. 딥페이크를 만들때 생기는 ‘노이즈’를 검출하는 기술을 바탕으로 국내 및 해외 고객사에 기술을 제공하고 있다. 주파수 기반 탐지 기법과 비학습 GAN(생성적 적대 신경망) 탐지를 병행해 정확도를 높이고 있다.

업계 관계자는 “딥페이크 생성 방법이 고도화되면서 탐지 기술 또한 발전하고 있지만 딥페이크 또한 생성 방법이 매순간 새로워지고 있다”며 “생성 방법과 데이터셋에 대한 연구를 지속해 사회적 문제를 해결해야 한다”고 말했다.