가짜계정 만들어 흔든다…중국·이란, ‘AI 여론조작’ 자율 수행

[헤럴드경제=홍태화 기자] 이란과 중국의 국가 세력과 이스라엘 민간 기업들이 인공지능(AI) 에이전트를 활용해 소셜미디어에서 사실상 ‘자율형 여론 조작’에 나선 것으로 나타났다.

AI가 가짜 계정을 직접 만들고 정치·시사 관련 게시물을 생산·확산하는 등 기존에 사람이 맡았던 여론 조작의 전 과정을 최소한의 인간 개입만으로 수행한 것이다. 오는 11월 미국 중간선거를 앞두고 AI를 활용한 온라인 여론 개입이 본격화할 수 있다는 우려도 커지고 있다.

미 일간 뉴욕타임스(NYT)는 이란과 중국의 국가 세력과 이스라엘의 기업들이 AI를 활용한 자율형 여론 조작을 소셜미디어에서 펼쳤다며 18일(현지시간) 이같이 보도했다.

NYT가 인용한 미 당국자들과 보안 전문가들에 따르면 해당 국가와 단체들은 AI를 활용해 인간을 넘어선 속도와 규모로, 인간이 최소한으로 개입한 온라인 여론 조작 활동을 급격히 확대했다.

이들은 자유롭게 내려받고 수정할 수 있는 중국의 오픈소스 AI 모델을 활용해 스스로 특정 과업을 수행할 수 있는 로봇인 에이전트를 만들었다.

수백개의 AI 에이전트들은 인스타그램, 페이스북, X(옛 트위터), 틱톡 같은 플랫폼에서 가짜 계정들을 자율적으로 생성했다. 이어 여론을 흔들기 위해 정치·시사 이슈 관련 허위 게시물을 가짜 계정을 통해 빠르게 유포했다.

중국과 이란의 캠페인은 국가 주도였고, 이스라엘의 캠페인은 민간 기업이 주도한 것으로 추적됐다. 이란 캠페인의 경우 미국 대중을 겨냥했으며, 에이전트가 생성한 가짜 계정들은 주요 도시에 거주하는 평범한 미국인으로 위장했다.

이 계정들은 기자와 정치인들을 태그해 인기 밈과 반(反)공화당 성향 의견 등을 유포했다. 올해 상반기 활동으로 모은 팔로워만 약 8만명에 이른다.

앞서 페이스북과 인스타그램을 운영하는 메타도 AI를 동원한 이란의 선전 공작을 차단했다고 지난달 말 발표한 바 있다.

AI 에이전트가 계정 생성부터 온라인 메시지 조율에 이르는 여론 조작 활동의 모든 단계를 전담한 것은 사실상 최초 사례에 속한다고 당국자들은 전했다.

이러한 AI 에이전트 기반 활동은 조잡한 수준이었으나 미국 정보기관과 기술 기업, 보안 전문가들의 주목을 받았다.

공개적으로 이용할 수 있는 AI 모델이 사실상 스스로 온라인 여론 조작을 수행하는 데 악용될 수 있다는 공포를 불러일으켰기 때문이다.

일부 미 당국자는 오는 11월 중간선거를 앞두고 미국 투표자들을 겨냥해 유사한 시도가 이뤄질 수 있다고 우려했다.

조지타운대 안보·신기술센터(CSET)의 카일 크라이튼 연구원은 기술이 계속 발전하면서 AI 에이전트 주도형 여론 조작 시도가 더 흔해질 것이라고 내다봤다.

그는 NYT에 “에이전트는 상당히 정교해질 수 있어 단순한 스케일 확장을 넘어 실제 인간 사용자처럼 자연스럽게 섞이는 능력을 갖추게 된다”고 설명했다.