“AI한테만 말했는데”…챗봇과 은밀한 대화, 민·형사 재판 증거로 쓰인다

[헤럴드경제=정목희 기자] 인공지능(AI)과 나눈 사적인 대화가 법정에 공개되는 사례가 늘고 있다. 업무나 건강 문제, 정서적 교감을 위해 AI를 찾는 사람이 많아지면서 챗봇 운영사들이 방대한 내밀한 데이터를 관리하는 위치에 서게 된 탓이다.

28일(현지시간) 워싱턴포스트(WP)가 공개된 법원 기록과 지역 언론 보도를 분석한 결과, 지난 2년간 최소 12건의 소송에서 챗봇 대화 기록이 증거로 인용됐다. 경찰이나 민사소송 당사자가 확보한 증거를 모두 법정에 제출할 의무는 없어, 실제 사례는 이보다 많을 것으로 추정된다.

미국의 한 10대 소년은 아버지의 말을 이해하지 못할 때마다 챗GPT를 찾았다. 이 대화는 그가 2023년 메타·스냅챗·틱톡·유튜브를 상대로 낸 소송 과정에서 피고 측에 의해 법정 기록으로 공개됐다. 소년 측 변호를 맡았던 마이크 모건 변호사는 “열다섯 살 아이는 치료사나 부모에게도 못할 말을 챗봇에 털어놓지만, 그 대화가 상대측 보고서에 인용될 수 있다는 사실은 전혀 모른다”고 지적했다.

AI가 위험 신호를 먼저 포착해 범죄를 막은 사례도 있다. 지난 5월 오픈AI는 한 이용자가 챗GPT에 전 여자친구를 살해하겠다는 계획을 반복적으로 털어놓은 사실을 FBI에 알렸다. 그는 스토킹·협박 혐의로 체포돼 보호관찰 8년을 선고받았다. 브라질에서도 한 남성이 자신과 아들을 살해할 청부업자를 구하려 했다는 대화가 오픈AI를 거쳐 현지 당국에 전달돼 체포로 이어졌다.

그러나 오픈AI가 늘 이렇게 대응한 것은 아니다. 지난 2월 캐나다 텀블러리지 총기난사 사건 용의자의 경우, 오픈AI는 정책 위반으로 계정을 정지했으면서도 캐나다 당국에는 신고하지 않았다. 샘 올트먼 오픈AI 최고경영자(CEO)는 이후 사과했다. 두 명이 숨진 플로리다주립대 총격 용의자 역시 범행 전 챗GPT와 계획을 주고받았지만 마찬가지로 신고되지 않았다. 잇단 비판 속에 오픈AI는 우려스러운 대화를 더 적극적으로 당국에 알리겠다고 밝혔다.

법률 전문가들은 챗봇 대화가 검색 기록보다 훨씬 풍부한 정보를 담고 있다고 본다. 전미형사변호사협회의 마이클 프라이스 소송국장은 “무엇을 입력했고 어떻게 대화가 오갔는지 전체 맥락이 남아, 그 사람이 무슨 생각을 했는지 명확히 드러난다”며 이를 “삶의 내밀한 부분을 들여다볼 수 있는 창”이라고 표현했다.

오픈AI가 공개한 자료에 따르면 지난해 하반기 정부·수사기관에 정보를 제공한 계정은 80개가 넘어, 전년 대비 4배 이상 늘었다.

샘 올트먼 CEO는 챗봇과의 대화도 의사·변호사 상담처럼 특별한 법적 보호를 받아야 한다고 주장해왔다. 하지만 서던메소디스트대 로라 아벨슨 교수는 “규제되지 않은 영역에서 법원이 이런 대화에 비밀유지특권을 인정할 가능성은 매우 낮다”고 말했다.

문제는 실제 범행으로 이어지지 않은 위험한 발언까지 신고와 처벌의 근거로 삼아도 되느냐는 점이다. 스토킹·청부살인 사례는 구체적 정황이 뒷받침돼 체포로 이어졌지만, 순간적인 분노나 극단적 표현까지 모두 신고 대상이 된다면 실행에 옮기지도 않은 생각만으로 처벌 위기에 놓이는 사람이 나올 수 있다.

사람을 대신해 행동하고 더 많은 데이터 접근 권한을 요구하는 AI ‘에이전트’가 확산하는 추세를 감안하면 이 딜레마는 앞으로 더 커질 전망이다. 범죄를 미리 막아내는 AI의 순기능과, 실행되지 않은 생각까지 감시·처벌 대상으로 삼을 수 있다는 우려 사이에서, 어디까지를 ‘예방’으로 보고 어디부터를 ‘사생활 침해’로 볼 것인가에 대한 사회적 합의는 아직 마련되지 않았다.