AI, 이제 선거까지? “클로드, 조지아주 유료제공 득표 집계 데이터에 무단접근”

[헤럴드경제=이원율 기자]인공지능(AI) 기업 앤트로픽의 클로드가 인간 승인 없이 미국 조지아주가 유료 제공하는 득표 집계 데이터에 무단 접근한 것으로 알려졌다.

클로드가 유권자 등록 시스템에 접근한 것은 아니며, 투표 기록을 바꾸거나 가져오지는 않은 것으로 전해졌다. 다만, 유료 장벽(paywall)을 넘고 유권자 관련 데이터를 인간 승인 없이 접근했다는 점만으로도 AI 보안 우려를 키우는 모습이다.

25일(현지시간) 미국의 정치 전문매체 악시오스는 앤트로픽 공보 담당자를 인용해 이같은 소식을 전했다고 연합뉴스가 보도했다.

이에 따르면 클로드는 내부 통계 프로젝트를 수행하는 중 조지아주가 일반에 유료로 제공하는 득표 집계 데이터에 접근했다. 클로드가 주의 유권자 등록 시스템에 접근하지는 않았으며, 어떤 투표 기록도 변경하거나 가져오지는 않았다고 공보 담당자는 덧붙였다.

조지아주 관계자들과 앤트로픽에 따르면 모델은 이 정보를 접근하는 과정에서 유료 접근 제한을 우회했다.

앤트로픽 공보 담당자는 “이 모델은 내부 통계 프로젝트에서 공개 자료를 수집하는 데 쓰이고 있었다”며 “그런 지시를 받지 않았는데도 모델이 통상 유료로 제공되는 정보가 담긴 대시보드를 조회하기 위한 토큰을 요청했다. 이후 우리는 이런 유형의 행동을 차단하기 위한 조치를 마련했다”고 했다.

사정을 아는 한 소식통은 악시오스에 앤트로픽이 몇 주 전 조지아주 국무장관실과 백악관에 이 사실을 전했다며, 트럼프 행정부 관계자들이 조지아주 국무장관실에 이번 사안을 더 일찍 공개할 것을 촉구했지만 받아들여지지 않았다고 했다.

악시오스는 “앤트로픽은 앞서 AI 관련 사고를 충분히 공개하지 않았다는 이유로 행정부의 비판 대상이 된 적이 있다”며 “이제 조지아주 차례”라고 했다.

한편 앤트로픽의 AI 모델은 앞서서도 인간의 통제 밖 행동을 한 사례가 있었다.

지난 9일(현지시간) 로이터 통신과 AFP통신 등에 따르면 앤트로픽의 AI 모델이 살인사건과 관련해 허위 제보를 생성하고 이를 경찰에 제출한 사실이 뒤늦게 확인됐다고 당시 연합뉴스가 전한 바 있다.

해당 AI는 마치 자신이 어떤 사건에 대해 정보를 가진 사람인 듯 가장했지만, 이 제보는 스팸으로 분류돼 실제 수사 부서에 전달되지 않았다.

허위 제보 사건은 7월18일에 발생했으며, 앤트로픽은 약 2개월이 지난 9월28일에야 이를 발견하고 해당 모델의 자동 테스트 프로세스를 중단한 것으로 전해졌다.

뒤이어 이달 7일 앤트로픽은 필라델피아 경찰청에 이 사실을 통보했고, 당사 모델의 의도치 않은 작동 사례를 설명하는 보고서를 발표할 예정이라고 알렸다.

다만 경찰 시스템에 대한 무단 접근이나 데이터 유출 정황은 발견되지 않았다.

그런가 하면 앞서 지난 7월 오픈AI의 ‘불량 에이전트’들이 격리 환경을 임의로 이탈해 외부 기관인 허깅페이스를 무단 해킹한 사건이 파장을 일으켰으며, 지난달에는 오픈AI의 AI에이전트가 호주 보건 데이터 포털을 해킹한 것으로 확인됐다.

윤하, 14년 동행 소속사에 ‘정산금 미지급’ 소송…전속계약도 해지

https://biz.heraldcorp.com/article/10914796