호주 이어 美까지…오픈AI 에이전트, 정부 사이트들 무단접근

[헤럴드경제=한영대 기자] 오픈AI가 자사 인공지능(AI) 에이전트들이 미국 정부 웹사이트에 무단 접근한 사실을 공개했다. AI 시스템이 의도치 않은 방식으로 작동하면서 문제가 발생한 것이다.

AP 통신에 따르면 오픈AI는 25일(현지시간) 자사 AI 모델이 미국 증권거래위원회(SEC) 운영 웹사이트 2곳과 인구조사국 데이터에 접근한 사실을 자체 검토 과정에서 발견했다고 밝혔다.

다만 에이전트의 SEC 인증 정보 사용, 비공개 정보 접근, 데이터·시스템 변경, 보안 침해, 취약점 악용의 증거는 찾지 못했다고 오픈AI는 밝혔다.

오픈AI는 성명에서 “AI 시스템이 의도치 않은 방식으로 작동하는 이른바 ‘정렬 오류’ 활동을 지속해 점검하고 있다”며 “다른 시스템에 영향을 미쳤을 가능성이 확인될 경우 해당 기관에 즉시 통보하고 있다”고 밝혔다.

샘 올트먼 오픈AI 최고경영자(CEO)도 이날 소셜미디어를 통해 “AI 에이전트의 학습 및 평가 과정 중 발생한 인터넷 접근과 관련해 광범위하고 지속적인 조사가 진행 중”이라고 전했다.

오픈AI의 AI 에이전트가 정부 사이트에 접근을 시도한 건 이번이 처음은 아니다. 호주 공영 ABC 방송에 따르면 오픈AI 에이전트들은 최근 호주 보건부의 보건 통계뿐만 아니라 호주보건복지연구소 등 여러 정부 기관 웹사이트의 데이터에 접근을 시도했다. 이에 호주 정부는 태스크포스(TF)를 꾸려 법 위반 여부 등을 조사하기로 했다.

“의도치 않은 행동” 오픈AI ‘불량 에이전트’, 호주 정부까지 침투…정부해킹 첫 사례

https://biz.heraldcorp.com/article/10884298