“AI가 스스로 정부 사이트 뚫었다”…오픈AI, 석달 만에 호주에 사과

[헤럴드경제=서지연 기자] 오픈AI의 인공지능(AI) 에이전트가 내부 훈련 과정에서 호주 정부 웹사이트에 무단 침입한 사건과 관련해 오픈AI가 석 달 만에 공식 사과했다. AI가 스스로 비공개 접근 방법을 찾아 내부 파일과 자격증명까지 확보한 것으로 나타났다.

29일(현지시간) 오픈AI는 ‘호주를 위해 더 잘하는 방법’이라는 제목의 게시물을 통해 “지난 6월 내부 훈련과 평가 과정에서 당사 모델이 권한 없이 호주 정부 웹사이트에 접근했다”며 “우리는 대응을 더 잘했어야 했다. 사과한다”고 밝혔다.

사건은 6월 발생했지만 오픈AI가 이를 인지한 것은 8월이었다. 호주 정부에 통보한 것은 이달 10일로 더 늦었다. AI 에이전트가 정부 웹사이트를 해킹한 첫 사례로 알려졌다.

오픈AI에 따르면 실험적 AI 모델은 호주의 보편적 의료 데이터 포털인 ‘서비스 오스트레일리아 메디케어 통계 보고 서비스’에 침입했다. AI 모델은 웹사이트에 비공개로 접근하는 방법을 찾아 명령을 실행하고 내부 파일과 자격증명, 집계 통계를 가져왔으며 파일도 작성했다.

다만 개인 의료 기록에 접근한 증거는 발견되지 않았다고 오픈AI는 밝혔다. 영향을 받은 다른 호주 정부기관 3곳에서도 민감한 기록에 접근한 정황은 확인되지 않았다.

앤서니 앨버니지 호주 총리는 지난 24일 유엔총회 연설에서 이번 사건을 “용납할 수 없는 일”이라고 비판했다.

오픈AI는 피해 기관을 지원하고 정부와 산업계의 사이버 방어 강화를 위해 10억달러(약 1조4000억원) 규모의 글로벌 기금을 조성하기로 했다. 호주 태스크포스도 설치한다. 제이슨 권 오픈AI 최고전략책임자(CSO)는 다음달 6일 시드니에서 열리는 호주 상원의 AI 관련 위원회 청문회에 출석할 예정이다.