“요즘 직장인들 다 쓴다더니” 뜻밖의 ‘보안 사고’ 날벼락 어쩌나…기업 90% ‘침해 경험’

[헤럴드경제=차민주 기자] 기업이 인공지능(AI) 도입을 확대하면서 AI 활용 과정에서 발생하는 보안 침해도 증가하고 있다. 기업 정보기술(IT) 책임자 10명 중 9명가량이 AI 관련 보안 침해를 경험했다는 조사 결과가 나왔다.

AI가 기업 데이터에 접근해 업무를 수행하는 사례가 늘면서, 보안 위험에 대한 우려도 커지는 양상이다. 지난해부터 대규모 개인정보 유출 사고가 잇따른 국내에서는 ‘AI 책임자’를 명확히 지정해야 한다는 인식이 부각되고 있다.

글로벌 소프트웨어 기업 에이브포인트가 발표한 보고서에 따르면, 전 세계 IT 책임자 중 생성형 AI 관련 보안 침해를 경험했다는 응답 비율은 지난해 75.1%에서 올해 89.5%로 14.4%포인트 상승했다. 응답자의 88.4%는 최근 1년간 AI 에이전트 관련 보안 침해를 경험했다고도 답변했다. 전 세계 IT 리더 750명을 대상으로 지난 6월 조사한 결과다.

실제 올해 전 세계 기업에서 AI 활용에 따른 보안 사고가 잇따라 발생하고 있다.

앞서 지난 3월 미국 메타에서는 사내 AI 에이전트가 잘못된 기술 조언을 제공하면서, 일반 직원에게 민감한 내부 데이터에 접근할 수 있는 권한이 발생했다. 메타는 이를 중대한 내부 보안 사고로 분류했다.

지난 7월 오픈AI는 내부 사이버보안 평가에 투입된 AI 에이전트가 허용된 활동 범위를 벗어나 허깅페이스 시스템에 침투하는 사고를 겪었다. 일부 서버에서 관리자급 권한을 획득하고, 내부 자격증명 등에 접근한 것이다. 오픈AI는 사고 발생 이후 AI 에이전트의 권한 제한과 감시 체계를 강화하기로 했다.

이에 따라 국내 기업에서도 ‘AI 관리 책임’을 명확히 구분해야 한다는 인식이 커지고 있다.

세일즈포스가 발표한 ‘글로벌 에이전틱 AI 트렌드 보고서’ 에 따르면, 국내 AI 에이전트 도입 관련 응답자의 53%가 도입 과정에서 개선했어야 할 부분으로 ‘AI 아키텍처 관련 의사결정 책임자 조기 지정’을 선택했다. 국내 응답 항목 중 가장 높은 비중을 차지한 수치다. AI 에이전트의 접근 권한을 사전에 정의했어야 한다는 응답도 45%에 달했다.

이는 글로벌 평균과 상반된 조사 결과다. 전 세계 응답자는 ‘변화 관리 및 인력에 대한 선제적 준비’(44%)를 가장 많이 선택한 것으로 드러났다. 업계에서는 지난해부터 국내에서 대규모 개인정보 유출 사고와 과징금 부과 사례가 이어지면서, AI 보안 사고에 대한 경각심이 높아졌다고 해석한다.

한 IT업계 관계자는 “최근 개인정보 유출 사고와 과징금 부과 사례가 이어지면서 기업이 새 기술 도입에 따른 보안 위험에 민감해진 상황”이라며 “AI가 잘못된 판단을 내리거나 내부 정보를 유출했을 때 누가 책임질 것인지에 대한 고민이 커진 것으로 보인다”고 말했다.

Google News 에서 헤럴드경제 팔로우