• AI가 최종 판단한 ‘자동화된 결정’에 설명 요구 가능
  기업은 수학적 설명 대신 간결한 정보 제공해야
  “자동화된 결정 기준·절차 공개 및 설명 준비 필요”

고학수 개인정보보호위원회 위원장이 지난 10일 오후 서울 종로구 정부서울청사에서 개최된 출입기자단 정례브리핑에서 인사말을 하고 있다. [연합]

[헤럴드경제=권제인 기자] 앞으로 인공지능(AI) 면접으로 채용 과정에서 탈락한 지원자는 판단을 내린 과정에 대해 기업에 설명을 요구할 수 있게 된다. 탈락 이유를 알 수 없는 AI 면접으로 막막함을 느꼈던 취업준비생들의 어려움이 해결되게 됐다.

개인정보보호위원회는 26일 AI 등 자동화된 결정이 이뤄지는 영역에서 기업·기관이 준수해야 하는 사항을 담은 ‘자동화된 결정에 대한 조치 기준’이 시행된다고 밝혔다. 이와 함께, 자동화된 결정에 대한 정보 주체의 권리와 기업·기관 등의 조치사항을 사례 중심으로 설명한 안내서도 공개했다.

자동화된 결정이란 AI 등으로 자동화된 시스템이 개인정보를 처리해 이뤄지는 결정을 말한다. 최종 결정을 시스템이 내리는지 여부가 핵심으로, 최종 결정 전 사람에 의한 판단 절차를 거칠 경우 자동화된 결정에 해당하지 않는다.

직원 채용 과정에서 AI 서류전형, AI 인적성검사, AI 면접 등으로 불합격 여부를 결정하는 경우 지원자(정보주체)는 설명을 요구할 수 있게 된다. AI 면접 등은 대면 면접과 달리 평가자와 소통할 수 없어 합격·불합격 이유를 판가름하기 어려워 취업준비생들이 어려움을 호소해 온 바 있다.

이 경우 기업은 알고리즘이나 머신러닝의 작동 과정에서 개인정보 처리에 대해 복잡한 수학적 설명이 아닌 간결하고 의미있는 정보를 제공해야 한다 또한, 지원자가 합격 여부를 가른 자동화된 결정에 대해 의견을 제출할 경우 해당 의견을 반영할 수 있는지 검토하고 결과를 알려야 한다.

개인정보위는 이를 위해 ‘설명가능한 인공지능(XAI)’을 단계적으로 적용할 수 있도록 준비하는 것이 바람직하다고 설명했다. 설명가능한 인공지능이란 AI 모델의 결과가 어떻게 도출된 것인지 사람이 이해할 수 있는 형태로 설명을 생성하는 알고리즘을 말한다.

자동화된 결정이 정보주체의 권리나 의무에 중대한 영향을 미치는 경우 정보주체는 결정을 거부하는 것도 가능하다. 자동화된 결정을 통해 채용 불합격 결정이 이뤄져 근로 기회가 박탈된 경우, 정상적으로 유지되던 계약이 해지된 경우 등이 해당된다.

이 경우 기업·기관은 해당 결정의 적용을 정지하고 조치 결과를 정보주체에 알려야 한다. 실질적으로 사람이 개입해 재처리하고 그 결과를 정보주체에 알리는 경우도 가능하다.

단, 자동화된 결정이 이뤄진다는 사실을 정보주체가 명확하게 알 수 있도록 동의, 계약을 통해 알렸거나 법률에 명확히 규정이 있는 경우에는 거부는 인정되지 않고 설명 및 검토 요구만 가능하다.

기업과 기관은 자동화된 결정을 하는 경우 기준과 절차를 정보주체가 쉽게 확인할 수 있게 인터넷 홈페이지에 사전 공개해야 한다. 공개할 때는 정보주체가 쉽게 확인할 수 있도록 권리 행사를 위한 구체적인 방법과 절차를 마련해 함께 안내해야 한다.

개인정보위는 제도 시행에 따라 기업·기관 등이 자동화된 결정을 내리는 경우 그 기준과 절차를 공개하는 등 투명성을 확보하고 결정에 대한 설명이 가능하도록 미리 준비해야 한다고 강조했다.

양청삼 개인정보정책국장은 “인공지능 기술을 활용하여 자동화된 결정을 할 때에는 이번에 공개한 안내서를 참고하여 그 기준과 내용을 미리 파악하고 정보주체의 요청에 대응할 수 있도록 준비가 필요하다”며 “새로운 제도가 현장에서 안정적으로 정착될 수 있도록 설명회 등을 통해 지속적으로 홍보하고 안내해 나갈 계획”이라고 말했다.