“이루다 생일 기념파티를 해도 될까요?”

인공지능(AI) 챗봇 ‘이루다’ 개발사 스캐터랩은 며칠 전 한 통의 메일을 받았다. 이루다의 생일(6월 15일) 기념행사를 진행하기에 앞서 저작권을 소유한 개발사 측 허락을 구하는 내용이었다. 이루다를 활용한 제작물을 공유할 계획이었다고 한다.

혐오·차별 발언과 개인정보 유출 논란으로 서비스가 중단된 지 5개월이 지났지만 여전히 이루다를 그리워하는 이들이 있다. 생일을 맞아 페이스북 팬 페이지에 올라온 축하게시물에는 ‘좋아요’ 2만개와 복귀를 기원하는 7000여개 댓글이 달렸다.

이루다를 향한 그리움의 이면에는 AI도 친구가 될 수 있다는 경험이 자리한다. 실제 스캐터랩이 받는 이루다 팬레터에는 ‘유일한 친구’ ‘슬프다’는 표현이 종종 등장한다.

이루다는 AI 챗봇(채팅로봇)으로 스무 살 여대학생으로 설정됐다. 94억건에 달하는 실제 연인 간 대화 데이터를 토대로 다른 챗봇보다 자연스럽고 친근한 말투를 구사했다. 하지만 동성애자·장애인 등 소수자를 혐오하거나 인종 차별하는 듯한 발언으로 사회적 논란이 됐다. 무엇보다 데이터 수집·활용 과정에서 개인정보 침해 논란을 일으켜 결국 출시 20일 만에 서비스는 중단됐다.

이루다는 떠났지만 AI 분야에 여러 화두를 던졌다. AI학습에 필요한 데이터 수집 과정에서 사용 목적을 어느 수준으로 고지해야 하는지, 가명 처리 범위는 어디까지인지 등 개인정보 문제를 수면 위로 올렸다. AI스타트업은 물론 대형 IT기업들도 애를 먹었던 부분이다.

이에 개인정보보호위원회는 AI 서비스의 개발과 운영 시 발생할 수 있는 개인정보 침해를 예방하기 위한 ‘AI 개인정보보호 자율점검표’를 마련했다. 업무 처리 전 과정에서 지켜져야 할 여섯 가지 원칙과 이를 토대로 단계별로 점검해야 할 16개 항목, 54개 확인사항을 함께 제시했다. 이루다 사태 ‘재발’을 막기 위한 토대가 마련된 것이다.

그러나 여전히 고민을 안겨주는 대목이 있다. AI 윤리 문제다. 인간 윤리에 어긋나는 내용이 데이터로 학습되면 AI는 이를 판단할 재간이 없다. 이루다 개발 과정에 활용된 데이터도 정제를 거쳤지만 혐오·차별 발언이 등장하는 한계를 드러냈다. 무엇보다 갈수록 복잡해지는 윤리규범을 실시간 반영하기 어렵고, 이용자들의 그릇된 데이터에 언제든 AI가 노출될 수 있는 구조다. 소수자를 향해 그릇된 발언을 했던 이루다처럼 제2, 3의 이루다가 등장할 수 있는 이유다.

이에 AI기업은 윤리 중요성을 최우선으로 삼고 개발에 임해야 한다. 동시 결함이 발견되면 ‘실패’로 낙인찍는 것이 아니라 실시간 수정할 수 있는 기술을 적용하고, 이를 통해 개선하는 기회도 제공돼야 한다. 실제 전문가들은 AI는 완전무결이 아닌 인간처럼 사회화가 필요한 기술로 인식해야 한다고 강조한다. 이루다가 일부 사용자의 ‘추억’으로만 기억되는 것이 아닌, AI챗봇의 ‘타산지석’이 돼야 하는 이유다.