“학습에서 윤리로…아무리 똑똑해도 ‘나쁜 AI’랑은 못 살죠”[미래산업 플러스]

“지금까지의 AI는 언어와 지식을 배우는데 치중했습니다. ‘사람 같은 AI’가 되기 위해서는 한 가지가 더 필요합니다. 바로 ‘윤리’입니다.”

한우진 스마일게이트 AI센터장은 인공지능(AI)과 인간의 공존을 위해 AI 윤리와 이에 대한 사회적 합의가 필요하다고 강조했다. 기존 AI가 방대한 지식을 바탕으로 인간을 돕는 역할에 집중했다면, 앞으로의 AI는 다양한 서비스 영역에서 인간과 직접 소통할 것이기 때문이다.

한 센터장은 2020년 8월 설립된 스마일게이트 AI센터의 수장을 맡아 ‘사람 같은 AI’, ‘재미있는 AI’를 만들기 위한 다양한 실험을 이어오고 있다. AI를 서비스와 산업으로 발전시키기 위한 사회적·기술적 논의 틀을 마련하기 위해서다. 최근 한 센터장이 눈여겨보는 키워드는 ‘AI 윤리’다.

▶ “무차별 학습 안 돼…혐오 발언 데이터는 시작일 뿐”=스마일게이트 AI센터는 최근 약 1만여개의 혐오 발언 데이터셋을 구축했다. 기존의 비속어 필터링 기술과 다르다. 한 센터장은 “예를 들어 ‘이래서 여자는 게임을 하면 안 된다’와 같은 발언은 욕설은 없지만 특정 집단에 대한 명확한 비하가 들어있다”며 “국가인권위원회 보고서 검토와 사회학자들의 자문을 거쳐 여성·가족·성소수자·남성·인종·국적·연령·지역·종교에 따라 혐오 발언과 맥락 데이터를 구축했다”고 설명했다.

혐오 발언 데이터셋 구축은 AI 학습법의 한계에 대한 고민에서 시작했다. 그는 “현재 AI 학습은 ‘무차별적’으로 데이터를 수집해 가르치고 있다”며 “이런 학습 모델은 데이터를 ‘그대로’ 반영한다. 사회에 문제가 있으면 AI도 문제가 생길 수밖에 없다”고 꼬집었다. 이어 “실제 서비스를 위해서는 데이터를 거르는 등 보다 복잡한 설계가 필요하다”고 덧붙였다.

물론 이번에 선보인 데이터셋이 ‘정답’은 아니다. 혐오 발언 또한 변화하기 때문이다. 한 센터장은 “평범한 단어가 1년 만에 혐오 발언이 될 수 있고 반대로 사라지는 혐오 발언도 있을 것”이라며 “누군가 10개 문장을 혐오 표현으로 등록하면 이를 검수해 분기 별로 병합하는 등 업데이트 방안을 마련하고 있다. 기업, 단체, 학교는 물론 개인도 참여 가능한 오픈 소스 프로젝트”라고 말했다. 그는 “혐오 발언 데이터는 살아있는 ‘생물’과 같은 데이터가 될 것”이라 강조했다.

조만간 신개념 AI 평가 시스템 ‘휴릭(HuLic)’도 선보인다. 대화형 AI 서비스를 사전 점검한다. 기존의 AI 평가 시스템이 정확도를 주로 평가했다면 휴릭은 대화의 적절성, 구체성, 대화 선호도는 물론 ‘인간 유사도’까지 평가한다. ‘윤리성’도 평가 항목에 추가할 예정이다. 한 센터장은 “사용자가 문제 소지가 있는 대화를 시도할 때 AI가 어떻게 대응하는지, 어떤 지점에서 인간이 불쾌함을 느꼈는지 분석한 자료를 제공할 것”이라며 “서비스 개선은 물론 AI 윤리 연구로 확장할 수 있는 ‘윈윈’ 시스템”이라고 자신했다.

▶ “AI도 실수를 한다”…‘사회적 합의’ 고민해야=한 센터장은 AI에 대해 사회가 보다 ‘관용’을 베풀 필요가 있다는 점도 지적했다. AI와의 공존은 AI의 불완전성을 인정하는데서 출발한다는 것. 한 센터장은 “일반인에게 AI는 ‘슈퍼 휴먼’으로 인식된다. 사람보다 더 낫고, 실수하면 안 되는 이미지”라며 “하지만 AI는 분명히 한계가 있고 사람처럼 실수도 한다”고 말했다.

이어 “연구자들은 AI가 사람처럼 말할수록 성적인 발언, 혐오 표현 등이 문제가 될 수 있다는 인식을 갖고 있었다”며 “지난해 이루다 사태로 논의 테이블이 마련된 것 같다. 학습 데이터를 검증하고 발화 시스템을 개선하는 것은 물론 AI의 한계를 인식하고 사회적 임계치를 낮추는 과정도 필요하다”고 말했다. AI 서비스 정착 과정에서 생기는 문제를 서비스 ‘폐지’가 아닌, 기술과 사회의 ‘타협’으로 극복해 나갈 필요가 있다는 지적이다.

AI 윤리 ‘세분화’도 중요한 과제다. 한 센터장은 “국가, 문화, 서비스 형태 등 매우 구체적인 영역에서 AI윤리를 고민해야 하는 시기”라며 “공적인 영역에서 사용되는 AI는 보다 엄격하게, 대화형 AI에게는 인간과 비슷한 수준으로 합의 기준을 만들어 나갈 필요가 있다”고 말했다.

박지영 기자