최근 인공지능(AI)은 유통산업 내 혁신을 불러일으키고 있다. 그러나 AI 활용기업이 이익을 추구하기 위해 잘못된 정보로 소비자의 구매 행위를 유도한다면 이는 중대한 소비자 기망행위가 된다. 나아가 동종 제품을 판매하고 있는 유통 플랫폼 내 참여 기업에는 매출 기회를 막는 불공정한 거래이기도 하다.

원인은 AI 알고리즘이 특정 자사 브랜드나 자체 브랜드(PB) 상품 위주로 소비자들이 볼 수 있도록 설계되었기 때문일 것이다. 이런 비윤리적 행위를 규제하는 감독기관이 AI 알고리즘의 작동 방식을 이해할 수 없다면 부적절한 행위는 지속될 개연성이 크다. 향후 개인 소비데이터와 AI 알고리즘이 융합되면서 소비검색 패턴은 쉽게 분석되고, 이는 개인화된 상품 추천으로 연결될 수 있다.

문제는 소비자 행동을 분석하고, 맞춤형 마케팅 전략을 수립하는 과정에서 개인에게 거짓 정보를 준다면 개인의 합리적 판단이 기계에 의해 지배당하는 엄청난 결과가 시작된다는 것이다. 독일의 사회철학자 하버마스는 ‘생활세계(lifeworld)’와 ‘체계(system)’를 구분하면서 ‘도구적 이성’, 즉 체계가 생활세계를 식민화할 수 있음을 경계한 바 있다. 작금의 현실이 그러하다. 목적 합리성을 가진 수익 추구형 유통기업들이 AI라는 도구를 활용해 우리의 소비생활에 침투해 의사소통의 합리성을 파괴할 수 있게 됐다. 그런 점에서 유통산업의 독점적 지배를 가능하게 하는 AI와 같은 도구들은 활용의 사전 단계에서 면밀히 부작용을 검증하고 대비할 필요가 있다.

AI는 맞춤형 소비 경험을 분석해 기업의 매출을 최대화할 수 있는 수익 창출의 도구다. 문제는 고객정보가 안전하게 보호되고 활용되고 있는지다. 전자상거래 공간에서 해당 플랫폼이 상주하는 국가의 정보보호 정책이 다르다면 해당 국적 기업에 대한 신뢰성도 차이가 생길 수 있다. 미국 국적의 쿠팡과 중국계 기업인 알리와 테무 등 글로벌 기업에 우리 소비자의 정보는 안전할까? 동시에 그들이 제공한 정보는 신뢰할 만한 정보일까? 우리는 분명 불안하다.

그래도 이들 기업을 활용해야 한다면 방어 대안을 만들어야 한다. AI의 오용 방지를 위한 기업의 자율 규제안을 소비자단체와 언론에 공개토록 하는 것이다. 신뢰할 수 있는 데이터만을 사용하고 왜곡된 데이터를 식별하고 제거할 수 있는 자율 관리 시스템과 동시에 소비자 정보를 안전하게 관리하겠다는 내용 외에 AI 알고리즘의 작동 원리도 함께 공개해야 한다.

다음은 이를 모니터링하고 평가하는 관리감독시스템을 작동시키는 것이다. 여기에는 정부와 학계 및 전문가그룹의 지식과 관련 연구개발 그리고 지속적인 교육지원 등이 병행돼야 한다. 기업의 AI 활용 능력을 뛰어넘는 고도의 전문 감독조직이 필요하다. 무역분쟁도 피하고 산업 발전도 도모하기 위해 규제보다 자율적 통제시스템을 선택한다면, 문제 발생 시 엄벌할 수 있는 사후 규범체계도 조직화해야 한다. AI는 활용 초입 단계다.

선진국 규제를 응용하는 것도 필요하다. EU의 AI 규제안 특히, GDPR(General Data Protection Regulation)과 미국 연방거래위원회의 AI 관련 소비자보호 규정을 참고할 만하다. AI는 우리 문명을 지배할 혁명적 도구이다. 선제적인 예방만이 우리의 안전을 지속할 수 있다.

김익성 동덕여대 교수 (전 유통학회장)