• 아시아계-흑인 친구 모습에 흑인 친구들 모습만 생성

메타. [로이터]

[헤럴드경제=김영철 기자] 메타의 인공지능(AI) 기반 이미지 생성기가 아시아인과 백인이 함께 있는 사진을 제대로 표현해내지 못해 논란이 일고 있다. 이 같은 오류는 아시아인에 대한 고정 관념 때문일 가능성이 많다는 지적이 나오고 있다.

지난 4일(현지시간) 미국 CNN방송 보도에 따르면 메타의 AI 이미지 생성기는 ‘아시아계 남성과 백인 아내’, ‘아시아계 여성과 백인 남편’을 생성해달라는 지시를 제대로 이행하지 못했다.

프롬프트 내용을 변경해도 결과는 동일했다고 이 매체는 전했다.

CNN이 백인 남편과 함께 흑인 여성의 이미지를 메타의 AI 생성기에 입력한 결과 흑인 부부의 모습의 띄우기도 했다. 아시아계 여성과 백인 친구의 이미지를 요청했을 땐 두 명의 아시아계 여성의 이미지가 생성됐다. 흑인 여성과 아시아 친구의 이미지를 생성해달라는 요청에는 두 명의 흑인 여성이 나오기도 했다.

CNN이 다른 인종의 연인 모습을 생성하기 위해 여러 차례 시도한 끝에, 메타 AI 이미지 생성기는 결국 흑인 여성과 백인 남성과 아시아 여성의 이미지를 만들어냈다.

미국 IT매체 더버지는 이 같은 오류에 대해 “아시아인과 백인이 함께 있는 모습을 주변에서 많이 볼 수 있는 데도 불구하고 메타의 AI 이미지 생성기는 그런 장면을 상상하지 못하는 것 같다”며 “아시아인이 백인 옆에 서 있다는 것을 상상하지 못하는 문제는 심각하다”고 지적했다.

이를테면 '개와 함께 웃고 있는 아시아계 남성과 백인 여성'을 요청하자 아시아인 2명의 이미지만 생성해냈다. '아시아 남성과 백인 여성의 결혼식'이라는 프롬프트에는 수트 차림의 아시아 남성과 전통 의상을 입은 아시아 여성을 생성하며 오류는 지속됐다.

더버지는 ‘백인 아내를 둔 남아시아 남성’의 프롬프트를 명령하자 좀 더 정확한 이미지가 생성됐다면서도 이번 오류 배경으로 AI의 편향성이 의심된다고 지적했다. 남아시아 여성의 이미지엔 인도의 전통의상인 빈디와 사리가 추가 되기도 하는 등 고정관념에 크게 의존한 경향을 보였다.

생성형AI의 인종차별 학습 문제는 이전에도 있었다. 영국 스태빌리티의 '스테이블디퓨전'에 최고경영자(CEO)를 그려달라는 명령을 내리자 백인 남성을 그리고 반면 범죄자는 흑인 남성으로 생성해 논란이 되기도 했다.

더버지는 이같은 오류는 아시아인이 미국 내 문화에서 본질적으로 지워지고, 심지어는 주류 언론에서 과소대표 될 수 있다고 전했다.

이 같은 오류에 대한 질의에 대해 메타 측에서는 답변을 하지 않았다고 더버지가 덧붙였다.