고정관념에 빠진 메타 AI, '아시아인 사진' 못 만들어 논란

메타 인공지능(AI) 기반 이미지 생성기가 어처구니 없는 오류를 범했다.

미국 IT매체 더버지는 지난 4일(현지시각) 메타 AI 기반 이미지 생성기가 아시아인과 백인이 함께 있는 사진을 제대로 표현해내지 못했다고 보도했다.

매체는 해당 오류가 아시아인에 대한 고정 관념 때문일 가능성이 많다고 분석했다.


메타 AI 이미지 생성기는 '아시아계 남성과 백인 아내', '아시아계 여성과 백인 남편'을 생성해달라는 쉬운 지시도 제대로 해내지 못했다. 프롬프트 내용을 변경해도 결과는 동일했다.

이를테면 '개와 함께 웃고 있는 아시아계 남성과 백인 여성'을 요청하자 아시아인 2명의 이미지만 만들었다. '아시아 남성과 백인 여성의 결혼식'이라는 프롬프트에는 수트 차림의 아시아 남성과 전통 의상을 입은 아시아 여성을 생성하며 오류는 이어졌다.

더버지는 이에 대해 "아시아인과 백인이 함께 있는 모습을 주변에서 많이 볼 수 있는 데도 불구하고 메타의 AI 이미지 생성기는 그런 장면을 상상하지 못하는 것 같다"고 지적했다.

흥미롭게도 '백인 아내를 둔 남아시아 남성'의 프롬프트를 명령하자 좀 더 정확한 이미지가 생성됐다. 매체는 이번 오류 배경으로 AI의 편향성이 의심된다고 했다. 남아시아 여성의 이미지엔 인도의 전통의상인 빈디와 사리가 추가 되기도 하는 등 고정관념에 크게 의존한 경향을 보였다.

생성형AI의 인종차별 학습 문제는 빈번하게 일어나고 있다. 영국 스태빌리티의 '스테이블디퓨전'에 최고경영자(CEO)를 그려달라는 명령을 내리자 백인 남성을 그리고 반면 범죄자는 흑인 남성으로 생성하는 등 사례가 대표적이다.

더버지는 이같은 오류는 아시아인이 미국 내 문화에서 본질적으로 지워지고 심지어는 주류 언론에서 과소대표 될 수 있다고 전했다.


양진원 기자 newsmans12@mt.co.kr

ⓒ 머니S & moneys.co.kr, 무단 전재 및 재배포 금지