백인 중심 데이터 습득한 AI, 유색인종에겐 어떨까

“인공지능 열풍을 야기한 챗지피티는 응답도 편향돼 있고 암묵적인 편견으로 가득합니다. 인공지능 개발에 사용되는 데이터 세트 자체가 인간의 편견으로 가득 차 있기 때문입니다.” 윤송이 엔씨문화재단 이사장은 ‘챗지피티 시대, 인간과 AI 공존의 조건’을 주제로 지난해 6월, 제2회 사람과디지털포럼에서 발표한 기조연설에서 이렇게 말합니다.

윤 이사장은 특히 데이터에 주류의 위치에 있는 소수 집단의 의견이 집중적으로 반영되어 전체를 대표하고 있다는 점에 주목합니다. 예를 들어 의료 데이터의 경우 백인 중심으로 구성되어 있어, 이러한 데이터를 학습한 알고리즘은 유색인종에 불리하게 작용할 가능성이 크다는 것입니다. 이처럼 편향성 문제는 인공지능이 만들어내는 광활한 세계에 훨씬 더 크고 근본적인 영향을 미칠 수 있다고 윤 이사장은 말합니다.

한국을 대표하는 인공지능 연구자로 인간과 AI의 공존과 인공지능에 대한 통제를 일찍부터 주장해온 윤송이 이사장이 왜 데이터의 편향성에 주목하고 있는지 들어보시죠.

제작 : 사람과디지털연구소

한귀영 사람과디지털연구소 연구위원 hgy4215@hani.co.kr