백인 중심 데이터 습득한 AI, 유색인종에겐 어떨까 > IT/과학기사 | it/science

“인공지능 열풍을 야기한 챗지피티는 응답도 편향돼 있고 암묵적인 편견으로 가득합니다. 인공지능 개발에 사용되는 데이터 세트 자체가 인간의 편견으로 가득 차 있기 때문입니다.” 윤송이 엔씨문화재단 이사장은 ‘챗지피티 시대, 인간과 AI 공존의 조건’을 주제로 지난해 6월, 제2회 사람과디지털포럼에서 발표한 기조연설에서 이렇게 말합니다.

윤 이사장은 특히 데이터에 주류의 위치에 있는 소수 집단의 의견이 집중적으로 반영되어 전체를 대표하고 있다는 점에 주목합니다. 예를 들어 의료 데이터의 경우 백인 중심으로 구성되어 있어, 이러한 데이터를 학습한 알고리즘은 유색인종에 불리하게 작용할 가능성이 크다는 것입니다. 이처럼 편향성 문제는 인공지능이 만들어내는 광활한 세계에 훨씬 더 크고 근본적인 영향을 미칠 수 있다고 윤 이사장은 말합니다.

한국을 대표하는 인공지능 연구자로 인간과 AI의 공존과 인공지능에 대한 통제를 일찍부터 주장해온 윤송이 이사장이 왜 데이터의 편향성에 주목하고 있는지 들어보시죠.

제작 : 사람과디지털연구소

한귀영 사람과디지털연구소 연구위원 hgy4215@hani.co.kr

<한겨레 인기기사> ■

서울 민심 요동친다…‘공천 갈등·용산 리스크’ 관건

패딩 입고 출근했는데…내일은 눈이 온다고?

한동훈, 여론 악화하자 작심발언…대통령실과 갈등 불거지나

[속보] 합참 “북한, 동해상으로 탄도미사일 발사”

양배추밭 앞 공장…일, 반도체 부활 “마지막 기회”

의정 갈등 한달, 모두 지쳤다…“대화 테이블 앉아라”

이종섭 “4월 말 공관장회의 때 가는 것으로 공수처와 조율”

나의 아이유 티케팅 실패기 [한겨레 프리즘]

MBC 기자들 “살해 협박 이미 경험…대통령실이 혐오 공유”

‘MB 당선 축하 남산 3억’ 위증죄, 대법은 유죄로 봤다

한겨레>

▶▶한겨레의 벗이 되어주세요 [후원하기]
▶▶한겨레 뉴스레터 모아보기 ▶▶[기획] 누구나 한번은 1인가구가 된다