"고위험 AI 출시, 정부의 허가 시스템 도입해야" > IT/과학기사 | it/science

제2회 사람과디지털포럼 기조연사 프랭크 패스콸리

프랭크 패스콸리는 미국 브루클린대학 로스쿨 교수이자 미국 인공지능 자문위원회 위원으로 이번 포럼에서 우리 삶과 사회를 지배하는 권력자, 알고리즘을 다룬다. 편의성 등 알고리즘이 지닌 잠재적 혜택과 예측하기 어려운 위험의 분출 사이에서 어떻게 균형을 잡아갈 수 있을지 구체적 대안도 모색한다.

패스콸리는 편견과 차별 해소 등 공정성을 명분으로 급격히 확산하고 있는 인공지능 면접에 대해 채용 자동화를 통해 차별을 줄이려는 노력이 오히려 차별을 증가시키는 ‘자동화의 역설’에 직면하고 있는 상황도 짚는다. 자동화된 화상면접은 피면접자의 억양, 감정 표현 방식 등 인간의 본질적 특성과 관계없는 변수를 기준으로 평가하고 판단할 가능성이 크다.

불투명하고 불공정한 알고리즘을 제어하기 위한 방안으로 패스콸리는 사람을 평가하고 등급을 매기도록 설계된 알고리즘의 결과물에 대해 정부 및 민간 감사를 실시하고, 기업이 채용할 경우 일정 비율을 할당해 알고리즘 채용 과정에서 탈락한 사람들이 응시할 수 있도록 기회를 주어야 한다고 제안한다. 특히 사회적 약자를 일정 비율 고용하도록 ‘쿼터’를 두는 방안도 상세히 밝힐 예정이다.

패스콸리는 알고리즘을 더욱 투명하고 이해하기 쉽게 만들 수 있는 사례와 가능성도 발표한다. 한 예로, 캐나다 이민 ‘포인트’ 알고리즘은 캐나다에 이민할 수 있는 가능성을 추정할 수 있도록 투명하게 설계되어 있으며 알고리즘의 공정성에 이의를 제기할 수도 있다. 패스콸리는 인간이 주도하는 인공지능을 위해 새로운 고위험 인공지능 모델을 출시하기 전에 정부 기관의 허가를 받도록 하는 인공지능 허가 시스템 도입에 대해서도 의견을 제시할 예정이다.

한귀영 사람과디지털연구소 연구위원 hgy4215@hani.co.kr

<한겨레 인기기사> ■ 일, ‘오염수 피해’ 기금 확보…윤 정부는 배상요구 검토도 안 해

■ 한국, 유엔 안보리 비상임이사국 선출…11년 만에 재진입

■ 카톡 ‘조용히’ 나갔는데, 다시 초대됐어…200만명 단톡방 ‘탈주’

■ 전두환 손자 주식 4.8억, 박상아에 가압류됐다

■ 이재명, 이래경 ‘부실 검증’ 참사…민주 의원들 “검색만 했어도”

■ [영상] ‘러 점령지’ 헤르손주 댐 파괴돼…“주민들 바로 떠나라”

■ ‘한인 사업가 납치·살해’ 필리핀 경찰, 7년 만에 무기징역

■ “한국도 기후보상액 3105조원” 미·러·일 포함 13번째로 많아

■ “원 모어 씽” 환호성이 터졌다… 애플, 또 한번 ‘혁신’ 이끄나

■ 중·러 군용기, 한국 ‘방공식별구역’ 한때 진입…우리 공군 출격

한겨레>

▶지금 보고싶은 뉴스를 구독하세요 [네이버 메인 추가]
▶▶한겨레의 벗이 되어주세요 [후원하기] ▶▶한겨레 뉴스레터 모아보기

[ⓒ한겨레신문 : 무단전재 및 재배포 금지]