가짜 상관관계 제거…서울대 공대 이정우 교수팀, AI 편향 줄여 > IT/과학기사 | it/science

[이데일리 김현아 기자] 서울대 공과대학 전기정보공학부 이정우 교수팀이 인공지능AI 학습 데이터에 내재된 편향성Bias을 감소시키는 원천 기술을 개발했다고 26일 발표했다.

이정우 교수가 창업한 AI 자동학습 플랫폼 기업인 ‘호두에이아이HodooAI’는 12월 9일부터 15일까지 캐나다 밴쿠버에서 열린 AI 이론 분야의 국제학술대회 ‘NeurIPS 2024’에서 해당 기술을 소개한 논문을 발표했다.

이번 발표는 서울대 CMLCognitive Machine Learning Lab 연구실과 호두에이아이의 첨단 기술력이 국제적으로 인정받았음을 보여주는 사례다.


AI 실용화에 있어 가장 큰 걸림돌로 꼽히는 AI의 불공정성과 불투명성 문제를 해결하는 기술로 주목받고 있다.

서울대학교 전기정보공학부 이정우 교수왼쪽, 한형근 연구원오른쪽

어떤 원리인데?…‘가짜 상관관계’ 제거

AI 학습 데이터 내 편향성은 AI 모델의 판단에 불공정성과 불투명성을 초래할 수 있다.

예를 들어, 대출 신청자 평가 시 AI가 성별이나 인종에 따라 특정 그룹을 선호하는 현상이 발생할 수 있다.

이를 해결하기 위해 이정우 교수팀은 AI가 데이터 내 ‘가짜 상관관계spurious correlations’를 제거하고 핵심적인 특징을 기반으로 예측하도록 학습시키는 기술을 개발했다.

이 기술은 AI 모델의 일반화 능력을 향상시켜, 기존 AI 모델보다 약 21% 향상된 정확도를 기록하며 성능과 신뢰도를 입증했다.

연구팀은 ‘가짜 상관관계가 존재하지 않을 확률’을 계산하여 학습 데이터를 재추출하고, 이를 바탕으로 AI 모델을 학습시켰다.

이 방법을 통해 AI 모델은 지엽적인 특징에 의존하는 대신, 실제 핵심적인 요소에 집중하여 더 정확한 예측을 할 수 있게 된다.

AI 편향성 경감 기술 알고리즘의 주요 단계를 나타낸 의사코드Pseudocode 의료 분야 진단 정확성 기여

이번 기술은 영상, 의료, 법률, 수치 데이터 등 다양한 분야에 널리 활용될 수 있을 것으로 예상된다. 특히 의료 분야에서는 신속하고 정확한 진단에 크게 기여할 것으로 보인다. 또한, 호두에이아이의 AI 플랫폼에서 ‘편향성 제거 AI 엔진’으로 활용될 예정이다.

한형근 연구원제1저자은 “이번 기술이 AI 편향성 제거 분야에서 국내 기술 수준을 세계적 수준으로 끌어올리는 데 큰 기여를 할 것”이라며, “향후 다양한 모델과 데이터 유형에 관계없이 신뢰도 높은 AI 모델이 세계 각지에서 안전하게 사용되기를 기대한다”고 밝혔다.

이정우 교수는 “NeurIPS 2024에서 논문이 채택되어 기쁘다”며, “이 기술이 한국 AI 스타트업의 기술 수준을 더욱 높이는 데 기여할 것”이라고 포부를 전했다.

서울대 전기정보공학부 이정우 교수는 2017년, 연구실 제자들과 함께 AI 자동학습 플랫폼 기업 ‘호두에이아이’를 설립한 이후, AI 기술을 기반으로 다양한 혁신적인 프로젝트를 진행하고 있다.

▶ 관련기사 ◀
☞ 영화 공공의적 모티브된 최악의 존속살해[그해 오늘]
☞ ‘4분의 기적 버스서 심정지로 고꾸라진 男, 대학생들이 살렸다
☞ "술만 마시면 돌변..폭력 남편 피해 아이들과 도망친 게 범죄인가요"
☞ "임영웅과 얘기하는 꿈꿔"...20억 복권 당첨으로 고민 해결
☞ 공룡 美남 돌아온 김우빈, 황금비율 시계는[누구템]

[바이오 성공 투자 1%를 위한 길라잡이 팜이데일리]
[새로워진 이데일리 연재 시리즈 취향대로 PICK하기]
[뉴땡 Shorts 아직 못봤어? 뉴스가 땡길 때, 1분 순삭!]
[10대의 뉴스는 다르다. 하이스쿨 커뮤니티 하이니티]
[다양한 미국 주식정보! 꿀 떨어지는 이유TV에서 확인!]
[빅데이터 AI트레이딩 솔루션 매직차트]

＜ⓒ종합 경제정보 미디어 이데일리 - 무단전재 amp; 재배포 금지＞

김현아 chaos@