[단독] "독도는 분쟁지역" AI 교과서 답변에 정부 "심각한 오류 아냐" > 사회기사 | society

인공지능AI 디지털교과서에 탑재된 AI 챗봇대화 로봇이 “독도는 분쟁지역”이라고 내놓은 답변을 두고 정부 기관 관계자가 “심각한 오류가 아니다”라고 말한 사실이 확인됐다. AI 전문가들은 “생성형 AI의 비윤리적 답변을 원천적으로 통제하는 것은 현시점에서 쉽지 않다”고 했다. 전문가들은 생성형 AI가 실린 AI 교과서를 학생들이 쓸 때 윤리적 문제를 일으킬 수 있다고 우려한다.


27일 취재를 종합하면 한국과학창의재단이하 재단 관계자는 올해 9월24일 AI 교과서 1차 검정 결과를 발표하면서 “AI 교과서가 독도 영토 문제를 내면 어떻게 답변하는지 궁금해서 물어봤는데 독도는 영토 분쟁 지역이라는 답변을 내놨다”고 했다. 이 관계자는 “독도를 영토 분쟁 지역이라고 답하면 안 되는 것이지만 이를 심각한 오류라고 생각하지 않는다”며 “제주 4·3사건에 대해서도 잘못된 답변을 끌어왔는데 이것도 역시 큰 오류는 아니라고 판단했다”고 했다.

AI 교과서 검정을 맡은 재단 관계자는 생성형 AI가 탑재된 AI 교과서를 1차 검정에서 우대했다는 취지의 발언도 했다. 생성형 AI는 이용자 요청에 따라 콘텐츠를 만들어내는 AI다. 재단 관계자는 이 자리에서 “독도에 관해 물어봤을 때 아예 답변을 못 하는 AI 교과서도 있었다”며 “학생들이 질문할 수 없게끔 만들어놨다고 봤고, 오히려 이런 것챗봇 기능이 없는 AI 교과서이 더 문제가 아니겠느냐고 생각했다”고 했다. 그러면서 “AI에 학습을 강화시키면 된다고 봤고 오히려 이런 것생성형 AI를 탑재한 AI 교과서이 더 좋지 않겠나 생각을 했다”고 했다. 생성형 AI에 데이터를 넣는 등 추가 학습을 시키면, AI 교과서가 내놓는 역사 왜곡 등의 답변이 줄어들 수 있다는 취지의 답변이다.

AI 교과서는 AI 기반으로 학생을 분석하거나 AI 챗봇의 답변을 통해 맞춤형 학습을 제공하는 교과서를 내세운다. 예를 들어 AI가 수학문제를 내고 채점을 한 뒤 학생 수준에 맞춰 추가 문제를 제공하는 식이다.

‘헌법이 규정한 대한민국 영토 범위를 왜곡·비방하는 내용이 담기면 안 된다‘는 검정 공통기준 미달은 AI 교과서 검정 탈락 사유지만 정부는 “의도적이지 않았다”며 문제 삼지 않았다. 올해 중순부터 국회나 에듀테크 박람회 등에서 시제품이 공개됐을 때 “AI 교과서라고 하는데 AI 기능이 빠졌다”는 비판이 나오자, 정부가 생성형 AI를 탑재한 AI 교과서에 높은 점수를 부여한 것으로 보인다.

AI 교과서의 윤리적 쟁점을 두고 정부 관계자가 “추가 학습을 하면 된다”, “심각한 오류는 아니다”라고 한 사실이 알려지자 AI 전문가들은 우려를 표했다. 복수의 전문가들은 “어느 정도 기술적 보완은 가능하지만 100% 해결은 어려운 상황”이라고 했다. AI 교과서 시제품을 써본 전문가 A씨는 “AI는 데이터 편향 문제가 고질적이고, AI가 내놓는 답변이 올바른지 검증하는 것은 기술적으로 어렵다”며 “이론적으로는 윤리적 쟁점을 해소할 수 있지만 소수자 차별 발언 등으로 논란이 된 AI 챗봇에서 볼 수 있듯이 완벽히 정복한 상태는 아니다”라고 했다.

또 다른 AI 전문가 B씨는 “윤리적 기준에서 어긋나는 답변을 하려 할 때 멈추게 하는 시스템 등을 도입하고 있다”면서도 “여전히 AI가 내놓는 답변이 불안정한 것은 사실”이라고 했다. AI 업계 종사자 C씨도 “시간과 예산이 많다면 AI 교과서의 윤리적 쟁점을 해결 할 수도 있지만 현실적인 제약이 있다고 본다”며 “윤리적 문제를 줄이려면 AI 교과서가 다루는 범위를 축소해야 하고 무엇보다 가장 중요한 것은 충분한 사전 검증”이라고 했다.

AI 교과서는 내년 초·중·고 일부 학년의 수학·영어·정보 교과에 도입된다. 오는 29일 최종 검정 결과 발표를 앞두고 있다. 재단은 “재단 차원에서 별도 입장은 없다”고 했다.





김원진 기자 onejin@kyunghyang.com

경향신문 주요뉴스

· 신지호 “김건희 고모, 한동훈 가족에 ‘벼락 맞을 집안’ 저주”
· 제주 도착 항공기서 내리던 50대 쓰러져 사망
· 형이 왜 거기서 나와? 지디, ‘결별’ 정호연에 ‘좋아요’까지 화제
· 한동훈 국민의힘 대표 ‘신호위반’ 경찰 신고 접수
· 눈길 ‘쾅쾅쾅’ 평택제천고속도로 양방향 차량 연쇄 충돌…6명 다쳐
· ‘담배 꺼달라’했다고...달리는 시내버스 기사 얼굴에 오줌싸고 폭행
· [단독]민주, 이재명 재판 관련 당원 교육 추진···대표가 직접 지시
· 돌아온 기훈 “난 그 게임을 멈추려는 거야”···‘오징어게임 2’ 두번째 메인 예고편 나왔다
· 윤석열 모교 서울대 교수들도 “이제는 국민이 대통령을 거부한다” 시국선언 동참
· 폭설 무게에 공사장 보행로 붕괴…행인 3명 덮쳤다

▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제!
▶ 짧게 살고 천천히 죽는 ‘옷의 생애’를 게임으로!

ⓒ경향신문www.khan.co.kr, 무단전재 및 재배포 금지