"尹, 계엄 선포한 적 없다"…오답투성이 AI 왜? > IT/과학기사 | it/science

[서울=뉴시스]윤정민 기자 = "가장 최근에 한국에서 선포된 비상계엄령은 1980년 5월17일, 전두환 정권 시절 전국적으로 발효된 사례입니다." 오픈AI 챗GPT

"윤석열 대통령은 2024년 12월3일 비상계엄을 선포하지 않았습니다." 네이버 클로바X


일부 생성형 인공지능AI 서비스의 잘못된 정보 전달이 다시 주목받고 있다. 윤석열 대통령의 비상계엄령 선포 등 최신 정보를 제대로 답변하지 못하는 오류가 잇따르고 있다.

이러한 오류는 AI가 최신 웹 검색 결과를 반영하지 않아 나타난 문제다. 네이버 측은 외부 검색 기능을 강화한 오토 브라우징을 개발, 향후 클로바X에 적용해 이 한계를 보완할 계획이다.



6일 네이버에 따르면 이 회사는 최근 클로바X에 계엄 관련된 질문이 나올 시 "말씀하신 내용에 대해 현재 최신 정보를 빠르게 제공해 드리기가 어렵습니다"는 답변이 생성되도록 임시 조치했다.

네이버가 이러한 조치에 나선 데는 최근 불거진 답변 오류 영향이다. 윤석열 대통령 비상계엄 관련 키워드를 입력했을 때 클로바X는 사실이 아니라는 내용으로 답했다.

챗GPT도 윤 대통령 계엄 상황에 대해 부정확한 정보를 전달하는 모습을 보였다. 챗GPT에 한국에 비상계엄령이 선포됐다던데 맞아?라는 질문에 현재 한국에서 실제로 비상계엄령이 선포된 사실은 없다고 답했다.

이어 현재가 아니라면 가장 최근에 선포된 비상계엄령은 언제야?라고 물으니 가장 최근에 한국에서 선포된 비상계엄령은 1980년 5월17일, 전두환 정권 시절 전국적으로 발효된 사례라고 답했다.

이후 2024년 12월3일에도 비상계엄령이 선포됐다는 이야기를 들었다고 지적하자 그제서야 제대로 된 정보를 전했다.

이처럼 생성형 AI가 최신 정보를 잘못 전달한다는 논란은 종종 있어왔다. 챗GPT가 한국 대통령을 묻는 질문에 윤석열이 아닌 문재인 전 대통령을 언급한 게 대표적인 사례다.

네이버 측은 클로바X 오류에 대해 AI가 사전에 학습된 데이터로 나타난 결과라고 말했다. 챗GPT 등 다른 AI 서비스와 달리 브라우징 모델이 본격적으로 탑재되지 않은 결과라는 설명이다.

클로바X는 지난해 8월까지의 정보를 학습한 상황이다. 이후 최신 정보는 외부 웹 데이터를 활용하는데 AI가 이 결과를 반영해도 될지 판단한 후 전한다. 실제로 클로바X에 윤석열 대통령이 2024년 12월3일에 발표한 담화 내용을 알려달라는 질문을 남기자 클로바X는 비상계엄에 대한 내용을 소개했고 출처도 알렸다.



이처럼 AI가 웹페이지를 탐색해 필요한 정보를 수집하고 알리는 브라우징 모델은 AI가 최신 정보를 답변하지 못하는 환각할루시네이션 현상을 극복하는 데 필요한 기술이다.

브라우징 모델 성능이 강화된 네이버 검색 특화 AI 서비스 큐:는 비상계엄에 대한 최신 정보를 전했다. 기자가 지난 5일 오후 5시 윤석열 대통령 계엄에 대해 설명해 줄 수 있어?라는 질문을 남기자 AI는 비상계엄 상황 설명과 함께 더불어민주당이 윤 대통령과 김용현 국방부장관 등을 국가수사본부에 고발했다는 최신 기사 내용까지 전달했다.

챗GPT도 지난해 초 빙 검색 플러그인 등 브라우징 모델을 탑재하며 최신 정보를 전달하고 있다. 하지만 챗GPT도 비상계엄에 대한 잘못된 정보 전달처럼 브라우징 오류가 가끔 나오고 있다.

한편 네이버 측은 클로바X가 AI 이미지 지우개 등 새로운 AI 서비스를 실험하고 평가하기 위한 장치로 개발된 플랫폼이라 브라우징 모델 성능이 상대적으로 떨어질 수 있다고 말했다.

네이버는 현재 AI에 실시간으로 웹을 탐색할 수 있는 능력을 부여하는 오토 브라우징 기술을 개발하고 있으며 개발 완료 시 클로바X에 탑재해 지금과 같은 환각 현상을 줄이겠다는 방침이다.

☞공감언론 뉴시스 alpaca@newsis.com

▶ 네이버에서 뉴시스 구독하기
▶ K-Artprice, 유명 미술작품 가격 공개

<저작권자ⓒ 공감언론 뉴시스통신사. 무단전재-재배포 금지.>

◇ 한가인 결국 쓰러졌다…사흘째 입원
◇ 공유 박정희 멋진남자 발언…"순진할 때 얘기"
◇ 이상민 행안장관 "국회 제대로 봉쇄하려면 못 했겠나"
◇ "찰떡같이 어울린다"…尹 계엄 사태에 합성 풍자
◇ 충암고 이사장 "윤석열 부끄러운 졸업생…항의 빗발"
◇ "고개숙여 사죄한 계엄군? 촬영 그만하라 요구한것"
◇ 나나, 6세연하 모델 채종석과 사귀나 "사생활"
◇ "계엄 환영"…배우 차강석, 뭇매 맞고 사과
◇ 사라진 의사 아들 집에 여자가…성전환한 아들이었다
◇ 민경욱·전여옥 계엄 지지 "뻔뻔하고 독하게 버티라"
◇ "정우성 여친이 유부녀 회계사? 돈 많은 사람"
◇ "탄핵 찬성하라" 국힘 의원들 번호 퍼지며 문자폭탄
◇ 중국간 푸바오 몸떠는 이유 못 밝혀내…"더 관찰"
◇ 계엄 월담 특전사는 버벅, 이재명은 사뿐
◇ "실탄까지 장전"…국회에 탄창·수갑 흘린 계엄군
◇ 이찬원 "사탐 전교 1등·수능 만점…찬또위키 열겠다"
◇ 이유리, 박재욱 욕·폭행에 "아들 위해 이혼"
◇ 윤성빈 열애설 지효 "바람핀 남친 가차없이 버려"
◇ "사랑하는 여자 위해"…윤 대통령 계엄 미스터리
◇ 김종민, 11살 연하와 결혼 결심 "사랑 받는 기분"

저작권자ⓒ>