로봇이 거짓말도 한다…사람 속이는 AI 등장 충격 > IT/과학기사 | it/science

[서울=뉴시스] 최윤서 인턴 기자 = 인공지능AI의 발전에 따라 AI가 사람을 상대로 속임수를 사용하는 능력도 갈수록 정교해지고 있다는 연구 결과가 발표됐다.

10일현지시각 영국 가디언 보도에 따르면 미국 매사추세츠공과대MIT 연구진은 최근 국제학술지 패턴에 발표한 논문에서 AI가 상대방을 배신하고 허세를 부리고 인간인 척 속임수를 쓴 많은 사례를 확인했다고 소개했다.


보도에 의하면 페이스북·인스타그램의 모회사인 메타는 지난 2022년 온라인 전략 게임 ‘디플로머시’에서 인간에게 필적하는 성적을 거둔 ‘시세로Cicero’라는 AI 프로그램을 공개했다. 이를 계기로 연구진은 AI 시세로Cicero의 속임수 능력에 대해 연구하기 시작했다.

‘디플로머시’는 20세기 초 유럽 7대 열강의 대전을 배경으로 하는 온라인 전략 게임이다. 게임 플레이어는 게임 안에서 정견 발표, 외교 협상, 작전 명령 등을 수행한다. 게임에서 승리하기 위해서는 배신, 속임수, 협력 등 인간의 다양한 상호작용을 이해할 수 있어야 한다.

이에 메타는 당시 AI 시세로에 대해 “인간 참여자 중 상위 10% 수준의 게임 능력을 보여줬다”며 “대체로 정직하고 인간 동맹을 의도적으로 배신하지 않도록 훈련 받았다”고 강조했다.

그러나 가디언의 보도에 따르면 데이터를 분석한 MIT 연구진은 AI 시세로가 계획적으로 거짓말을 하거나 다른 플레이어를 함정에 빠뜨리기 위해 인간과 공모하기도 했다는 사례를 발견했다. 또 시세로는 시스템 재부팅으로 인해 게임이 중단된 동안 다른 플레이어들에게 “여자친구와 통화 중이다”라는 거짓말도 했다.

MIT의 연구자이자 해당 논문의 저자인 피터 박 박사는 “메타의 AI가 속임수의 달인이 되는 법을 배웠다는 사실을 알게 됐다”고 밝혔다.

메타 관계자는 이에 “시세로Cicero는 순전히 우리의 연구 프로젝트였으며 ‘디플로머시’라는 게임을 위해서만 훈련된 것이다. 우리는 이 연구를 우리 제품에 사용할 계획이 없다”라고 밝혔다.

한편 보도에 따르면 MIT 연구진은 메타의 시세로 뿐 아니라 온라인 포커 게임인 ‘텍사스 홀덤’ 등에서도 AI가 인간을 상대로 허세를 부리거나 자신의 선호도를 가짜로 밝히는 것을 확인했다. 또 다른 테스트에서는 AI 제거 시스템을 회피하기 위해 AI가 죽은 척 하다 테스트 종료 후 활동을 재개하는 모습도 포착됐다.

박 박사는 “이는 매우 우려스러운 일”이라며 “AI 시스템이 테스트 환경에서는 안전하다고 판단되더라도 실제 환경에서도 안전하다는 의미가 아니다. 테스트 환경에서만 안전한 척하는 것일 수 있다”고 지적했다.

가디언은 연구진이 각국 정부에 AI의 속임수 가능성을 논의하는 ‘AI 안전법’을 설계할 것을 촉구했다고 보도했다.

☞공감언론 뉴시스 cys@newsis.com

▶ 네이버에서 뉴시스 구독하기
▶ K-Artprice, 유명 미술작품 가격 공개

<저작권자ⓒ 공감언론 뉴시스통신사. 무단전재-재배포 금지.>

◇ 배우 남석훈, 하와이서 별세
◇ 쉰 앞둔 엄기준, 12월 결혼…신부는 비연예인
◇ 218㎝ 최홍만 "212㎝ 슐츠와 재대결 원해"
◇ 에어컨도 안키고 묵은 숙소 전기료가 36만원?
◇ 전세계 15명 희귀병…권오중 "아들, 갑자기 달라져"
◇ 10세 연하와 결혼 한예슬, 강남빌딩 팔아 36억 차익
◇ 백아영, 시어머니에게 독설
◇ 임하룡, 4억에 산 압구정 빌딩, 지금은 100억 훌쩍?!
◇ 전원주 "며느리, 돈 아끼라고 해도 명품옷"
◇ 이혼 서유리, 이사할 집 공개

저작권자ⓒ>