똑똑한 AI 비서가 우릴 멍청하게 만든다? > IT/과학기사 | it/science

인공지능은 우리를 더 멍청하게 만드는가?

다양한 지적 활동에서 누구나 전문가 수준의 결과물을 만들 수 있도록 도와주는 생성인공지능이 인간의 핵심적인 지적 능력을 떨어뜨리고 있다는 연구결과가 발표됐다. 챗지피티GPT 이후 학교와 기업에서 과제 수행과 평가에 인공지능 사용을 허용할지 논란인 상황에서 관심이 뜨겁다.

하오핑 리 카네기멜론대 교수와 마이크로소프트 리서치 연구진은 지난달 생성인공지능이 비판적 사고에 부정적 영향을 끼친다는 연구논문을 공개했다. 연구진은 업무에 생성인공지능을 주 1회 이상 사용하는 지식노동자 319명을 대상으로 조사한 결과, 사용자들이 인공지능이 생성한 결과를 신뢰할수록 인지적 노력을 덜 기울이게 되고 이는 비판적 사고능력을 떨어뜨린다고 보고했다. 이들의 인공지능 활용 형태는 936개로 △콘텐츠 생성 △정보 검색 △업무 조언 등 세 가지로 분류됐다. 연구 결과, 인공지능의 결과물을 신뢰하고 의존하는 사람일수록 비판적 사고를 덜하는 것으로 나타났고 자신의 역량을 신뢰하는 사람일수록 일을 할 때 비판적 사고를 더 많이 하는 것으로 나타났다.

생성인공지능은 보고서 작성, 문제 해결방법 제시, 프로그램 코딩, 추론 등 방대하고 복잡한 과제를 순식간에 깔끔하게 처리하는 능력으로 개인과 조직의 업무 역량을 증대하는 도구로 여겨져왔다. 그런데 ‘만능 도우미’로 여겨지는 생성인공지능에 의존할수록 오히려 인간의 핵심 지적 역량을 저해한다는 연구결과가 나왔다는 점에서 주목된다.

연구에서는 지식노동자들이 생성인공지능 도구를 신뢰하는 행위는 비판적 성찰을 방해하고, 인공지능이 생성한 결과에 문제가 있어도 해결하는 데 어려움을 겪는 것으로 나타났다. 문법 검사처럼 저위험 업무는 괜찮지만, 법률문서 작성처럼 주요 업무에서는 심각한 부정적 결과를 초래할 수 있다는 게 연구진의 생각이다.

스위스 경영대학원SBS의 미카엘 게를리히 교수가 666명의 영국인을 대상으로 조사해 지난달 3일 ‘소사이어티’에 발표한 논문에도 유사한 결과가 실렸다. 인공지능을 자주 쓰는 사람일수록 정보를 비판적으로 평가하고 성찰적으로 문제를 해결하는 능력이 감소하는 것으로 조사됐다.

비판적 사고는 주체적이고 성찰적인 사고로, 전제된 것들을 의심하고 증거에 기반해 정보를 분석한 뒤 합리적 판단을 내리는 능력을 말한다. 비판적 사고는 정보사회의 핵심 업무역량으로 주목받고 있으며, 오래 전부터 고등교육의 목표로 제시돼왔다. 런던 증시에 상장된 350대 기업은 채용시 비판적 사고를 우선시하며 2020년 세계경제포럼도 비판적 사고를 필수 업무역량으로 선정한 바 있다.

기술과 도구가 똑똑해질수록 사용자가 멍청해진다는 주장은 뿌리가 깊다. 계산기, 컴퓨터, 검색엔진이 등장할 때마다 불거진 논쟁이다.

미래학자 니컬러스 카는 2008년 미국 잡지 ‘애틀랜틱’에 ‘구글이 우리를 바보로 만드는가’라는 글을 실어 인터넷이 얄팍한 지식을 양산한다며 디지털 기술이 사고 능력을 훼손한다는 주장을 펼쳤다. 카의 도발적 주장은 2011년 ‘생각하지 않는 사람들’로 출간돼 세계적 베스트셀러가 되어 논쟁을 심화시킨 바 있다.

사람이 더 편리하고 완성도 높게 일하기 위해 신기술을 개발해 사용하지만 이러한 도구에 의존하고 사람이 해야 할 역할을 위임한 결과, 해당 인간 역량이 퇴화한다는 주장은 오랜 논쟁이다. 1983년 심리학자 리잰 베인브리지는 논문 ‘자동화의 역설’에서 인간의 역량을 높이고자 기계를 개발하지만, 역설적으로 그 결과 인간 역량이 줄어든다고 주장했다. 자동화 기술에 지나치게 의존하다가 기기 고장이나 긴급 상황에서 재난으로 이어지는 경우가 있다. 2009년 대서양에 추락해 탑승객 228명이 모두 숨진 에어프랑스 447편 추락 사고는 자동화 시스템 고장으로 인한 수동 조작 상황에서의 실수가 비극으로 이어진 대표적 사례다. 2013년 아시아나항공 214편 샌프란시스코공항 사고도 자동화 기기 의존 상태에서 활주로의 착륙유도장치 고장이 원인으로 지목된 바 있다.

2500년 전 소크라테스도 당시 신기술이던 문자의 확산을 우려했다. 문자를 배운 사람은 더이상 기억력을 사용하지 않게 되어 더 많이 망각할 것이며, 자신이 알지 못하는 것도 아는 체하고 말할 것이라는 지적이었다. 그 결과 진정한 지혜 대신 자만심으로 가득찬 어리석은 사람들이 늘어날 것이라는 게 소크라테스의 비판이었다.

이번 연구는 비판적 사고의 대상과 방법이 인공지능 환경에서 변화해야 한다는 걸 시사한다. 하오핑 리의 연구는 생성인공지능으로 인해 지식노동자가 지적 역량을 사용하는 방식이 달라지고 있음을 보고했다. 연구결과, 조사 대상자들은 업무에 필요한 정보를 수집하는 노력이 줄어들었고 대신 생성인공지능으로 얻은 정보를 검증하는 데 노력하게 됐다. 또한 정보 분석·종합 업무에서는 작업을 실행하는 데 들이는 노력보다 작업을 관리·감독하는 데 많은 노력을 기울이고 있다. 일련의 최신 연구는 생성인공지능이 지식노동 업무를 어떻게 바꾸고 있는지를 보여줘, 앞으로 직무에서 필요한 비판적 역량의 정의와 교육 방법이 재편되어야 한다는 것을 알려준다.

구본권 사람과디지털연구소장 starry9@hani.co.kr

<한겨레 인기기사> ■

계엄군, 국회 본회의장 진입 막히자 지하로 달려가 전력차단

이번주 홍장원·한덕수 신문…체포지시·위법계엄 공방 예고

[속보] 배우 김새론 자택서 숨진 채 발견

대통령실, 광주 탄핵찬성 집회 ‘윤석열 부부 합성 영상물’ 법적 대응

“여의도 봉쇄” “수거팀 구성”…‘노상원 수첩’ 실제로 이행됐다

[단독] 계엄날 수사2단, ‘노상원 부정선거 자료’ 보며 출동 준비

[단독] 명태균 “오세훈에 ‘나경원 이기는 조사 필요’ 전화받아”

서울 초미세먼지 주의보 발령…“실외활동 마스크 착용해야”

[단독] 남규선 위원 “인권위는 흉기…안창호 위원장 사퇴해야”

노상원 “여당 추천 선관위 위원은 살살 다루라”… 롯데리아서 지시

한겨레>

▶▶한겨레는 함께 민주주의를 지키겠습니다 [한겨레후원]

▶▶실시간 뉴스, ‘한겨레 텔레그램 뉴스봇’과 함께!

▶▶한겨레 뉴스레터 모아보기