AI가 인간을 해킹한다…더 교묘하고 강력한 다크패턴 > IT/과학기사 | it/science

인공지능 기술 발달로 새로운 유형의 ‘다크패턴’이 생겨나 이용자 권익이 위협받고 있다.

‘다크패턴’은 소비자가 의도하지 않은 선택과 구매 결정을 하도록 교묘하게 설계된 속임수 디자인을 가리킨다. 2010년 영국의 사용자 경험UX 디자이너인 해리 브리그널이 웹사이트의 다양한 속임수 디자인을 고발하면서 만든 단어로, 이후 ‘다크패턴’은 각국의 규제기관과 법률이 주목하면서 디지털 이용자의 권익 침해를 상징하는 개념이 됐다. 2010년 브리그널이 고발할 때만 해도 다크패턴은 주로 △숨겨진 가격 △해지 어려움 △연속 결제 강요 △과도한 개인정보 공개 등의 속임수 디자인을 지칭했는데, 인공지능 환경에서 종류과 수법이 빠르게 확산하고 있다.

챗지피티GPT·미드저니 등 생성 인공지능은 거짓을 사실과 식별하기 어렵게 만드는 딥페이크와 환각 현상으로 규제 여론도 불렀지만, 인공지능 다크패턴은 모호해 일방적 규제나 불법화가 어렵다.

미국의 프라이버시 전문가 루이자 야로브스키는 인공지능 기반 다크패턴의 유형을 두 종류로 구분한다. 하나는 ‘거짓된 내용’으로, 목소리·문자·사진·동영상 등의 콘텐츠가 인공지능으로 생성된 것임에도 사람들로 하여금 진짜라고 믿게 만드는 것이다. 다른 하나는 ‘사람 행세’로, 상호작용하는 상대가 인공지능인지 모르고 사람이라고 여기며 상호작용하는 현상이다.

다크패턴은 이용자가 오해하거나 속아 자신의 이익에 어긋나는 선택을 하도록 유도하는 설계나 마케팅을 의미했는데, 최근의 생성 인공지능은 사람들이 새로운 차원의 속임수에 무방비 상태로 노출되도록 한다. 챗지피티·제미나이·달리와 같은 생성 인공지능이 만들어낸 콘텐츠는 사람이 식별하는 게 거의 불가능한 수준이다. 또한 인공지능은 기존의 자동안내, 상담, 거래 대행 등 각종 도우미 서비스를 담당하고 있는데, 기술 발달로 인해 사람들은 자신의 대화 상대가 인공지능이라는 점을 알기 어렵다.

인공지능을 이용한 기만 수법도 늘어나고 있다. 인공지능 알고리즘을 사용하여 검색 기록, 소셜미디어 활동 등의 데이터를 활용해 다크패턴을 개별 이용자에게 맞춤화할 수 있다. 이용자는 자신이 조종당하고 있다는 사실을 인식하기 더욱 어려워질 수 있다. 또한 인공지능은 새롭고 더 정교한 다크패턴을 개발하는 데 쓰일 수 있으며, 챗봇이 사람인 것처럼 상품 구매후기를 올리거나 게시글에 댓글을 달 수 있다. 인공지능 자동댓글 프로그램은 이미 출시돼 있는 상태다.

다크패턴은 인공지능을 타고 질주하고 있지만, 대응책은 걸음마 수준이다. 무엇보다 온라인 서비스 설계 운영자들은 다크패턴으로 단지 이용자들을 속이는 수준을 넘어서는 것만이 아니라, 절대적인 정보 우위에서 서비스를 제공하는 비대칭적 지위를 갖게 된다. 서비스 설계·운영자는 이용자들의 심리적 취약점을 이용해 자신의 이익을 극대화하는 시도를 은밀하게 수행할 수 있다. 페이스북이 여러 차례 내부조사를 통해 10대 소녀들의 인스타그램 이용이 자살 충동을 부추긴다는 것을 알고도 개선은커녕 어린이용 인스타그램 출시를 시도한 것 등이 대표적 사례다.

유발 하라리는 저서 ‘21세기를 위한 21가지 제안’에서 “빅데이터와 기계 학습을 통해 알고리즘은 우리를 더 잘 알게 되어 우리를 통제하고 조종할 수 있지만 우리가 할 수 있는 것은 별로 없을 것”이라며 기계가 인간을 해킹할 위험성을 경고했다.

유럽연합EU은 다크패턴 대응에 적극적이다. 유럽연합이 2024년 2월부터 시행하는 디지털 서비스법DSA 온라인 플랫폼 제공자가 이용자를 속이기 위해 이용자의 자유로운 정보기반 선택 능력을 왜곡·손상하는 방식으로 설계·구성 또는 운영하는 것을 금지한다. 유럽연합 집행위원회EC는 법 시행 전부터 소셜미디어 기업들에 인공지능 콘텐츠에 라벨을 붙이라고 촉구했으며, 숏폼 플랫폼 틱톡은 지난 10일 외부에서 제작된 콘텐츠에도 ‘AI 생성’ 라벨을 자동으로 부착한다고 발표했다.

국내 소비자원은 온라인 상거래 서비스를 대상으로 다크패턴 실태조사 보고서를 낸 바 있고, 담당 규제기관인 공정거래위원회도 2023년 다크패턴 문제의 심각성을 국회에 보고하고 소비자 보호방안과 다크패턴 가이드라인을 발표했다. 그런데 공정위의 ‘온라인 다크패턴 가이드라인’은 자율관리 방안에 불과해 법적 구속력이 없다.

‘다크 패턴’의 작명자 브리그널은 최근 ‘다크패턴의 비밀’을 발간하고, ‘다크패턴’ 용어와 웹사이트 주소를 아예 ‘기만적 패턴deceptive patterns’으로 바꾸며 속임수 디자인의 문제를 명료화했다. 기존 12가지 유형으로 분류했던 속임수 디자인 유형도 16개로 세분화했다.

구본권 사람과디지털연구소장 starry9@hani.co.kr

<한겨레 인기기사> ■

임성근 “수중 수색 지시 안 해” …‘VIP 격노’ 덕 본 적 없다?

최재영 검찰 조사…“김건희, 아무것도 안 받았으면 아무일 안 생겨”

정읍서 긴급체포된 태국 ‘한국인 납치살해’ 용의자…혐의 부인

선방위 152일의 폭주…윤 부부·정부여당 비판 보도에 제재 28건

중고 팔았는데 “세금 100만원”…리셀러 잡다가 민심 잡겠네

“뮤비 감독 꿈 지키기 위해, 스승이자 선배 성폭력 고발합니다”

경찰, 채상병 특검법 의식했나…임성근 전 사단장 조사한다

맑고 쌀쌀한 월요일 아침…이틀 뒤 부처님오신날 비 옵니다

AI가 인간을 해킹한다…더 교묘하고 강력한 ‘다크패턴’

김정은의 무기 세일즈…저격수용 소총 쏘고 방사포 발사차량 운전도

한겨레>

▶▶한겨레 서포터즈 벗 3주년 굿즈이벤트 [보러가기]
▶▶한겨레 뉴스레터 모아보기 ▶▶[기획] 누구나 한번은 1인가구가 된다