호평 보고 구매했는데…알고보니 AI가 쓴 가짜리뷰 > IT/과학기사 | it/science

◆ 다크패턴과의 전쟁 ◆

소비자를 조종해 서비스를 구매하도록 유도하는 다크패턴 피해가 생성형 인공지능AI의 발전으로 더욱 교묘해지고 있다. 불과 몇 년 전까지 단순히 웹사이트나 애플리케이션앱 디자인, 약관에서의 모호한 조항을 활용해 소비자들에게서 그들이 원하지 않는 지불을 이끌어내는 수준에 그쳤다면, 이제는 AI가 사람처럼 행동하며 진짜인지 가짜인지 모를 광고성 콘텐츠를 양산하는 전략으로 소비자를 기만하는 것도 가능해졌다.

영국 인지과학 전문가이자 다크패턴을 처음 공론화한 해리 브리그널은 저서 다크패턴의 비밀에서 사용자별 개별화와 맞춤형 설계가 가능한 AI의 특성상 이를 활용한 다크패턴의 폐해가 더 클 수 있다고 지적했다. 특히 생성형 AI는 기존에 일반화된 다크패턴을 학습해 이보다 고도화되고 눈치채기 힘든 다크패턴을 만드는 것이 가능하다고 분석했다.

이미 사회관계망서비스SNS와 쇼핑몰에서 사람처럼 행세하며 가짜 구매 댓글을 다는 봇bot이 마케팅에 활용되고 있는데, AI 도입으로 이런 형태가 더욱 고도화되고, 생산되는 콘텐츠 양도 기하급수적으로 늘어나면서 소비자의 판단을 호도할 가능성이 제기된다.

다만 업계에서는 이 같은 다크패턴의 폐해를 규제하는 방향성 자체는 맞지만, 과도할 경우 정상적인 사업 범위까지 침해할 수 있다는 우려를 내놓고 있다. 이커머스 업체 A사 관계자는 "정기결제 유료 전환 시 한 달 전부터 소비자 동의를 받게 하는 것은 당연히 강화해야 하는 부분"이라면서도 "넛지 마케팅 같은 일반적인 마케팅 범위까지 제한하게 된다면 비즈니스에 차질을 빚을 수도 있다"고 말했다. 넛지 마케팅이란 소비자들에게 선택의 자유를 보장하면서도 더 좋은 결정을 내리도록 미묘하게 유도하는 방식을 말한다. 강제로 선택을 강요하지 않지만 특정 문구와 정보 등을 활용해 고객이 더 나은 방향으로 자연스럽게 끌리도록 할 수 있다.

구독형 플랫폼을 운영하는 B사 관계자는 "넛지 마케팅을 비롯해 정상적인 마케팅 활동으로 볼 수 있는 것들마저 일괄적으로 다크패턴으로 간주하면 B2C기업과 소비자 간 거래 회사들의 입장에서 단기적으로 어려움이 없진 않을 것"이라며 "다크패턴의 범위를 명확하게 규정할 필요가 있다"고 주장했다.

[김태성 기자 / 김시균 기자]

▶ “하루아침에 계엄군 됐다”…전역 신청하는 특전사 수 급증

▶ 오늘의 운세 2025년 2월 10일 月음력 1월 13일

▶ “몸 이상해 병원 갔다 깜짝”…50대 술집 여주인에 필로폰 넣은 술 먹인 60대 男

▶ 스타벅스에 빨대 말고 예쁜 녹색 막대기…근데 그거 뭐지? [그거사전]

▶ 선우은숙 며느리 초대받은 정용진...한강뷰 집에서 복요리로 홈파티

[ⓒ 매일경제 amp; mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]