"완전 속았다, 사기 당해도 모를것"…새롭게 선보인 AI이미지 생성기 ... > IT/과학기사 | it/science

오픈AI의 최신 모델 챗GPT 4o가 공개되면서, 이미지 생성 기능이 텍스트 삽입 정확도 측면에서 대폭 개선됐다. 그 결과 사용자들이 실제 식당에서 받은 것처럼 보이는 가짜 영수증을 생성하는 사례가 늘어나고 있으며, 이는 AI 딥페이크의 새로운 형태로 사기 가능성을 우려하게 만들고 있다.

지난달 31일 테크크런치 등에 따르면 벤처투자자이자 소셜 미디어 인플루언서인 디디 다스Deedy Das는 X구 트위터에 샌프란시스코의 실제 스테이크하우스 명의로 된 가짜 영수증을 올렸다. 해당 영수증은 챗GPT 4o를 통해 생성된 것이라고 밝혔으며, 다른 사용자들도 이를 재현하며 온라인에서 일종의 ‘챌린지’처럼 확산되고 있다.


심지어 음식 얼룩이나 구겨진 흔적까지 포함시켜 실제처럼 보이게 만든 예시도 등장했다. 프랑스에서는 한 링크드인 사용자가 지역 레스토랑 체인의 영수증처럼 보이는 가짜 이미지를 게시해 더욱 현실감을 높였다.

테크크런치가 자체적으로 시도한 가짜 영수증 생성에서는 몇 가지 허점이 드러났다. 소수점 대신 쉼표를 사용하는 등의 형식 오류, 합계 금액의 계산 오류 등이 확인됐는데 이는 AI가 여전히 기초 수학 처리에 약점을 보임을 시사한다. 하지만 이러한 오류는 간단한 포토샵 보정이나 더 정밀한 프롬프트 설정을 통해 쉽게 수정될 수 있다.

이러한 생성형 AI 기능이 악용될 경우, 실제로 지출되지 않은 비용에 대한 허위 청구나 가짜 영수증을 통한 환급 사기가 가능하다. 특히 기업의 경비 처리 시스템이나 회계 감사 프로세스가 단순할 경우, 피해 가능성은 더 커진다.

오픈AI 타야 크리스티안슨 대변인은 테크크런치에 “모든 챗GPT 이미지에는 생성 사실을 명시하는 메타데이터가 포함되어 있다”며 “사용자가 정책을 위반할 경우 조치를 취한다”라고 밝혔다.

하지만 왜 가짜 영수증 생성 자체를 허용하느냐는 질문에는, “금융 교육이나 광고·예술 창작 등 비사기적 목적의 활용 가능성도 고려해야 한다”라며 “사용자에게 최대한의 창의적 자유를 보장하는 것이 목표”라고 설명했다.

▶ [속보] 장제원 전 의원 숨진 채 발견

▶ “30명 갈건데, 담뱃값 얼만가요”…한 관광버스 기사가 식당에 한 요구

▶ [단독] ‘퍼주기 논란’ 불거진 K원전...체코 원전 수주 절반의 성공?

▶ “저는 겁쟁이…두려웠다” 김수현 눈물의 기자회견

▶ “지옥문 열릴 가능성 크다”...대재앙 공포에 떠는 일본, 대지진 확률 살펴보니

[ⓒ 매일경제 amp; mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]