진짜·가짜 경계 허무는 딥페이크…1분 짜리 음성 데이터로도 완성 > IT/과학기사 | it/science

일반인까지 노리는 딥페이크
IT 업계 탐지기술 개발 분주

# 서울에 사는 20대 직장인 A씨는 지난주 모르는 카카오톡 계정이 보낸 사진을 보고 화들짝 놀랐다. 인스타그램과 카카오톡에 올린 자신의 프로필을 여자 아이돌 노출 사진과 합성시켜 보내온 것. 처음에는 합성 사진만 보내다 사회관계망서비스SNS 지인에게 유포하겠다며 300달러를 송금하라는 협박까지 이어졌다.

# 대학생 B씨는 다른 곳보다 아르바이트 시급을 더 준다는 말에 전화 상담 업무를 시작했다. 그런데 알고 보니 자신의 목소리를 상담 고객 지인 목소리로 변조한 사기 행위였다. B씨는 졸지에 딥페이크 보이스피싱 가해자로 경찰 조사를 받을 처지다.

테일러 스위프트 딥페이크 영상 충격이 일반인까지 확산하고 있다. 인공지능AI을 활용한 이미지·음성 합성기술인 ‘딥페이크’가 갈수록 교묘해지면서 피해가 커지는 양상이다. IT 기업들은 딥페이크 피해를 막기 위해 표식이나 탐지 기술 개발에 들어갔다.

7일 방송통신심의위원회에 따르면 국내에서 딥페이크 성적 허위 영상물에 차단·삭제 시정을 요구한 사례는 지난해 1월부터 11월까지 5996건으로 집계됐다. 2022년 전체 사례인 3574건을 훌쩍 뛰어넘었다. 이보다 앞선 2020년엔 473건에 불과했지만 2021년 1913건으로 늘었다. 온라인 커뮤니티에선 딥페이크 피해를 호소하는 사례를 어렵지 않게 찾을 수 있다.

딥페이크는 생성형 AI 등장 이후 급격히 확산되고 있다. 일반인도 쉽게 딥페이크 음성이나 영상을 만들 수 있게 되면서다. 과거엔 AI에 방대한 데이터를 학습시켜야 딥페이크를 만들 수 있었지만 최근에는 그럴 필요가 없어졌다. 적은 양의 데이터로 AI를 훈련시키는 방법이 발달하면서 단 몇 장의 사진이나 1분짜리 음성 데이터로 진짜 같은 딥페이크를 찍어낼 수 있다. 질도 높아졌다. 기존에는 손 모양이 부자연스럽거나 얼굴 윤곽선이 뭉개지는 등 자세히 보면 식별할 수 있었지만 점점 판별하기 어려워졌다.

기술 발전으로 관련 시장도 커졌다. 사진을 단순 합성해주는 것부터 음성에 맞춰 입 모양까지 자연스럽게 바꿔주는 앱도 등장했다. 구글·애플 앱스토어에서 ‘딥페이크’를 검색하면 관련 앱이 수두룩하다. 전 세계에서 1억명 이상이 사용한 ‘리페이스’ 앱에 주당 6500원을 내면 워터마크 없는 딥페이크 이미지를 만들 수 있다. 특정 인물의 사진과 합성을 원하는 다른 사진, 영상을 올리면 얼굴을 덧입혀준다.

생성형 AI를 서비스하는 국내 기업들은 대응에 나섰다. 과학기술정보통신부는 AI 생성물에 대한 워터마크 표시가 의무화되기 전까지 업계에 자발적인 대응을 권고한 상황이다. 네이버와 카카오는 자사 생성형 AI가 딥페이크 양산에 활용되지 않도록 AI 콘텐츠 식별 기술 등을 연구하고 있다. 카카오는 카카오브레인의 이미지 생성 모델 ‘칼로’에 비가시성 워터마크 도입을 검토 중이다. 비가시성 워터마크는 픽셀점 단위의 미세한 흔적이라 눈에 띄지 않는다. 이를 지우거나 편집하기 어려워 딥페이크를 방지할 수 있는 기술로 꼽힌다. 네이버는 AI 생성물에 공인인증서처럼 암호화 알고리즘을 심는 등 다양한 기술을 연구 중이다. 하정우 네이버클라우드 AI이노베이션 센터장은 "AI 생성물에 워터마크 등 표식이 필요하다는 점에 업계가 공감하고 있다"며 "표식이 지워지거나 파괴되는 가능성도 고려해 기술을 준비 중"이라고 말했다.

딥페이크 탐지 기술도 진화하고 있다. AI 스타트업 딥브레인AI는 최근 AI를 활용한 탐지 솔루션을 내놨다. AI 모델에 원본 데이터와 딥페이크 데이터를 함께 학습시켜 둘을 구별하는 기술이다. 변조 데이터에는 음성 사이에 특정 노이즈가 있거나 특정 어미에서 높낮이가 다르다는 식으로 미세한 차이를 포착하는 것이다.

다만 점차 교묘해지는 딥페이크 기술을 모두 걸러내긴 쉽지 않은 현실이다. 딥페이크 이미지를 오염시켜 탐지가 어렵게 만드는가 하면 새로운 딥페이크 기술도 등장하고 있다. 이유현 딥브레인AI 딥러닝팀 연구원은 "딥페이크 수요가 더 많기 때문에 자본이나 기술이 더 몰리고 있다"며 "덧셈과 뺄셈을 배운 AI에게 곱셈 문제를 주면 이해하지 못하는 것처럼 새로운 딥페이크 기술을 탐지하긴 어렵다"고 설명했다.

최유리 기자 yrchoi@asiae.co.kr

[관련기사]
☞ "연기 그만두고 환경미화원 시작" 최강희 근황 공개
☞ 자기 못 알아보는 치매 옥경이에 태진아 "천천히 잊어줬으면"
☞ 아시안컵 충격 탈락후…日매체 "요르단 결승 가능성" 경고
☞ 혼전임신설 딛고…이승기·이다인 부부 득녀 소식 전해
☞ 유부남 근육의사와 불륜 파장에…결국 왕관 반납한 미스재팬

▶ 2024년 사주·운세·토정비결 확인!
▶ 방금 본 단어, 낯설었다면? 뉴스 속 용어 바로 알기

lt;ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제www.asiae.co.kr 무단전재 배포금지gt;