증명사진 한장 10초 만에 딥페이크 영상 뚝딱…"너 아니니? "기자 엄... > IT/과학기사 | it/science

[서울=뉴시스]윤정민 기자 = #앱 마켓에 AI 얼굴 스왑이라고 입력하니 수많은 외산 앱이 있었다. 이 중 다운로드 회수가 5000만회 이상인 인기 앱을 다운로드했다. 앱 구입비도 따로 없다. 앱을 접속해 보니 수많은 영상 템플릿이 있었다. 초록색 스포츠 의류를 입은 한 남성이 손짓을 써가며 춤을 추는 영상에 내 사진을 넣어보기로 했다. 영상 제작도 무료였다. 최대 30초의 광고를 시청하면 됐다.

셀프 카메라 한 장만 찍고 나니 10초 만에 내 얼굴이 들어간 영상이 제작됐다. 누가 보면 내가 직접 숏폼 콘텐츠를 찍었을 거라고 오해할 정도로 자연스러운 느낌이 묻어났다. 해당 영상을 카카오톡으로 부모님에게 보냈더니 머리 스타일 아니었으면 헷갈렸을 것이라는 반응이다. 이런 반응에 흥미로운 느낌보다는 걱정이 더 앞섰다. SNS에도 쉽게 공유할 수 있는 만큼 누군가 내 얼굴로 합성물을 만들고 있을 것이라는 생각에 불안감이 휩싸였다.


최근 여성 얼굴에 음란물을 합성한 편집물을 유포하는 이른바 딥페이크 성범죄가 확산되면서 당국에 비상이 걸린 가운데 이처럼 비전문가들도 손쉽게 딥페이크 영상을 제작할 수 있는 서비스들이 적지 않은 것으로 나타났다.

사실 이들 서비스는 친구나 지인간 소통을 위한 재밋거리나 새로운 창작을 명분으로 개발됐지만, 초보자들도 마음만 먹으면 얼마든지 디지털성범죄음란물 조작나 피싱범죄사이버 사기에 악용 수 있다는 게 문제다. 인공지능AI 발전에 따른 문명의 이기지만 자칫 새로운 범죄 도구가 된다는 얘기다.

사진 한 장 첨부했을 뿐인데…감쪽같은 합성 영상 10초 만에 뚝딱

28일 정보기술IT 업계에 따르면, 구글플레이 등 스마트폰 앱스토어에서 딥페이크, AI 얼굴 합성, AI 페이스 스왑 등 관련 키워드를 검색하면 수십개의 관련 서비스 앱들이 뜰 정도로 유·무료 AI 영상 편집 프로그램들이 유통되고 있다. 누구나 쉽게 스마트폰에서 딥페이크 영상을 쉽게 제작할 수 있게 된 셈이다. 이들 서비스는 얼굴 바꾸기 성별 바꾸기, 목소리 전환 등의 기능까지 제공한다.

AI 기술이 빠르게 진화하면서 이제는 실제 영상과 가짜 영상을 구분하기 어려울 정도로 정교해졌다. 과거 딥페이크 영상에서는 표정이나 동작이 부자연스러운 게 많았다면 최근에는 전문가들도 자세히 봐야만 가짜 영상을 구분하는 사례가 많다는 게 전문가들의 진단이다.



기자가 직접 한 앱을 통해 딥페이크 영상을 제작해 봤다. 2020년 출시한 이 앱은 한 앱 마켓 기준 다운로드 수가 5000만회를 넘는 인기 딥페이크 영상 제작 앱 중 하나다. 이 앱은 광고 의무 시청 후 딥페이크 영상을 제작할 수 있는데 합성을 원하는 영상 템플릿에 기자 얼굴이 담긴 사진 한 장을 첨부했더니 약 10초 만에 영상이 완성됐다.

이 영상은 이용자 스마트폰에 저장해 인스타그램, 페이스북, 카카오톡 등에도 공유할 수 있다. 유료 가입 전환 시 AI가 만들었다는 표식워터마크도 지울 수 있다.

이 외에 전 세계 다운로드 회수가 1억회 이상인 딥페이크 영상 제작 앱도 있었다. 이 앱들을 살펴보면 회원가입, 이용약관 동의 등 서비스 이용에 대한 절차도 없이 영상을 제작할 수 있는 게 특징이었다. 특히 동의 없이 타인 사진을 도용해 영상을 제작하고 적발 시 이용에 제한이 있을 수 있다는 안내도 없다.

아예 특정 텔레그램 채널에 사진 한 장을 보내고 이용료를 결제하면 약 3초 만에 나체 사진으로 합성해 주는 프로그램 봇도 등장해 논란이 되고 있다. 또 다른 텔레그램 채널에는 친구 사진 한 장과 신상정보를 보내면 ○○고 □□□ 등이라는 내용과 함께 나체 사진 합성물이 유포되고 있다.

AI 딥페이크의 두 얼굴…문명의 이기 VS 범죄 도구

향후가 더 큰 문제다. AI 기술이 텍스트 데이터 기반에서 영상·음성 데이터까지 포괄적으로 처리하는 멀티모달 방식으로 진화하고 있다. 올해 2월 챗GPT 개발사인 오픈AI는 간단한 텍스트를 입력하는 것만으로 최대 1분 길이의 고화질 영상을 만들어내는 다른 차원의 생성형 AI 소라를 발표해 영상계의 주목을 받았다.

자칫 이 기술이 범죄자들에게 악용될 경우 심각한 상황이 될 수 있다. 가령, 그동안 딥페이크 기술은 특정인을 다른 영상물에 합성하는 수준에 불과했다면 이제는 특정 시나리오를 작성해 허위 영상을 창작할 수 있다는 얘기다.

디지털 성범죄도 문제지만 딥페이크 기술이 금전 문제와 직결되는 피싱범죄에도 악용될 소지가 크다. 가령, 마치 잘 알고 지낸 사람이 보낸 인사 메일로 둔갑할 수 있고 짧은 인사말 한마디로 복제한 음성은 가족들을 속여 몸값을 받아내는 데 활용될 것이란 게 보안 전문가들의 경고다.

맨눈으로 진위를 판단하기 어려울 정도로 딥페이크 영상 기술이 발전하면서 이를 악용하는 범죄도 빠르게 늘고 있지만 이를 통제할 방법이 마땅치 않은 게 현실이다. 김명주 서울여대 정보보호학과 교수는 "딥페이크가 콘텐츠 제작 등에서는 편리성을 제공하는 만큼 무조건적으로 나쁜 기술이라고 볼 수 없기 때문에 모든 딥페이크 사진·영상 제작 앱을 규제하는 건 불가능하다"고 말했다. 자칫 딥페이크 부작용에 따른 섣부른 규제가 빈대 잡겠다고 초가삼간을 태우는 우愚가 될 수 있다는 시각도 있다.

전문가들은 딥페이크 기술 혁신에 지장을 주지 않으면서도 부작용을 최소화할 제도적 장치가 필요하다는 데는 공감하고 있다. 청소년들이 딥페이크 기술과 위험성을 충분히 인지하고 이를 제대로 활용할 수 있는 미디어 리터러시문해력 교육이 절실하다. 또 딥페이크 개발사와 소셜미디어 및 콘텐츠 공유 플랫폼사들도 개발 단계부터 딥페이크 악용 가능성을 최소화하고 오남용된 딥페이크 영상을 판별, 차단할 수 있는 관리방안을 마련해야 한다는 지적이다.

전문가들은 무엇보다 소셜네트워크 등에 개인정보를 과도하게 저장하지 말아야 한다고 권고했다. 소셜네트워크 사이트에 올린 사진 및 음성 데이터가 많으면 많을수록 가짜 영상도 보다 정교해지기 때문이다.

☞공감언론 뉴시스 alpaca@newsis.com

▶ 네이버에서 뉴시스 구독하기
▶ K-Artprice, 유명 미술작품 가격 공개

<저작권자ⓒ 공감언론 뉴시스통신사. 무단전재-재배포 금지.>

◇ [단독]"우리 애 억울하다"…딥페이크 가해자 부모들 증거 지우기 나서
◇ 딥페이크? 호들갑 떤다…국제망신 된 무개념 유튜버
◇ "여성 동문 스트레스 풀이"…서울대 N번방 공범 20대 징역 5년종합
◇ 이재명 "딥페이크 성착취물 피해 심각… 당 특별위 구성" [뉴시스Pic]
◇ "딥페이크 범죄 공포 확산"…정보보안株 강세

◇ 뻑가 "딥페이크? 호들갑 떤다"…여성혐오 막말

◇ 할리우드인가?…함소원, 전남편 진화와 쿨한 데이트

◇ 최준희 "골반 괴사 3기에 인공관절…3일간 잠만 자"

◇ 강주은 "최민수 지인과 신혼생활…10억 들고 튀어"

◇ 법원 "서울대 N번방, 역겨운 내용으로 여성 도구화"

◇ 오윤아 "발달장애 아들 돌보느라 오랜 별거 후 이혼"

◇ 민희진 측 "대표직 스스로 물러난 것 아냐…해임, 위법"

◇ 박준형 "70평 아파트 대출 없이 사…아내 알고 접근"

◇ 엘베 타고 있는데 출발 아찔…공포 떤 주민들영상

◇ 줄리엔강·제이제이 부부 "사귀기 전에 볼뽀뽀 해"

◇ 이동욱, 6세 연하 비연예인과 결혼

◇ "신유빈과 셀카 北선수들, 징역 최대 10년…수용소 갈수도"

◇ 첫 전자발찌 부착 연예인 고영욱, 유튜브 폐쇄 불만

◇ 미스트롯 김소유 "父 병원비 1억…새엄마 사라져"

◇ 박경림 "아이 더 못 낳아, 조기양막파열"

저작권자ⓒ>