손석구인 줄 알았는데 아니었네?…진화하는 딥페이크 기술 > IT/과학기사 | it/science

넷플릭스 시리즈 살인자ㅇ난감 속 손석구 아역, 딥페이크로 생성
앱스토어에 딥페이크 앱 수두룩…순식간에 성별·목소리 바꿔, 범죄 악용
마땅한 오남용 기준 없어…정부, 정보주체 권리 가이드라인 검토



[서울=뉴시스]송혜리 기자 = 지난주 공개된 이후 넷플릭스 시리즈 1위를 달리고 있는 화제작 살인자ㅇ난감. 이 시리즈의 인상적인 장면 중 하나가 주인공 장남감손석구 분이 어린 시절을 떠올리는 회상 신이다. 현재의 장난감 얼굴과 어린시절 모습이 오버랩되는 장면인데, 이를 본 시청자들은 어디서 저렇게 손석구와 꼭 닮은 배우를 구했냐는 반응을 보였다.

실제 드라마에서 대역이 없었던 것은 아니지만, 손석구의 어린시절 얼굴 사진을 조합해 만들어 낸 딥페이크 영상으로 확인됐다. 이같은 사실이 알려진 뒤 소름끼친다 대반전이라며 놀라움을 표하는 이들이 적지 않다.

실제와 가짜의 구분이 없다…딥페이크 기술의 진화

딥페이크deepfake란 인공지능AI 기술인 딥러닝deep learning과 가짜를 의미하는 단어인 페이크fake의 합성어로, AI 기술을 이용해 사람의 이미지·영상·음성을 합성하는 기술이다.

딥페이크 기술은 실제 영상과 구분하기 어려울 정도로 정교해지고 있다. 예전에는 딥페이크 영상에서 얼굴 표정이나 동작이 부자연스러운 게 많았다면 요즘은 자세히 살펴봐야만 가짜라는 걸 아는 경우가 많다는 게 전문가들의 진단이다. 또 사람의 모습과 행동이 담긴 단 몇 분짜리 영상과 말한 문장 100여개만 있으면 딥페이크로 가짜 영상을 만들 수 있다.

딥페이크 서비스의 진입장벽도 확 낮아지고 있다. 스마트폰 앱 스토어에서 딥페이크라고 검색하면 수십여개의 관련 서비스 앱이 뜰 정도다. 누구나 쉽게 스마트폰에서 딥페이크 서비스를 이용할 수 있다. 이들 서비스는 얼굴 바꾸기·성별바꾸기 목소리전환 등의 기능도 제공한다.

문제는 육안으로 진위 여부를 판단하기 어려울 정도로 딥페이크 영상 기술이 발전하면서 이를 악용하는 범죄도 증가하고 있다.

최근 세계적인 팝스타 테일러 스위프트 얼굴에 음란물을 합성한 딥페이크 이미지가 사회관계망서비스SNS 엑스X, 구 트위터에서 확산돼 미국사회 뿐만 아니라 전 세계가 발칵 뒤집혔다.

지난해 11월 헐리우드 배우 스칼렛 요한슨은 자신의 사진과 목소리를 AI 기술로 변조, 이를 광고에 사용한 AI 앱 제작사에 법적 조치를 취했으며, 미국 유명배우 톰 행크스도 자신의 얼굴을 무단 도용한 AI 아바타가 치과 보험을 홍보하는 영상이 무단 유포되고 있다고 경고했다.

앞으로는 딥페이크 기술이 일반인들을 겨냥한 피싱 범죄에도 악용될 소지도 다분하다. AI가 개인정보를 광범위하게 수집한 결과로 만들어낸 피싱메일은 마치 잘 알고 지낸 사람이 보낸 인사메일로 둔갑할 수 있고, 짧은 인사말 한마디로 복제한 음성은 가족들을 속여 몸값을 받아내는데 활용될 것이란 게 보안 전문가들의 경고다.

딥페이크 오남용 기준·규범 정립 시급

가장 큰 문제는 딥페이크 기술의 오남용 여부를 판단할 기준조차 없다는 점. 곽진 아주대학교 교수는 "이것이 악의적인 콘텐츠인지, 그렇지 않은지 판단할 기준이 없는 상황"이라며 "그렇다고 여기서 여기까지는 악용 이런 식의 경직된 기준은 적합하지 않기 때문에 많은 고민이 필요한 상황"이라고 말했다. 이어 "이 때문에 플랫폼 기업들이 자체적인 규칙을 만들고 AI 콘텐츠 임을 표기를 하자는 것이 최근의 글로벌 대응 동향"이라고 말했다.

실제 인스타그램, 페이스북을 운영하는 메타와 구글, 틱톡 등 글로벌 빅테크들은 최근 진짜처럼 보이는 생성형 AI 콘텐츠에 별도의 라벨을 부착하겠다고 앞다퉈 발표했다.

정부도 올해 AI 프라이버시 유형·용례별 리스크 평가 모델을 마련키로 했다. 딥페이크 영상 등으로부터 초상권 등 정보주체의 권리를 보장할 수 있는 일종의 가이드라인을 제시한다는 방침이다.

☞공감언론 뉴시스 chewoo@newsis.com

▶ 네이버에서 뉴시스 구독하기
▶ K-Artprice, 유명 미술작품 가격 공개

<저작권자ⓒ 공감언론 뉴시스통신사. 무단전재-재배포 금지.>

◇ "동생 관리 잘해라"…이강인 누나 SNS 악플 난장판
◇ 이정, 이강인 루머에 분노…"헛소리 지껄이지 마"
◇ 송창식 "처형 불법 임신으로 낳은 2명 입양"
◇ 최동석과 갈등 박지윤, 아이들 데리고 해외로
◇ 진서연 "남편과 클럽서 맥주 마시다 임신 알아"
◇ 장윤정, 아들·딸 30만원대 선물에 "키울 맛 난다"
◇ 송지은 "박위, 하반신 마비로 개그 멋있다"
◇ "시험관 NO"…강재준·이은형, 7년만 자연임신 비결
◇ 홍준표 "공 잘 차도 싹수 없으면 정리해야"
◇ 경질 클린스만, 가장 먼저 한 일은 SNS서 韓축구 끊기

저작권자ⓒ>