[S리포트] 짙어진 딥페이크의 그림자…"악용하는 사람이 문제" > 경제기사 | economics

생성형 인공지능AI 기술의 발달로 딥페이크인공지능 기반 이미지 합성 세상이 펼쳐지면서 파장이 커진다. 우리의 삶을 윤택하게만 만들 것으로 여겨졌던 AI의 부작용으로 딥페이크가 무분별하게 양산되면서 사회적 문제로 대두했다. 어두운 그림자가 더욱 짙어지기 전에 딥페이크 기술과 관련된 사회적 고민이 필요하다.

딥페이크란 AI 심층 학습을 뜻하는 딥러닝deep learning과 가짜fake를 합한 단어로 AI로 인공의 인간 이미지 합성물을 뜻한다. 딥페이크는 AI 기계학습머신러닝 기술 가운데 비지도 학습기계학습의 일종으로 데이터가 어떻게 구성됐는지 알아내는 문제의 범주을 통해 제작된다. 정답을 제시하지 않은 상태에서 컴퓨터가 스스로 학습하는 알고리즘 방식으로 데이터의 특성을 파악해 가상의 이미지를 만든다.

주의를 기울이면 가짜인 것을 알 수 있는 것도 있지만 AI 기술의 발달은 감쪽같이 속아 넘어갈 정교한 딥페이크 합성물 제작을 가능케 했다. 우리에게 유용하게 쓰이는 딥페이크 기술은 저화질의 영상을 고화질로 전환하는 업스케일링이 대표적이다. 돌아가신 부모님의 젊었을때 모습을 가상 현실에서 만날 볼 수 있게도 해준다.


하지만 SNS사회관계망서비스를 통해 확산되는 불법 음란 합성물로 인해 많은 피해자가 양산되고 있어 문제다. 미국에선 지난 1월 세계적인 팝스타 테일러 스위프트의 얼굴이 합성된 딥페이크 음란물이 유포돼 논란이 일기도 했다. 해당 콘텐츠 삭제 전까지 4700만회 이상 조회됐다. 국내에선 여성 연예인의 사진을 합성해 음란물로 만드는 것을 넘어 각각 다른 사람의 얼굴과 신체를 합성해 음란물을 만든 딥페이크 성범죄가 미성년자를 포함한 일반인을 대상으로 기승을 부린다.

딥페이크 기술이 갈수록 고도화돼 사건·사고 피해가 급증하고 있다. 경찰청 통계에 따르면 딥페이크 관련 범죄 발생 건수는 ▲2021년 156건에서 ▲2022년 160건 ▲2023년 180건 ▲2024년 1~7월 297건으로 크게 늘었다.

각종 딥페이크 프로그램이 오픈 소스온라인에 있는 무료 프로그램로 풀려 쉽게 접할 수 있고 사용이 간편해진 것이 원인으로 분석된다. 간단한 검색으로 딥페이크 제작 사이트 접근이 가능한데다 성인 인증을 하거나 이용료를 내지 않아도 딥페이크를 만들 수 있는 만큼 비전문가와 미성년자 등이 손쉽게 유혹을 받는다.

전문가들은 딥페이크 기술이 불법 합성물 유포 등 성범죄에 악용되는 경우뿐 아니라 가짜 뉴스로 악용돼 각종 정치적 선전과 국가적 여론전에 동원되는 경우도 잦다고 우려한다. 다양한 정보통신기술과 알고리즘을 통해 빠르게 살포되는 가짜 뉴스는 국가안보에 치명적이다.

지난 17일현지 시각 도널드 트럼프 전 대통령은 대선을 앞두고 AI로 만든 가짜 사진을 SNS에 올려 빈축을 샀다. 여론몰이를 위해 카멀라 해리스 부통령이 시카고에서 열린 공산당 행사에서 연설하는 가짜 사진을 게재한 것이다.

러시아-우크라이나, 이스라엘-하마스 등에선 딥페이크가 여론전에 사용된다. 하마스는 어린아이들이 죽은 가족 앞에서 울고 있는 이미지를, 이스라엘은 가자지구 주민들이 이스라엘 국기를 들고 환호하는 영상 등을 가짜로 만들어 대중을 선동했다.

김승주 고려대 정보보호대학원 교수는 "결국 사람을 해치는 것은 딥페이크가 아니라 딥페이크를 악용하는 사람이다"라며 "기술로 딥페이크의 부작용을 막아낸다는 것은 불가능한 얘기"라고 했다. "관련 인식 교육을 철저히 해 변화시키고 좋은 AI와 나쁜AI를 함께 연구해야 한다"고 덧붙였다.


김성아 기자 tjddk99@mt.co.kr

ⓒ 머니S amp; moneys.co.kr, 무단 전재 및 재배포 금지