[S리포트] "진짜 같은 가짜"…딥페이크 대처하는 방법은 > 경제기사 | economics

딥페이크인공지능 기반 이미지 합성를 범죄에 악용하는 사례가 끊이지 않자 딥페이크에 대응하는 기술도 함께 발전하고 있다. 하지만 전문가들은 딥페이크 대응 기술은 생성형 인공지능AI의 발전 속도를 따라잡지 못한다며 관련법 개정이 함께 이뤄져야 한다고 주장한다.

딥페이크는 AI를 기반으로 만들어낸 가짜 콘텐츠를 뜻한다. 최근 국내에서 SNS사회관계망서비스를 중심으로 거짓 정보와 불법 합성물을 퍼트리는 디지털 범죄에 악용돼 사회적인 문제가 됐다.

SNS를 통한 딥페이크 범죄가 확산하면서 딥페이크 탐지 대응 기술에 대한 관심도 뜨겁다. 지난 30일 라온시큐어와 샌드랩 등 딥페이크 관련 대응 기술을 개발하는 정보보안 기업들 주가는 2거래일 동안 40% 이상 상승하기도 했다.


라온시큐어는 올 하반기에 기존 모바일 보안 시스템에 자체 개발한 딥페이크 감지 안면인식 기술과 AI가 생성한 콘텐츠 탐지 기술을 탑재할 예정이다. 샌즈랩은 딥페이크 영상과 이미지를 보다 정확하고 정밀하게 찾아내기 위한 기술 개발에 집중하고 있다. 이를 위해 심층 학습 기반의 알고리즘과 멀티모달 데이터 분석 기법을 개발하고 있다.

해외 기업들도 딥페이크 대응 기술 개발에 박차를 가한다. 대표적인 딥페이크 대응 기술은 영상 합성물을 탐지하고 가짜 영상을 추적·삭제하는 방식이다. AI 기술로 얼굴 변화를 감지하거나 음성과 입 모양의 부자연스러운 부분을 분석하는 것이다. 인텔은 2022년 가짜 동영상을 탐지하는 페이크 캐처 기술을 개발했다. 인공지능으로는 재현하기 힘든 얼굴의 혈류 변화로 영상의 진위를 가리는데 정확도는 96%에 달한다.

딥페이크를 가려내는 또 다른 기술로는 눈에 보이지 않는 워터마크를 콘텐츠에 삽입하는 것이 거론된다. AI가 생성한 콘텐츠라는 사실을 식별할 수 있는 방법이다. 구글 딥마인드도 지난해 8월 인공지능만 파악할 수 있는 흔적을 남겨 생성된 이미지를 식별하는 신스ID 기술을 공개했다.

전문가들은 딥페이크 규제 관련 법 제도의 보완도 함께 이루어져야 한다고 지적했다. 새로운 기술이 나오면 그 기술의 악용에 대응할 수 있는 기술을 마련하는 식으로 창과 방패의 싸움이 이어지고 있어 탐지 기술만으로 딥페이크를 완전히 없애는 건 어렵다.

김승주 고려대 정보보호대학원 교수는 "기술 개발을 통해 딥페이크를 막는다는 것은 굉장히 안일한 생각이다"라며 "딥페이크를 탐지하는 기술이 등장해도 이를 우회하는 기술이 금방 나오고 있다"고 말했다. "인텔의 경우도 실험실 환경에서의 정확도는 96%였지만 실제 환경에서는 그 정도의 정확도가 나오지 않았다"고 했다.

세계 주요국에서는 기술의 한계를 극복하기 위해 AI 규제에 초점을 둔 법제를 하나둘 내놓고 있다. 미국 캘리포니아주는 AI로 인해 피해가 발생할 경우 개발사에 책임을 지우는 규제 법안을 추진하고 있다. 유럽연합EU은 AI 위험 수준에 따른 차등 규제를 담은 AI 법을 세계 최초로 통과시켰다. AI 시스템을 쓰는 모든 사람에게 책임을 부과할 것을 명시하기도 했다. 일본은 지난 5월 AI 규제 방침 등을 밝혔다.

한국은 정부 주도로 21대 국회에서 AI 기본법이 발의됐지만 여·야 정쟁에 발이 묶여 제대로 된 논의도 없이 폐기됐다. 전문가들은 AI 생성물에 가상 정보 표시를 의무화하는 법안을 비롯해 딥페이크 방지를 위한 제도 보완과 예산 확보가 시급한 상황이라고 강조했다.

김명주 서울여대 정보보호학과 교수는 "AI 기술의 발전과 함께 부작용과 역기능도 심화하고 있다"며 "문제는 관련 제도나 규제는 함께 발전하지 않고 교육도 함께 이뤄지지 않는다는 것"이라고 했다. "14조2항에서 규정한 불법 합성물 처벌 기준은 유포할 목적이 있어야 하는데 피해의 심각성을 고려해 처벌을 강화할 필요가 있다"며 "교육부에서도 디지털 교과서를 내놓는 것에 앞서 디지털 윤리 교육을 우선시 해야 한다"고 덧붙였다.


김성아 기자 tjddk99@mt.co.kr

ⓒ 머니S amp; moneys.co.kr, 무단 전재 및 재배포 금지