네이버 "딥페이크 기술 악용한 성폭력 범죄 신고해주세요" > IT/과학기사 | it/science

[아이뉴스24 정유림 기자] 네이버는 최근 사회적으로 문제가 되고 있는 딥페이크인공지능 기반 이미지 합성 기술 사태와 관련해 신고 채널 공지와 접수 등 대응에 나섰다. 방송통신심의위원회가 네이버, 카카오 등 국내 기업에 신고 배너 설치 등 협조를 요청하면서 대응에 나선 것이다.

네이버 제2사옥 1784 [사진=네이버]

28일 네이버는 고객센터 공지사항을 통해 "만약 딥페이크 기술을 사용해 성폭력처벌법 등 관련 법령을 위반하거나 제3자의 권리를 침해하는 이미지나 영상을 발견했다면 아래의 신고 채널을 통해 접수하길 바란다"고 설명했다.

네이버는 "딥페이크 기술을 악용한 범죄 행위는 심각한 법적 처벌을 받을 수 있다"며 "타인의 콘텐츠를 단순히 게시하거나 유통하더라도 해당 콘텐츠가 딥페이크나 생성형 인공지능AI 등을 이용한 경우 문제가 될 수 있기 때문에 각별한 주의가 필요하다"고 강조했다.

최근 여성의 얼굴에 음란물을 합성한 딥페이크 영상물이 메신저 텔레그램 단체 대화방 등을 통해 대거 유포되면서 논란이 일고 있다. 네이버는 고객센터를 비롯해 게시물 신고센터, 그린UGC 공식 블로그 등을 통해서도 딥페이크 유포에 대한 주의와 신고를 당부했다.

이외에도 기존에 네이버의 여러 서비스들에서 불법·유해 콘텐츠 유통과 확산을 방지하기 위한 조치가 취해지고 있다. 3D 아바타 기반 사회관계망SNS 서비스 제페토가 대표적이다. 제페토를 운영하는 네이버제트는 인공지능AI 기술을 활용해 올해 상반기 사용 제한 조치를 취한 제페토 계정의 약 40%를 AI 필터를 활용해 선제적으로 처리했다고 밝혔다.

네이버제트는 앞서 올해 1월 이미지와 동영상 유해 콘텐츠 판별 AI 엔진을 서비스에 적용했다. 해당 AI 엔진은 성인물·아동성착취물과 폭력·혐오·반사회적 이슈 등의 콘텐츠를 실시간으로 판별해 정도에 따라 즉시 처벌제거·게시자 이용 제한하거나 내부 모니터링 전문 인원에 전달해 처리할 수 있도록 하고 있다. 올 하반기에는 해당 엔진의 모니터링 대상을 텍스트글까지 확대할 예정이라고 회사 측은 덧붙였다.

/정유림 기자2yclever@inews24.com

[관련기사]

▶ 레깅스 여신 전종서, 몸매가 후덜덜…초밀착 원피스로 뽐내는 남다른 S라인 [엔터포커싱]

▶ 與 "민주, 국군의날·조선총독부 설립일 겹친다고…SF 수준 망상"

▶ "시아버지 밥 차려달라는 시어머니…남편이 화내는 게 맞나요?"[결혼과 이혼]

▶ "고영욱, 평생 유튜브 못할 것"…유튜브가 밝힌 고영욱 채널 폐쇄 이유

▶ 육아휴직 급여, 150만→250만원…동료에게도 20만원씩 준다

▶ 딥페이크 논란에 결국…피해학교 온라인 지도 제작됐다

▶ 인도 여행 중 납치된 韓 유튜버…"차 태워준다더니 강제로 약 먹여"

▶ "텔레그램 딥페이크, 초등생·교사까지 포함됐다"…전교조, 실태조사해 29일 발표

▶ "예비 신랑과 살고 있는 홀어머니, 집 따로 구해드린다니 울고불고" 예비 신부의 고민

▶ 부산 돌려차기남 신상 공개한 유튜버 카라큘라, 벌금 50만원 약식명령

/* iframe resize for nate news */ function${ setYoutube; function setYoutube { iftypeof frmTarget !=undefined{ frmTarget.findiframe, object.eachfunction idx { $this.css{height: parseInt$this.width / 1.8}; window.parent.postMessage{ method: fnct, name: callFnct, property: {target: youtube_resize_iframe, elementClass: .frameMV, height: parseInt$this.width / 1.8, idx: idx} }, *; }; } } }jQuery;