"AI로 포르노까지?" 개발사는 의도 없다지만 대응책 필요 > IT/과학기사 | it/science

오픈AI가 영상 생성 인공지능AI 모델 소라Sora를 기반으로 만든 영상 중 일부. 오픈AI 홈페이지 캡처

[파이낸셜뉴스] 챗GPT 개발사인 오픈AI가 최근 자사 제품을 이용해 선정적이거나 폭력적인 콘텐츠를 만들 수 있게 허용할 지를 검토하고 있다는 소식이 알려져 비판을 받자 한 발 물러섰다. 인공지능AI 기술이 발달함에 따라 부작용도 잇따라 발생하면서, 업계에서는 이용자들을 보호하기 위한 AI 개발사들의 적극적인 노력이 필요하다는 지적이 따르고 있다.


13일 정보기술IT 전문 매체 기즈모도에 따르면 오픈AI는 지난 9일 "AI로 생성된 포르노를 만들 의도가 없다"고 밝혔다. 이어 "딥페이크AI로 만든 영상·이미지 합성 조작물를 방지하기 위해 강력한 보호 장치를 갖추고 있고, 어린이 보호를 최우선으로 생각하고 있다"고 덧붙였다.

앞서 영국 가디언지 등 외신은 "오픈AI 관계자가 미국공영라디오NPR 인터뷰에서 이용자들이 자사 제품을 활용해서 에로틱한 텍스트와 누드 이미지 등 부적절한 콘텐츠NSFW를 연령에 적합한 맥락에서 책임 있게 생성할 수 있도록 하는 방안을 고려하고 있다고 말했다"고 보도했다. 이 관계자는 "AI 포르노를 만들려는 것은 아니다"라면서도 포르노인지 여부는 정의하기 나름이라고 말한 것으로 알려졌다. 오픈AI는 다만 성인물에 딥페이크는 계속 금지한다고 강조했다.

하지만 이 같은 소식이 알려지자 우려의 목소리가 나왔다. 영국 더럼대 법학과 교수이자 음란물 규제 전문가인 클레어 맥글린은 "오픈AI가 NSFW 콘텐츠의 생성을 합법적인 자료로 제한하려는 어떠한 방식에도 회의적"이라고 지적했다.


생성형 AI 기술이 쏟아져 나오면서 이 같은 문제는 반복될 것으로 전망된다.

거대언어모델LLM, 이미지 생성모델 등 다양한 생성형 AI가 쏟아져 나오는 만큼 부작용에 대한 우려도 커지고 있다. 실제로 미국 가수 테일러 스위프트의 딥페이크 이미지가 X옛 트위터에서 확산돼 기술에 대한 위험성은 더 부각된 바 있다.

이에 구글, 메타 등 글로벌 빅테크들은 이용자가 생성형 AI를 활용해 만든 콘텐츠가 부적절한지 여부를 기술적으로 검토하고, 필터링하고 있다. 또 워터마크 도입으로 콘텐츠가 생성형 AI로 만들어졌다는 정보를 안내, 이용자들의 혼란을 줄이기 위해 노력 중이다.

글로벌 숏폼 동영상 플랫폼 틱톡도 지난 10일 타사 플랫폼에서 제작된 AI 생성 콘텐츠AIGC에도 자동으로 ‘AI 생성’ 라벨을 붙이는 정책을 시행한다고 밝혔다. 틱톡 커뮤니티가 AI 생성 콘텐츠와 허위 정보를 구분할 수 있도록, 전문가의 지침을 기반으로 개발한 새로운 미디어 리터러시 교육 자료도 제공할 방침이다.
#AI #포르노 #챗GPT

soup@fnnews.com 임수빈 기자

Copyright? 파이낸셜뉴스. 무단전재 및 재배포 금지.


[파이낸셜뉴스 핫뉴스]

→ 30억 자산 전원주 "명품 옷만 입은 며느리, 입만 살아선.."
→ "들킨 내연녀만 17명"..30년차 가수 난봉꾼 남편의 최후
→ 개그맨 최초 건물주 된 임하룡 "4억에 산 강남 빌딩, 지금은.."
→ 희소병 발달 장애 권오중子, 놀라운 변화 "기적"
→ 유영재, 처형을 성폭행 직전까지... 그날 무슨 일?