증명사진 올리니 노출사진으로 변환…소다 스노우 앱의 AI 기술... > IT/과학기사 | it/science

인기 카메라 애플리케이션앱 ‘소다’와 ‘스노우’가 이용자 사진으로 부적절한 결과물을 내놔 논란이 되자 안전장치를 강화한 버전을 배포하기로 했다. 두 앱 모두 네이버 자회사 스노우가 운영하고 있다.

9일 경향신문 취재를 종합하면 소다 앱 유료 이용자 A씨는 최근 앱의 ‘인공지능AI 배경 확장’ 기능을 이용해 자신의 증명사진을 편집하다 황당한 일을 겪었다. AI 배경 확장은 AI 기술을 이용해 이미지를 테두리 너머로 확대하면 배경을 자연스럽게 채워주는 기능이다.




A씨는 어깨까지 나온 기존 증명사진에서 상반신을 좀 더 확장하기 위해 해당 기능을 썼다. 그런데 앱이 내놓은 결과물은 가슴 부분 일부를 드러낸 채 가슴을 양손으로 움켜쥐고 있는 듯한 이미지였다.

A씨는 “앱을 이용하다 성적 수치심을 받을 줄은 몰랐다”며 “더 이상의 피해가 발생하지 않도록 문제를 철저히 개선해야 한다”고 말했다.

스노우 앱 이용자 B씨도 비슷한 문제를 겪었다. B씨는 인물 사진에 다양한 머리 스타일을 합성해주는 유료 기능인 ‘AI 헤어샵’을 이용했다. 앱은 자신의 사진에 S컬펌·웨이브펌·스트레이트·단발 컷 등 헤어스타일을 합성해줬다. 다른 헤어스타일 이미지는 이상이 없었지만, 단발 컷 이미지 속 자신이 나체 상태로 표현됐다.



스노우 관계자는 “앱을 통해 선정적 이미지가 생성된 건 AI 이미지 변환 모델이 지닌 한계 때문”이라며 “사용자에게 전달되기 이전 AI 프롬프트 필터를 통해 불완전한 이미지를 제거하고 있지만 이번 사례에서 완벽하게 작동하지 않았다”고 말했다.

스노우 측은 이미 공개된 AI 이미지 변환 모델을 사용하고 있고, 사용자 데이터는 AI 학습이나 훈련에 추가로 이용되지 않는다고 전했다. 결과물은 이미지 제공자만 확인할 수 있다고 했다.

스노우 관계자는 “유사한 상황이 발생하지 않도록 필터를 더욱 강화하는 등 서비스 고도화를 위해 노력하겠다”며 “필터 강화 버전의 긴급 배포를 준비 중”이라고 말했다.

▼ 노도현 기자 hyunee@khan.kr

플랫팀 기자 flat@kyunghyang.com

플랫팀 기자 flat@kyunghyang.com

경향신문 주요뉴스

· 권성동 “문다혜는 몰염치한 캥거루, 이 사건은 캥거루 게이트”
· 윤 대통령, 친한계 뺀 일부 최고위원 만찬···김종혁 “비공개인데 바로 보도 특이”
· [단독] 허웅 ‘전 연인 강간상해’ 피소, 경찰 불송치 결정
· 박지원 “디올백도 최 목사가 안줬으면 대통령이 사줬을테니 대통령 뇌물죄인가”
· 세금으로 만든 ‘김건희 키링’···산자부 “물품관리대장 원본 없음”
· [속보]이원석 총장 “대통령도 김여사 ‘부적절 처신’ 언급했지만... 형사처벌 대상은 아냐”
· 전문가용 카메라 27대로 성매매 영상 2000개 찍은 ‘검은 부엉이’ 구속
· 오세훈 “복지부 차관, 거취 고민하는 게 사태 해결 도움 될 수도”
· 김문수 “‘일제시대 선조 국적’은 학계에 맡길 문제”
· [영상]앞에 가던 덤프 트럭이 강물로 풍덩…슈퍼태풍 ‘야기’ 휩쓴 베트남 다리 붕괴 순간

▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제!
▶ 해병대원 순직 사건, 누가 뒤집었나? 결정적 순간들!

ⓒ경향신문www.khan.co.kr, 무단전재 및 재배포 금지