내 증명사진 넣었는데 노출 사진으로 변환…소다·스노우앱 논란 > IT/과학기사 | it/science

인기 카메라 애플리케이션앱 ‘소다’와 ‘스노우’가 이용자 사진으로 부적절한 결과물을 내놔 논란이 되자 안전장치를 강화한 버전을 배포하기로 했다. 두 앱 모두 네이버 자회사 스노우가 운영하고 있다.



9일 경향신문 취재를 종합하면 소다 앱 유료 이용자 A씨는 최근 앱의 ‘인공지능AI 배경 확장’ 기능을 이용해 자신의 증명사진을 편집하다 황당한 일을 겪었다. AI 배경 확장은 AI 기술을 이용해 이미지를 테두리 너머로 확대하면 배경을 자연스럽게 채워주는 기능이다.



A씨는 어깨까지 나온 기존 증명사진에서 상반신을 좀 더 확장하기 위해 해당 기능을 썼다. 그런데 앱이 내놓은 결과물은 가슴 부분 일부를 드러낸 채 가슴을 양손으로 움켜쥐고 있는 듯한 이미지였다.



A씨는 “앱을 이용하다 성적 수치심을 받을 줄은 몰랐다”며 “더 이상의 피해가 발생하지 않도록 문제를 철저히 개선해야 한다”고 말했다.







스노우 앱 이용자 B씨도 비슷한 문제를 겪었다. B씨는 인물 사진에 다양한 머리 스타일을 합성해주는 유료 기능인 ‘AI 헤어샵’을 이용했다. 앱은 자신의 사진에 S컬펌·웨이브펌·스트레이트·단발 컷 등 헤어스타일을 합성해줬다. 다른 헤어스타일 이미지는 이상이 없었지만, 단발 컷 이미지 속 자신이 나체 상태로 표현됐다.



스노우 관계자는 “앱을 통해 선정적 이미지가 생성된 건 AI 이미지 변환 모델이 지닌 한계 때문”이라며 “사용자에게 전달되기 이전 AI 프롬프트 필터를 통해 불완전한 이미지를 제거하고 있지만 이번 사례에서 완벽하게 작동하지 않았다”고 말했다.



스노우 측은 이미 공개된 AI 이미지 변환 모델을 사용하고 있고, 사용자 데이터는 AI 학습이나 훈련에 추가로 이용되지 않는다고 전했다. 결과물은 이미지 제공자만 확인할 수 있다고 했다.



스노우 관계자는 “유사한 상황이 발생하지 않도록 필터를 더욱 강화하는 등 서비스 고도화를 위해 노력하겠다”며 “필터 강화 버전의 긴급 배포를 준비 중”이라고 말했다.



노도현 기자 hyunee@kyunghyang.com



노도현 기자 hyunee@kyunghyang.com

경향신문 주요뉴스

· 세계적 소프라노 게오르기우, 커튼콜 야유에 퇴장 해프닝
· 윤 대통령, 친한계 뺀 일부 최고위원 만찬···김종혁 “비공개인데 바로 보도 특이”
· [단독] 허웅 ‘전 연인 강간상해’ 피소, 경찰 불송치 결정
· 세금으로 만든 ‘김건희 키링’···산자부 “물품관리대장 원본 없음”
· [속보]이원석 총장 “대통령도 김여사 ‘부적절 처신’ 언급했지만... 형사처벌 대상은 아냐”
· ‘수심위 설계자’마저 “이럴 바엔 폐지하라”
· 오세훈 “복지부 차관, 거취 고민하는 게 사태 해결 도움 될 수도”
· ‘내 우산인 줄 착각’ 60대에 절도죄 인정한 검찰···헌재 “처분 취소”
· 김문수 “‘일제시대 선조 국적’은 학계에 맡길 문제”
· 이재명 ‘대권’ 마지막 퍼즐은 문재인?…평산마을서 ‘당 단합’ 메시지

▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제!
▶ 해병대원 순직 사건, 누가 뒤집었나? 결정적 순간들!

ⓒ경향신문www.khan.co.kr, 무단전재 및 재배포 금지