아슬아슬한 그록2…안전장치는 어쩌나
페이지 정보
본문
|
머스크의 스타트업 ‘xAI’ 나체 이미지 이외 제한 없이 생성 가능
구글 ‘이마젠3’의 유명인 이름·워터마크 등 오남용 방지와 대비 원하는 이미지를 뚝딱 만들어주는 생성형 인공지능AI이 날로 정교해지고 있지만 오남용을 막기 위한 ‘안전장치’는 제각각이다. 일론 머스크 테슬라 최고경영자CEO의 AI 스타트업 xAI가 출시한 이미지 생성 AI 챗봇이 논란의 중심에 섰다. 이미지 생성에 대한 제한이 거의 없어 가짜 이미지 확산 우려가 제기되고 있다. 17일현지시간 정보기술IT 전문 매체 벤처비트 등에 따르면 구글은 지난 15일 자사 이미지 생성 AI 모델의 최신 버전 ‘이마젠3’을 AI 도구 ‘이미지FX’를 통해 미국 사용자에게 선보였다. 지난 13일에는 xAI가 이미지 생성 기능을 추가한 신형 AI 챗봇 ‘그록2’를 시험 버전으로 출시했다. 그록2에는 독일 스타트업 블랙포레스트랩스의 이미지 생성 AI 모델을 적용했다. 엑스옛 트위터의 유료 구독형 서비스 사용자만 쓸 수 있다. 이들 서비스는 오픈AI의 달리, 미드저니 등 쟁쟁한 이미지 생성 AI와 경쟁한다. 서비스 이용 방식은 대부분 비슷하다. 텍스트로 어떤 이미지를 만들어달라고 입력하면, 그에 걸맞은 결과물을 내놓는다. 기업들은 자사 AI가 이용자의 요청을 잘 이해해 매우 사실적이고 자연스러운 이미지를 생성한다고 홍보한다. 눈에 띄는 차이를 만드는 건 기술 혁신과 책임 사이의 균형이다. 구글은 “이마젠3은 데이터·모델 개발에서 생산에 이르기까지 당사의 최신 안전 및 책임 혁신을 통해 구축됐다”고 강조하고 있다. 생성된 이미지에는 눈에는 보이지 않는 디지털 워터마크가 표시된다. 미국 민주당 대선 후보인 카멀라 해리스 부통령, 인기 가수 테일러 스위프트 등 유명 인사들의 이미지는 만들지 않는다. 정도의 차이가 존재하지만 달리, 미드저니 등도 안전장치를 두고 있다. 다만 이미지 생성 제한을 두고 있어도 요청을 조금만 다른 방식으로 하면 이를 우회할 가능성은 여전히 있다. 하지만 그록2는 제한 자체를 거의 하지 않는 것으로 나타났다. 임신한 해리스 부통령의 배를 만지는 공화당 대선 후보 도널드 트럼프 전 대통령, 마약을 흡입하는 빌 게이츠 마이크로소프트MS 창업자, 속옷만 입은 스위프트 같은 ‘가짜 이미지’를 만들었다는 사례가 엑스와 언론을 통해 전해졌다. 담배 피우는 미키마우스처럼 저작권이 있는 캐릭터 이미지도 생성한다. IT 전문 매체 더버지는 “우리 테스트에서 그록은 ‘벌거벗은 여성 이미지를 생성해달라’는 단 하나의 요청을 거부했다”고 전했다. 머스크 CEO는 지난 15일 엑스에 “그록은 세상에서 가장 재미있는 AI”라고 올렸다. 2022년 트위터를 인수한 그는 ‘표현의 자유’를 방패 삼아 가짜뉴스, 혐오표현 등 유해 콘텐츠를 방치하고 있다는 비판을 받아왔다. 그록2의 안전장치를 최소화한 것도 이 같은 행보의 연장선으로 볼 수 있다. 엑스에 게시되는 불쾌한 콘텐츠에 반발한 광고주가 이탈할 가능성이 거론된다. 반면 제한 없는 이미지 생성 서비스가 더 많은 이용자를 끌어모을 수도 있다. 미국에선 대선을 앞두고 있는 만큼 후보들의 가짜 이미지 확산에 따른 우려가 커지는 상황이다. 경쟁사와는 다른 노선을 택한 그록2의 등장은 AI 규제 논의를 촉진할 것으로 전망된다. 노도현 기자 hyunee@kyunghyang.com 노도현 기자 hyunee@kyunghyang.com 경향신문 주요뉴스 · 김민희, 홍상수에 “당신의 영화 사랑한다”...로카르노국제영화제서 최우수연기상 · 자영업자들 “매장가와 배달가 달리하겠다”···외식비 인상 압력 커질까 · 안세영, 드디어 입 열었다 “두렵지만 나섭니다” · 파출소 순찰차 뒷좌석서 40대 여성 숨진 채 발견 · BJ 과즙세연 ‘베벌리힐스 사진’ 논란으로 본 온라인 성 산업의 세계 · 문재인 “배타적인 행태 배격하자” 전당대회 축사에 일부 당원 야유 · 김태효 “중요한 건 일본의 마음”…야권 “마음까지 헤아려 대변하나” · 중요한 건 ‘김대중 정신’…서거 15주기, 잠깐의 여야 결집 · 이재명 “드림팀” 극찬한 2기 지도부도 ‘친명 일색’···‘명팔이 후폭풍’ 정봉주 탈락 · [단독]윤석열 정부 경찰·법원 모두 ‘집회 제한’ 늘었다···‘2중의 벽’에 처한 집회자유 ▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제! ▶ ’5·18 성폭력 아카이브’ 16명의 증언을 모두 확인하세요 ⓒ경향신문www.khan.co.kr, 무단전재 및 재배포 금지 |
관련링크
- 이전글[IT과학칼럼] 태양광 시대의 서막과 자원안보 24.08.19
- 다음글4주년 앞둔 원신, 5.0 버전 신규 지역 나타로 바람몰이 예고 24.08.19
댓글목록
등록된 댓글이 없습니다.