"통제력 상실·악용 막자"···AI 개발 속도전 속 네이버도 안전 체계 ...
페이지 정보
본문
연합뉴스 네이버가 국내 기업 최초로 인공지능AI의 통제력 상실과 악용을 방지하기 위한 체계를 마련했다. AI가 인류에 미칠 영향을 둘러싼 우려가 커지고 각국이 규제 논의에 속도를 내는 가운데 빅테크들이 앞다퉈 자구책을 내놓는 흐름의 연장선이다. 네이버는 17일 자체 기술 채널 ‘채널 테크’를 통해 AI 안전성 실천 체계인 ‘네이버 AI 안전 프레임워크ASF’를 발표했다. 네이버가 AI 시스템을 개발하고 배포하는 모든 과정에서 잠재적 위험을 인식·평가·관리하기 위한 대응체계다. 네이버 ASF는 AI 시스템이 초래할 수 있는 위험을 ‘통제력 상실 위험’과 ‘악용 위험’으로 정의했다. 인간이 AI 시스템에 손쓰지 못하게 되는 통제력 상실 위험은 ‘AI 위험 평가 스케일’을 통해 주기적으로 평가하고 관리한다. 현존 최고 성능의 AI 시스템을 ‘프런티어 AI’로 정의하고, 이 기술 수준에 해당하는 AI 시스템은 3개월마다 위험 평가를 한다. 시스템 능력이 기존보다 6배 이상 급격히 증가할 땐 추가 평가를 진행한다. 악용 가능성에는 ‘AI 위험 평가 매트릭스’를 적용한다. 이는 AI 시스템의 사용 목적과 안전조치 필요성 정도에 따라 각각 다른 방법으로 위험을 관리한다. 예를 들어 생화학 물질 개발처럼 특수한 목적으로 사용되는 AI 시스템은 특별한 자격이 있는 사용자에게만 제공해 위험을 완화한다. 안전조치 필요성이 높다면 추가적인 기술적·정책적 안전조치를 통해 위험이 완화될 때까진 배포하지 않는다. 하정우 네이버 퓨처AI센터장은 “네이버 ASF를 활용한 위험 평가 결과나 실천 경험을 외부에 공개하는 방안을 고민하고 있다”고 말했다. 아울러 네이버 ASF를 문화적 다양성을 반영한 AI 안전성 체계로 발전시킬 계획이다. 다른 국가의 정부나 기업과 해당 국가의 언어와 고유 데이터를 활용한 ‘소버린 AI’를 공동 개발하면서 특정 문화권에서 성립될 수 있는 AI 시스템의 위험을 식별하겠다는 것이다. 최수연 네이버 대표이사는 “네이버는 한국에서 소버린 AI ‘하이퍼클로바 X’를 개발한 경험을 통해 문화적·지정학적 상황과 지역적 이해가 AI의 성능뿐만 아니라 안전성에도 영향을 미친다는 점을 실증했다”고 말했다. 네이버와 삼성전자, 구글 딥마인드, 아마존, 메타, 마이크로소프트MS, 오픈AI, 앤트로픽 등은 지난달 AI 서울 정상회의에서 ‘프런티어 AI 안전 서약’에 동참했다. 최첨단 AI 모델의 위험을 측정하기 위한 안전 프레임워크를 게시하고, 임계 수준을 넘어서는 위험을 완화하지 못하면 모델을 개발하거나 배포하지 않기로 뜻을 모았다. 네이버에 앞서 메타, 오픈AI, MS, 구글 딥마인드 등 다수의 글로벌 기업들이 AI 안전 체계를 마련했다. 최근 오픈AI에서 벌어진 안전성 논란은 업계 내부에서도 AI 기술 발전이 가져올 미래를 장밋빛으로만 보지 않는다는 점을 보여준다. 오픈AI가 장기적인 AI의 위험을 연구하는 전담팀을 해체하자 주요 구성원들이 “안전은 뒷전”이라고 비판하며 회사를 떠났다. 일부 전·현직 직원들은 성명을 내고 인류 멸종을 포함한 AI 위험을 경고하며 “기업 내부 규제 시스템만으로는 이 문제를 해결할 수 없다”고 지적했다. 노도현 기자 hyunee@kyunghyang.com 노도현 기자 hyunee@kyunghyang.com 경향신문 주요뉴스 · 민주 “김건희 여사 성형 보도한 카자흐 언론…대통령 부부 무시” · 시추 승인 요청 없는데 승인한 대통령, 대통령 승인 했는데 검토 중인 산업부 [기자메모] · [단독]이승기 장인 주가조작 ‘유죄’···판결문 뜯어보니 견미리도 ‘연루’ · 고속도로 내달리다 에어컨 끈 채 구청까지 간 까닭…급속충전기 보급은 언제 늘까요 · 197년 만에 반환된 ‘신윤복 그림’ 감쪽같이 사라졌다 · 하천에 따릉이 27대 집어 던진 남성···경찰이 잡았는데 “난 아냐” · 저커버그 집에 홀로 찾아간 이재용…메타·아마존·퀄컴 CEO와 연쇄 회동 “AI 협력 확대” · 요즘 당신의 야식이 늦는 이유···배달 생태계가 파괴되고 있었다 · 부산 사직 뒤흔든 카리나 시구에 담긴 ‘프로야구와 연예인’의 상관관계 · ‘김 여사 명품백’ 폭로한 기자 “명품백 돌려달라” ▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제! ▶ ’5·18 성폭력 아카이브’ 16명의 증언을 모두 확인하세요 ⓒ경향신문www.khan.co.kr, 무단전재 및 재배포 금지 |
관련링크
- 이전글카카오픽코마, 웹툰 콘티 공모전 개최…수상작 글로벌 독자와 만난다 24.06.17
- 다음글구글이 키운 스타트업은 다르다…"5년 동안 1,476억 투자 유치" 24.06.17
댓글목록
등록된 댓글이 없습니다.