"AI 군사적 이용, 인간 통제와 개입 중요" > 정치기사 | politics

고위급회의 폐막

軍 활용 20개 조항 청사진 발표

선언적 성격 탓 실효성엔 한계

전쟁과 살상무기로 사용될 수 있는 인공지능AI을 어떻게 개발하고, 규제할지에 대한 청사진이 제시됐다.

지난 9일 서울 중구 롯데호텔에서 2024 인공지능AI의 책임있는 군사적 이용에 관한 고위급회의REAIM 고위급회의 본회의가 열리고 있다. REAIM 고위급 회의는 AI의 군사적 이용이 국제 평화와 안보에 미치는 영향에 대한 국제사회의 이해를 높이고, 관련 국제규범 형성에 기여하고자 출범한 1.5트랙반관반민 형식 국제 다자회의체다. 연합뉴스

10일 외교부에 따르면 9일부터 진행돼 온 ‘2024 인공지능의 책임 있는 군사적 이용에 관한 고위급회의REAIM’ 폐회식에서 ‘REAIM 행동을 위한 청사진’이 발표됐다. 회의 참가국들은 청사진을 통해 “핵무기 없는 세계라는 궁극적 목표를 저해하지 않는 가운데, 핵무기 사용에 관한 주권적 결정 관련 정보 제공 및 실행에 있어 필수적인 모든 행동에 대해 인간의 통제와 개입을 유지하는 것이 중요하다”고 밝혔다. 참가국들은 또 “국가 및 테러 집단을 포함한 비국가 행위자에 의해 대량살상무기 확산에 기여하는 방식으로 AI 기술이 활용되는 것을 방지할 필요성이 있다”고 강조했다.


청사진은 총 20개 조항으로 구성됐다. AI가 국제평화와 안보에 어떤 영향을 미치는지와 AI의 책임 있는 군사적 이용을 위해 지켜야 할 조치, 미래 거버넌스 구상안이 담겼다. 우선 군사 분야에서는 국제평화와 안보를 저해하지 않는 방식으로 AI가 개발·배치돼야 하며 AI 기술 발전으로 인해 무력충돌 시 민간인 및 민간물자를 보호하거나 평화구축 및 평화유지 활동에 도움이 될 수 있다고 명시됐다. 다만 AI를 적용했을 때 설계상 오류나 알고리즘 편향 등으로 인한 예측 불가능한 위험이 생길 수 있고 군비경쟁을 유발하거나 분쟁 발생 가능성을 높일 수 있음을 명시했다. 특히 각 국가가 지켜야 할 조치들로 군사 분야 AI는 유엔 헌장, 국제인도법, 국제인권법 등 국제법에 합치하는 방식으로 개발, 배치, 이용되어야 하며 책임 있는 적용을 보장하기 위한 국가 전략, 정책, 법률 마련의 중요성을 강조했다.

다만 청사진은 구속력이 있는 조항이 아닌 선언적 성격들로 법적 구속력이 있는 조약에 비해 한계가 명확하다. 이를 국제규범이나 조약으로 발전시키기 위해 향후 유엔총회와 같은 국제기구에서 추가 논의가 필요할 것으로 보인다.

구현모 기자



ⓒ 세상을 보는 눈, 세계일보