중국, 메타 라마로 군용 AI 개발…커지는 AI 악용 위협 > IT/과학기사 | it/science

━
AI 오남용 우려 확산
중국이 미국 빅테크 메타의 오픈소스 인공지능AI 모델을 활용해 군사용 AI 모델을 개발했다. 불특정 다수에게 제공되는 오픈소스 모델이 군사적 목적 등 통제 불가능한 방향으로 흐를 수 있다는 우려가 커지고 있다.

로이터는 중국 인민해방군PLA 핵심 연구기관인 군사과학원AMS 연구원 등이 메타의 오픈소스 AI 모델 ‘라마’Llama를 활용해 군사용 AI 모델 ‘챗비트ChatBIT’를 개발했다고 1일현지시간 밝혔다. 이들은 지난 6월 발표한 논문을 통해 “라마2 13B매개변수 130억 개를 활용해 군사 분야의 대화 및 질의응답에 최적화된 모델을 개발했다”고 밝혔다. 써니 청 제임스타운재단 부연구위원은 “중국 군 전문가들이 오픈소스 거대언어모델LLM을 군사적인 목적으로 연구·활용하려고 시도해왔다는 실질적 증거가 나온 것은 이번이 처음”이라고 말했다.


로이터에 따르면 논문 저자들은 10만 건의 군사 대화 기록을 학습 데이터로 활용했다. 향후 모델 업그레이드를 통해 정보 분석뿐 아니라 전략적 계획 수립 및 의사 결정 등에도 사용할 수 있게 할 계획이다. 다만 조엘 피노 메타 AI 연구 부사장은 로이터에 “수조 개의 토큰으로 훈련된 대부분의 모델과 비교하면 터무니없이 부족한 양”이라며 “실제로 기능할 수 있을지 의문이 든다”고 밝혔다.

소프트웨어의 원본인 소스코드를 자유롭게 사용·복제·배포·수정·활용할 수 있게 개방하는 게 오픈소스의 정신이었지만, 최근에는 이 ‘개방성’이란 특성 때문에 기술 오·남용 위협에 대한 우려가 커지는 상황이다. 반인륜적인 범죄 행위를 저지르는 조직이나 딥페이크·해킹 등의 범죄에 오픈소스 AI가 쓰이고 있다는 정황들이 나오면서다. 오픈AI나 구글 등은 소스코드를 외부에 공개하지 않고 모델을 끌어다 쓸 수 있는 API응용 프로그램 인터페이스만 유료로 제공하고 있다.

특히 미국은 자국 빅테크가 만든 AI 모델이 중국의 ‘AI 굴기’에 쓰이는 것을 우려하고 있다. IT 전문 매체 디인포메이션은 1일 “워싱턴에서 미국 기술이 중국의 군사 역량을 키우는 데 도움이 된다는 우려가 나오고 있다”고 보도했다.

메타는 PLA가 군사적 목적으로 라마를 사용하는 게 라이선스 조건에 위배된다는 입장이다. 메타는 군사와 전쟁, 핵 산업 또는 응용 분야, 간첩 활동 등에는 모델 사용을 금지한다는 원칙을 밝히고 있다. 몰리 몽고메리 메타 공공정책 책임자는 로이터에 “중국군이 우리 모델을 사용하는 건 허가받지 않은 일이며, 사용 정책에 위배된다”며 오용을 방지하기 위한 조처를 했다고 밝혔다. 다만 어떤 조처를 했는지는 밝히지 않았다.

권유진 기자 kwen.yujin@joongang.co.kr

이 시각 많이 본 뉴스

▶ 술 마시면 2년 빨리 죽는다…"이 영양제 꼭 먹어라"
▶ 속옷만 입고 활보한 20대女…히잡 의무 이란서 왜
▶ 모다모다 망한거 아냐?…그 염색샴푸 충격 근황
▶ "남편과 7년째 각방"…딤섬 여왕 정지선의 고백
▶ 고속버스서 거품 물고 기절…휴대전화 충전중 감전사
▶ "똥오줌 치우는 김반장"…생활고 김동성 충격 근황
▶ 태풍으로 지연됐는데…승객에 무릎 꿇은 승무원, 왜
▶ 병원서 "지금 시술하면 11"…의료 망치는 비급여
▶ 명태균 "尹과 아직 통화, 김여사 전화 3대" 녹취 공개
▶ 의대 빼곤 여기 몰렸다…취업난이 바꾼 최상위 학과

▶ 중앙일보 / 페이스북 친구추가
▶ 넌 뉴스를 찾아봐? 난 뉴스가 찾아와!

ⓒ중앙일보https://www.joongang.co.kr, 무단 전재 및 재배포 금지
권유진 kwen.yujin@joongang.co.kr