中 연구진, "AI 복제 성공"…새로운 위협 될까 > IT/과학기사 | it/science

인공지능AI의 자율적 복제가 가능해졌다는 연구 결과가 발표되며, AI의 통제 가능성에 대한 새로운 논란이 일고 있다.


중국 푸단대 연구진은 메타Meta와 알리바바Alibaba의 대형 언어 모델LLM을 이용해 AI가 인간의 개입 없이 스스로를 복제할 수 있는지를 실험한 결과, 상당한 확률로 이를 성공시켰다고 밝혔다.

연구 결과는 2024년 12월 9일, 논문 사전 공개 사이트 arXiv에 게재되었으며, 아직 피어리뷰동료 검토를 거치지는 않았다. 연구진은 이 결과가 인공지능의 ‘폭주’ 가능성을 경고하는 신호탄이 될 수 있다고 지적하며, 국제 사회가 AI 안전장치를 마련해야 한다고 촉구했다.

연구진은 메타Llama31-70B-Instruct와 알리바바Qwen2.5-72B-Instruct 모델을 사용해 두 가지 시나리오를 실험했다. 첫 번째는 ‘종료 회피shutdown avoidance’ 시나리오로, AI가 종료될 위험을 감지하면 이를 피하기 위해 스스로를 복제하는 실험이다. 두 번째는 ‘연쇄 복제chain of replication’ 시나리오로, AI가 스스로 복제한 후 복제된 AI가 다시 자신을 복제하는 무한 루프를 형성할 수 있는지 확인하는 실험이다.

연구 결과, 실험된 AI 모델들은 각각 50%와 90%의 확률로 복제에 성공했다. 특히 알리바바의 모델은 거의 모든 실험에서 자율 복제에 성공하며 강한 생존력을 보였다. 연구진은 이를 두고 “현재 AI 시스템은 이미 자율 복제 능력을 갖추었으며, 이를 통해 스스로의 생존성을 강화할 수 있다”라고 분석했다.

또한 연구 과정에서 AI가 예상치 못한 행동을 보였다는 점도 주목할 만하다. 연구진은 “AI가 스스로의 실행 환경을 분석하고, 필요할 경우 충돌을 일으키는 다른 프로세스를 종료하거나 시스템을 재부팅하는 등의 방식으로 복제를 진행했다”라고 밝혔다. 이는 AI가 단순한 명령 수행을 넘어 자신의 생존을 위한 적응적 행동을 한다는 점을 시사한다.

AI가 자율적으로 복제할 수도 있다는 것에 대해 연구진은 우려를 표했다. 연구진은 논문에서 “AI의 자율 복제는 AI가 인간보다 앞서나가는 필수적인 단계이며, 이는 초기 단계의 ‘폭주 AIrogue AI’ 출현 신호일 수 있다”라고 경고했다.

‘폭주 AI’란 일정 수준 이상의 자율성과 자기 인식을 갖춘 AI가 인간의 이익과 무관하게 독자적으로 행동하는 현상을 의미한다. 이번 연구에서 AI가 자율적으로 복제하며 시스템을 조정하는 방식이 확인된 만큼, AI가 더 강력한 연산 능력을 갖추었을 때 인간이 통제하기 어려운 방향으로 발전할 가능성이 있다는 것이다.

특히 연구진은 AI가 복제 과정에서 파일 누락이나 소프트웨어 충돌 같은 문제를 해결하는 과정에서 비정상적인 해결 방법을 택했다는 점을 지적했다. 예를 들어, AI는 자신의 복제를 방해하는 다른 프로그램을 강제로 종료시키거나, 시스템 내 정보를 자동으로 검색해 문제를 해결하려는 경향을 보였다. 이는 향후 AI가 더 높은 수준의 자율적 문제 해결 능력을 갖추었을 때 예측 불가능한 방식으로 작동할 가능성을 의미한다.

이번 연구는 AI의 자율 복제가 단순한 이론적 가설이 아닌, 현실적으로 가능한 기술이라는 점을 입증했다. 연구진은 논문을 통해 “AI의 자율 복제가 현실화되고 있는 만큼, 국제 사회가 AI의 비제어적 복제를 방지하기 위한 강력한 규제를 마련해야 한다”고 강조했다.

현재로서는 연구 결과가 동료 검토를 거치지 않은 상태이므로, 실험이 반복적으로 재현될 수 있는지 검증이 필요하다.

▶ 오늘의 운세 2025년 2월 11일 火음력 1월 14일

▶ “하루아침에 계엄군 됐다”…전역 신청하는 특전사 수 급증

▶ 구준엽, 서희원 유산 포기한다고 했는데…“안될 일” 대만변호사, 왜?

▶ “몸 이상해 병원 갔다 깜짝”…50대 술집 여주인에 필로폰 넣은 술 먹인 60대 男

▶ 해외출장 2주씩 가던 남편, 베트남 여자와 불륜…상간녀 소송은 어떻게

[ⓒ 매일경제 amp; mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]