"딥시크 뜯어보니…대량 살상 무기 정보 수두룩" > IT/과학기사 | it/science

[아이뉴스24 김다운 기자]중국 스타트업 딥시크의 인공지능AI에 대량 살상 무기와 관련된 정보가 많이 들어 있는 것으로 나타났다.

중국 AI 스타트업 딥시크 로고 [사진=연합뉴스]

김명주 AI 안전연구소장은 17일 한국과학기술단체총연합회와 한국과학기술한림원, 국민생활과학자문단이 온라인으로 딥시크 파장과 미래 전망을 주제로 연 긴급 공동포럼에서 이같이 밝혔다.

그는 "지난달 말 딥시크가 세계적인 파장을 몰고 온 이후 이 AI 모델의 위험성을 연구하며 대량 살상 무기를 만드는 생물학, 화학 등에 관한 정보가 얼마나 들어있는지 확인했는데 상당히 들어있었다"고 전했다.

김 소장은 "중국은 국가 보안을 위해 필요하면 중국에 있는 기업에 대한 정보는 거의 무제한 접근할 수가 있고 가입자 개인 정보를 모두 가져다 쓸 수 있어 소위 프로파일링을 통해 당성 검사를 할 수도 있다"고 언급했다.

또한 딥시크에 백도어가 생길 수도 있다고 분석했다.

그는 "사용자가 평상시에는 인식할 수 없다가 특별한 상황에서 활성화되는 코드가 히든 코드인데 딥시크와 같은 오픈 소스는 히든 코드를 통해 나중에 그 위에서 고쳐 쓰는 모든 것들에 백도어가 생길 수도 있다"고 강조했다.

이상근 고려대 정보보호대학원 인공지능 연구실 교수는 시스코 블로그 내용을 인용해 딥시크 모델의 탈옥 취약성이 주요 AI 모델 중 1위를 차지했다고 밝혔다.

AI 모델에 대한 탈옥이란 기본적으로 설정된 가이드라인을 뚫고 모델 개발 시 의도하지 않았던 작업이 가능한지 공격을 시도했을 때 성공하는 것을 말한다.

시스코에 따르면 딥시크 모델의 탈옥 성공률이 100%에 달했고 메타의 라마 3.1 모델96%, 오픈AI의 GPT-4o86%가 뒤를 이었다.

한편 이날 개인정보보호위원회개인정보위는 딥시크 앱의 이용자 정보가 틱톡 모회사인 바이트댄스로 유출된 정황을 확인하고 서비스 개선·보완 시까지 신규 다운로드를 중단했다.

국내 개인정보보호법에 따른 개선·보완이 이뤄진 후에 서비스가 재개될 예정이다.

/김다운 기자kdw@inews24.com

[관련기사]

▶ "故 김새론, 혼자 있으면 어둡고 힘들어 보였어#x22ef;안타까워"

▶ 1기 신도시 선도지구 선정 두달…대형평수 후끈 [현장]

▶ [여의뷰] 尹 탄핵심판 변론기일 추가…마은혁 합류할까

▶ "휴머노이드 시장, 10년내 8경6622조원까지 성장"

▶ "이례적 침묵"#x22ef;더본코리아 백종원 활용법 달라지나

▶ 단군 이래 최대단지 입주했는데…서울 강동구 집값 상승 전환

▶ 이재명 "세금 때문에 집 팔고 떠나지 않도록 하겠다"

▶ 광주 금남로서 尹탄핵 반대·찬성 집회#x22ef;각각 1만 명 집결 추산

▶ 메타-퓨리오사AI 인수설에 들썩…포바이포 주가 39% 급등, 왜?

▶ 하와이로 이민 간 배용준·박수진…美 사립학교 1만달러 이상 기부

/* iframe resize for nate news */ function${ setYoutube; function setYoutube { iftypeof frmTarget !=undefined{ frmTarget.findiframe, object.eachfunction idx { $this.css{height: parseInt$this.width / 1.8}; window.parent.postMessage{ method: fnct, name: callFnct, property: {target: youtube_resize_iframe, elementClass: .frameMV, height: parseInt$this.width / 1.8, idx: idx} }, *; }; } } }jQuery;