AISI 연구소장 "기업이 AI 안전문제 해결토록 도울 것" > IT/과학기사 | it/science

[아이뉴스24 설재윤 기자] 최근 EU가 AI기본법을 제정하는 등 인공지능AI 규제 움직임이 확산하는 가운데, 인공지능안전연구소AISI가 국내 기업들이 AI 규제 장벽을 뛰어넘도록 돕겠다는 포부를 밝혔다.

김명주 인공지능안전연구소AISI 소장이 21일 오전 한국인공지능산업협회AIIA 조찬포럼에 참석해 AISI의 역할과 방향을 주자로 강연을 진행하고 있다. [사진=설재윤 기자]

김명주 AISI 소장은 21일 오전 한국인공지능산업협회AIIA 조찬포럼에 참석해 "AI 진입 장벽은 기업과 개개인이 다 넘어야 되는 부분"이라며 "AI안전연구소가 같이 노하우를 교류하면서 도와주는 역할을 맡을 것"이라고 밝혔다.

AISI는 AI안전성을 평가, 연구하고 주요국 AI안전연구소와 협력을 전담하는 조직으로 지난 11월 27일 공식 출범했다. 지난해 정부가 AI기본법을 제정했는데 AI와 관련해 발생할 수 있는 위험으로부터 국민의 생명·신체·재산 등을 보호하기 위한 전문기관으로 AISI의 운영 근거를 뒀다.

김 소장은 "구글이 챗GPT와 비슷한 AI를 개발한 직후 한동안 공개하지 않았던 이유는 잠재적 위험에 있었다"며 "잠재적 위험을 통제할 수 있는 방법까지 안 찾았는데, 기술이 됐다고 발표하는 것은 무책임한 기업이라는 것이 그들의 입장이었다"라며 AI의 위험성에 대해 설명했다.

이어 "샘 올트먼이 챗GPT가 엉켰던 사건을 해명하는 과정에서 오픈소스를 써서 시간 내에 통제하지 못했다는 이야기를 했다"며 "해커들이 오픈소스의 취약점을 연구해서 들어오기 시작했다. 해커들을 잡기 위해 현상금을 거는 버그카운팅을 시작했는데, 지금까지 이어져 오고 있다"며 AI의 보안 문제가 지속되고 있음을 언급했다.

그러면서 "통제할 수 없는 위험을 이유로 향후 10년간 AI가 기대하는 만큼 성장하지 못할 것이라는 말도 나왔다"며 작년 노벨경제학상을 수상한 아제모을루의 말을 인용해 설명했다.

아울러 "AI 문제는 사회적·정책적 성격도 띄고 있다. 연구소 소장 직책을 제안받을 #xfffd;#xfffd; △민주주의 위협 △윤리적 충돌 △환경 △안보 관련 분야의 문제를 해결해달라는 요구를 받았다"며 "요즘은 안보 문제가 심각한데, 화학을 전공한 사람이라면 챗GPT를 이용해서 폭발물을 만들 수 있다는 이야기도 나온다"고 지적했다.

정 소장은 "우리 연구소는 향후 △과학적 근거 기반 중심의 위험 정의 △안전 정책 마련, 제안 △국내기업과의 협력이라는 세 가지 방향으로 나아갈 것"이라며 "프론티어 AI의 기준을 명시하고, 제너럴 프로포즈 AI에 대한 가이드라인을 제시하는 등 전반적인 AI 컨트롤 타워 역할을 하겠다"고 밝혔다.

그는 "AI안전연구소의 목적은 AI 기업들이 꼭대기로 올라가도록 도와주는 것"이라며 "기업 자체가 AI의 위험성을 모르는 상태에서 끝까지 올라갔다가 곤란을 겪는 것보다 전문적인 그룹에게 도움을 받으면서 올라가는 것이 좋을 것"이라고 발표를 마무리했다.

한편, 이날 열린 포럼에는 엄태덕 모비젠 부사장도 참석해 생성형 AI시대의 빅데이터 플랫폼 및 산업별 응용을 주제로 발표를 진행했다.

/설재윤 기자jyseol@inews24.com

[관련기사]

▶ [종합]검찰총장 출신 尹 구속…공수처·법원 무시에 발목

▶ "명품백부터 골드바까지"...이통3사, 갤럭시S25 사전예약 전쟁 돌입

▶ 김범석 쿠팡 의장, 트럼프 2기 내각 만나#x22ef;韓 재계 최초

▶ 스타 강사 전한길 "대한민국 혼란, 선관위가 초래했다"

▶ "尹 집회 참석 안 했다"…MBC 아나운서 해명한 이유

▶ 경찰청장 대행 "권성동 서부지법 과잉 진압 지적, 사실과 달라"

▶ 갤S25 일반 모델 115만5000원…전작과 가격 동일할 듯

▶ 공수처, 오후 2시 尹 조사…"구속 납득 못하겠다면 사법 구제절차 따르면 돼"

▶ "편의점보다 싸고 마트보다 가깝잖아요"

▶ "박근혜 때부터 유명"…최준용과 尹 지지 시위 등장한 배우 노현희영상

/* iframe resize for nate news */ function${ setYoutube; function setYoutube { iftypeof frmTarget !=undefined{ frmTarget.findiframe, object.eachfunction idx { $this.css{height: parseInt$this.width / 1.8}; window.parent.postMessage{ method: fnct, name: callFnct, property: {target: youtube_resize_iframe, elementClass: .frameMV, height: parseInt$this.width / 1.8, idx: idx} }, *; }; } } }jQuery;