AI안전연구소장 "규제기관 아냐…AI기업 해외 진출 장애물 없게 할 것" > IT/과학기사 | it/science

김명주 인공지능AI안전연구소장은 "우리나라 AI 기업이 세계로 나아갈 때 장애물이 없도록 하겠다"며 "규제 기관이 아닌 협력 기관이 되겠다"고 밝혔다.

김 소장은 27일 경기도 판교 글로벌 Ramp;D센터에서 AI안전연구소 개소식 행사를 마친 뒤 기자들과 만나 "국제 공조를 통해 AI 안전과 관련된 표준을 논의하고, 우리 의견을 낼 수 있는 부분은 내겠다"며 이같이 말했다.

또한 그는 "AI 기본법이 국회를 통과할 것을 기대하고 있어서, 향후 유럽연합EU의 AI법과 호환성을 가졌으면 좋겠다"는 입장을 드러냈다.

김 소장은 최근 미국 샌프란시스코에서 열린 국제 AI안전연구소 네트워크 출범식에 참석해 글로벌 연대의 첫걸음을 뗐다. 이 네트워크는 미국, EU, 캐나다, 프랑스, 싱가포르, 일본 등 10개국으로 이뤄졌다.

김 소장에 따르면 네트워크 의장국은 미국으로 정해졌고, 부의장국은 내년 2월 프랑스 파리에서 열릴 AI 안전 정상회의에서 결정하기로 했다.

한국은 영국과 미국, 캐나다, 싱가포르, 일본 등 5개 국가와 업무협약MOU을 체결하기로 약속했고, 국가 간 기술·인력·정책교류를 활성화할 방침이다.

현재 AI가 직면한 위험성은 ▲기술적 한계오작동, 환각, 편향성 ▲통제력 상실 자율복제, AI 무기체계, 초지능 ▲인간의 오용유해 정보, 사이버 해킹, 딥페이크 등이 있다.

김 소장은 "국제적으론 딥페이크나 합성생성물의 위험성에 대해 논의했고, 워터마킹·레이블링 등 AI로 제작됐다는 사실을 증명하는 기술을 교류했다"면서 "우리나라도 딥페이크 대응을 위한 내년 예산을 잡아놓은 만큼 이에 대한 AI 안전 평가 수행이 이뤄질 것"이라고 말했다.

이날 AI안전연구소를 구심점으로 국내 산학연 24개 기업·기관이 참여하는 AI안전컨소시엄도 출범했다. 김 소장은 컨소시엄에 대해 "각 기업과 대학에서 본인들이 할 수 있는 게 무엇인지 제시했다"며 "안전 규제가 장애물이 되지 않도록 솔루션을 공유하게 될 것"이라고 설명했다.

다만 AI안전연구소가 ETRI 부설기관으로 설립된 만큼 한계점도 드러났다. 국제적 공조를 다지고 AI 안전성에 대한 촘촘한 지원을 하기엔 인력이 부족하다는 평가다. 현재 ETRI 인력 8명이 파견된 상태로 내년 1월까지 총 18명까지 충원한 뒤 30여명 규모로 운영될 예정이다.

영국의 경우 이미 작년에 AI안전연구소가 설립됐으며 인원은 총 130여명에 달한다. 이들의 연봉은 한화로 2억원에 달할 만큼 처우가 좋아 우수 인력을 확보하기 용이하다는 평가다.

김보경 기자 bkly477@asiae.co.kr

[관련기사]
☞ 정우성, 19금 발언 소환…"걔는 싱겁다는 말할 날 오지 않겠나"
☞ "공부 못하면 성매매女보다 못해"…메가스터디 회장 발언 일파만파
☞ "하나 가르치면 반밖에 못해…20대 알바 절대 쓰지 마"
☞ "비트코인 500원일 때 5000만원 투자한 남친"…현재는
☞ "임신 뉴스 보도되길"…정우성 계정 댓글, 악플인줄 알았더니

▶ 2025년 사주·운세·토정비결·궁합 확인!
▶ 킹달러 투자 고민된다면? 실시간 환율 바로보기

lt;ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제www.asiae.co.kr 무단전재 배포금지gt;