[AI브리핑] AI 안전하게 개발·활용하려면?…정부 지침 나왔다 > IT/과학기사 | it/science

글로벌 시장 최대 화두는 단연 인공지능AI입니다. 매일 쏟아지는 AI 소식이나 주요 사건, 뒷얘기 등을 아이뉴스24가 전해드리겠습니다. 빠르게 진화하는 AI 기술과 주목받는 기업이 궁금하시다면 AI브리핑에서 확인해 보세요. [편집자]

[아이뉴스24 윤소진 기자] 정부가 인공지능AI 시대 프라이버시 보호를 위한 안전 가이드북을 내놓았다. AI 생애주기에 걸친 프라이버시 리스크 관리의 방향과 원칙, 리스크 유형, 경감방안을 담고 있다. 이를 통해 기업들은 각자의 맥락과 목적에 맞는 자율적 리스크 관리가 가능해질 전망이다.

22일 업계에 따르면 개인정보보호위원회개인정보위는 지난 19일 AI 프라이버시 민·관 정책협의회를 통해 안전한 AI·데이터 활용을 위한 AI 프라이버시 리스크 관리 모델을 발표했다.

이는 최근 AI 기술 발전에 따른 새로운 유형의 프라이버시 위험에 대응하기 위해 마련됐다. AI 시대의 데이터 처리방식은 개인정보 유·노출 등 전형적 프라이버시 리스크는 물론, 딥페이크로 인한 인격권 침해 등 새로운 리스크를 유발하고 있다. 이러한 리스크의 적정한 관리는 정보주체 보호와 지속가능한 AI 발전을 위해 필수적이라는 게 개인정보위의 판단이다.

AI 프라이버시 리스크 유형. [사진=개인정보위]

관리 모델의 핵심은 AI의 구체적 유형과 용례에 따른 맞춤형 리스크 관리에 있다. 먼저 AI의 유형과 용례를 파악하고, 이를 토대로 리스크를 식별한 뒤, 리스크 발생확률과 중대성, 우선순위, 수용가능성 등에 대한 정성적·정량적 측정을 수행한다. 이후 리스크 수준에 비례하는 안전조치를 마련하는 방식으로 진행된다.

특히 AI 생애주기를 기획·개발 단계와 서비스 제공 단계로 구분하고, 서비스 제공 단계는 다시 생성 AI와 판별 AI로 세분화해 구체적인 관리방안을 제시했다. 이는 개인정보 보호 중심 설계PbD 관점에서 리스크의 조기 발견과 완화를 위한 것이다.

리스크 경감을 위한 안전조치는 관리적·기술적 측면으로 구분된다. 관리적 안전조치로는 학습데이터 출처·이력 관리, 허용되는 이용방침 마련, AI 프라이버시 레드팀을 통한 침해유형 테스트, 정보주체 신고방안 마련 등이 포함된다. 기술적 안전조치로는 AI 학습데이터 전처리, AI 모델 미세조정, 입출력 필터링 적용, 차분 프라이버시 기법 적용 등이 제시됐다.

아울러 개인정보위는 한국어 언어모델의 특수성을 고려한 프라이버시 리스크 경감기술 효과 분석을 실시했다. 이를 통해 관련 연구가 부족한 상황에서 과학적 실증에 기반한 정책을 마련하고자 했다.

리스크 관리체계와 관련해서는 개인정보 보호책임자CPO의 역할이 강조됐다. AI 환경에서는 개인정보보호, AI 거버넌스, 사이버보안 등 다양한 디지털 거버넌스 요소가 상호연관되므로, 전문적 평가를 수행할 담당조직 구성과 체계적 리스크 관리 정책 마련이 권장된다.

개인정보위는 향후 AI 기술 발전과 법령 변화, 글로벌 동향 등을 반영해 관리 모델을 지속적으로 업데이트할 계획이다. 또한 소규모 조직과 스타트업, 특정 AI 개발 유형에 특화된 안내자료도 준비 중이다.

민·관 정책협의회 리스크 평가 분과장인 박상철 서울대 교수는 "전 세계적으로 빠르게 발전하는 AI 기술과 기존 개인정보보호 규제 간에 간극과 긴장이 발생하고 있다"며 "세계적인 AI 거버넌스의 흐름과 실증 연구 결과들에 부합하는 유연하고 체계적인 프라이버시 리스크 관리체계를 제시했다는 점에서 의미가 있다"고 평가했다.

고학수 개인정보위 위원장은 "AI 영역은 불확실성이 높기 때문에 일률적 규제보다는 합리적·비례적 관리를 통해 리스크를 총체적으로 최소화하는 것이 필요하다"며 "이번 모델이 AI 기업 등이 프라이버시 리스크를 이해하고 체계적으로 관리하는 데 도움이 되길 바란다"고 말했다.

/윤소진 기자sojin@inews24.com

[관련기사]

▶ [단독] 신반포2차 재건축 초비상…"조합 패소"

▶ 동급생에게 모래 먹여…자녀 학폭 성남시의원 "징계 과해" 행정심판 청구

▶ 나경원 "민주 지지자, 국회 포위해 당사 복귀"…野 "국민 탓하냐"

▶ 민주 "이재명 친형 감금 김웅 고발"…김웅, 무고 교사 맞불

▶ "尹 끄러내리게 해주세요"…산타에게 편지 쓴 초등학생

▶ 중국 창신메모리 제품으로 추측되는 DDR5 출시

▶ [종합] 檢, 국수본 압수수색…국수본부장 휴대폰 압수

▶ 오겜2 이정재·이병헌, 80년대 책받침 여신 만났다

▶ 검색 엔진 점유율 60% 넘긴 네이버…"구글과 격차 벌린다"[IT돋보기]

▶ 이선균 협박해 3억 뜯어낸 룸살롱 실장·전직 영화배우에 실형

/* iframe resize for nate news */ function${ setYoutube; function setYoutube { iftypeof frmTarget !=undefined{ frmTarget.findiframe, object.eachfunction idx { $this.css{height: parseInt$this.width / 1.8}; window.parent.postMessage{ method: fnct, name: callFnct, property: {target: youtube_resize_iframe, elementClass: .frameMV, height: parseInt$this.width / 1.8, idx: idx} }, *; }; } } }jQuery;