카나나 개인정보 우려 미리 막은 카카오…오픈AI에 저장 안 돼 > IT/과학기사 | it/science

[이데일리 김범준 기자] 카카오035720가 조만간 출시될 인공지능AI 모델 ‘카나나’에 대해 이용자 개인정보 유출 우려를 사전에 막기 위해 정부 당국과 협의해 여러 안전장치를 마련했다.

지난해 10월 경기 용인시 카카오AI캠퍼스에서 열린 카카오 개발자 컨퍼런스 ‘이프카카오 2024’에서 이상호 카나나엑스 성과리더가 카카오의 신규 인공지능AI 서비스 ‘카나나’를 발표하고 있다.사진=카카오

개인정보보호위원회는 13일 서울 종로구 정부서울청사에서 브리핑을 열고 전날 전체회의에서 카나나에 대한 ‘사전적정성 검토’ 결과를 심의 및 의결했다고 밝혔다.

사전적정성 검토제는 신청인이 AI 등 신기술 또는 새로운 서비스 기획·개발 단계에서 기존 법 해석 및 집행 선례만으로는 명확한 개인정보보호법 준수 방안을 찾기 어려운 경우, 개인정보위와 협력해 신청 대상 환경에 적합한 법 적용 방안을 마련하고 이를 신청인이 이행하면 사후에 불이익한 처분을 하지 않는 제도다.


전승재 개인정보위 조사3팀장은 이날 브리핑에서 “사업자가 사전적정성 검토를 받아놓고 새로운 기술 또는 서비스 출시가 안 되는 경우도 충분히 시장 상황에 따라서 불이익 처분이 있을 수 있다”며 “현재까지 그런 경우는 없었고 출시를 이미 했거나 아님 출시를 예정하고 있는 사례들”이라고 설명했다.

카나나는 대화의 맥락을 파악해 답변을 제시하는 ‘AI 메이트’ 서비스다. 여러 이용자가 참여하는 단체방 대화를 기반으로 이용자 질문에 답하는 ‘카나’, 이용자와 단둘이 주고받았던 대화를 기반으로 이용자 질문에 대답하는 ‘나나’로 구성돼 있다.

카카오는 새로 출시할 카나나 서비스가 개인정보보호법을 충실히 준수하며 프라이버시 친화적으로 설계·운영될 수 있도록 지난해 12월 10일 개인정보위에 사전적정성 검토를 신청했다.

우선 카카오는 안전장치가드레일 역할의 AI 모델을 탑재해 악의적인 이용자가 타인의 개인정보를 캐내기 위해 유도 질문을 하면 차단하거나, 언어모델이 생성하는 답변을 통해 타인의 전화번호와 이메일 등 식별성이 높은 정보가 노출되는 일이 없도록 자동 검수할 계획이라고 개인정보위에 설명했다.

카카오는 개인정보위와 사전적정성 검토 과정을 통해 추가적으로 △암호화 등 기술적 보안조치 강화 △외부모델 처리데이터 보호 강화 △내부 학습에 이용 시 별도 추가적 안전조치 운영 △내부 관리체계 강화 등 안전조치 방안을 마련하기로 했다.

카나·나나는 하나의 대화방에서 알게 된 참여자의 개인정보를 다른 대화방에서 타인에게 발설하지 않도록 기술적 안전장치를 강화하기로 했다. 대화방 내 데이터는 카카오 내 별도 데이터베이스DB에 보관하며, 외부 모델인 오픈AI 측에는 저장되지 않도록 했다.

또한 오픈AI는 데이터를 카카오가 맡긴 업무를 위해서만 활용하고 자사 사업 목적으로 쓰이지 않도록 해야 한다는 조건을 명시하는 한편, 챗GPT 모델 응답 후 오픈AI에 별도로 저장되지 않도록 기술적 제약도 두기로 하였다.

아울러 카카오가 이용자 대화 데이터를 자사 언어모델LLM 학습데이터로 활용하려면 카나나 이용자로부터 반드시 별도의 동의를 받도록 하고, 원하지 않을 경우 동의하지 않을 수 있도록 했다.

카나나 서비스의 지속적인 개인정보 보호수준 제고를 위해 카카오의 개인정보보호책임자CPO가 상시 리스크 관리체계를 구축·운영하며 중대한 리스크 관리 계획 및 실행 내역을 정기적으로 이사회에 보고하기로 했다.

개인정보위는 카나나 서비스가 공식 출시되면 해당 사항을 카카오가 실제 이행하고 있는지를 점검할 예정이다. 아울러 사전적정성 검토제를 더욱 활성화해 AI를 비롯한 신기술과 서비스의 법적 불확실성을 해소하고, 정보주체의 권익이 보호될 수 있도록 계속 노력해 나갈 계획이다.

전 팀장은 “안전장치들은 모두 출시 전에 구현이 된 상태로 출시가 돼야 하고, 위원회가 이행점검을 두 번 이상 할 예정”이라며 “출시 직전에 안전장치들이 확충됐는지 여부를 1차 이행점검을 통해 확인하고, 한동안 운영 후 이사회 보고와 피드백 체계 등이 잘 작동하고 있는지를 수개월 후에 2차 이행점검을 할 것”이라고 밝혔다.

▶ 관련기사 ◀
☞ 생활고로 쿠팡·편의점...전 국회의원 누군가 봤더니
☞ 김수현 인증샷으로 유명세 탔는데…홈플러스가 사라진다
☞ "5월 2일 임시공휴일이면 6일 쉰다" 누리꾼 갑론을박
☞ “상간녀에 10억 남긴 남편이 사망했습니다”
☞ 김수현 인증샷으로 유명세 탔는데…홈플러스가 사라진다

[바이오 성공 투자 1%를 위한 길라잡이 팜이데일리]
[새로워진 이데일리 연재 시리즈 취향대로 PICK하기]
[뉴땡 Shorts 아직 못봤어? 뉴스가 땡길 때, 1분 순삭!]
[10대의 뉴스는 다르다. 하이스쿨 커뮤니티 하이니티]
[다양한 미국 주식정보! 꿀 떨어지는 이유TV에서 확인!]
[빅데이터 AI트레이딩 솔루션 매직차트]

＜ⓒ종합 경제정보 미디어 이데일리 - 무단전재 amp; 재배포 금지＞

김범준 yolo@