개보위 "오픈AI, 카카오 카나나 이용자 데이터 활용 못한다" > IT/과학기사 | it/science

카카오와 협업을 발표한 챗지피티Chat GPT 개발사 오픈에이아이AI가 올해 출시 예정인 카카오의 인공지능 친구 서비스 ‘카나나’ 이용자 데이터를 활용할 수 없게 됐다.

개인정보보호위원회는 13일 카나나 서비스 사전적정성 검토 결과, 카나나 이용자 대화 데이터를 오픈에이아이의 사업목적으로 쓰지 않도록 하는 조건을 카카오와 오픈에이아이 간 위수탁 계약에 명시하도록 심의·의결했다고 밝혔다. 개인정보위는 또 관련 데이터를 오픈에이아이 모델이 저장하지 않도록 기술적 제약도 두기로 했다.

카카오가 연내 출시를 준비 중인 카나나는 자체 모델과 오픈에이아이의 모델에 기반한 인공지능 대화 친구 ‘카나’와 ‘나나’가 이용자의 개인정보를 기억해 맞춤형 답변을 제공하는 서비스다. 카카오는 지난해 10월 개인정보위에 카나나 서비스의 개인정보보호법 준수를 위한 사전적정성 검토를 신청했다.

카나나는 다른 인공지능 챗봇 서비스와 달리, 과거 대화 내용을 인용해 대화방별 맞춤형 답변을 제공하는 것이 특징이다. 예를 들어, 인공지능 대화 친구 ‘카나’는 단체대화방에서 과거에 이야기했던 회비 금액과 총무의 계좌번호를 답변할 수 있다. 하지만 다른 대화방에서 개인정보를 타인에게 발설할 우려가 있는 만큼 개인정보위는 기술적 안전장치를 강화할 것으로 카카오에 제안했다.

특히, 개인정보위와 카카오는 이 과정에서 대화 데이터가 오픈에이아이 쪽에 저장되지 않도록 하고, 계좌번호·카드번호 등 식별성이 높은 개인정보를 오픈에이아이 모델이 처리할 경우엔 이를 알아볼 수 없도록 암호화 처리하기로 했다.

카카오 역시 이용자 대화를 자사 인공지능 모델의 학습 데이터로 활용하려면 카나나 이용자로부터 별도의 동의를 받아야 한다. 이를 동의하지 않은 이용자도 서비스 이용이 가능하다.

아울러 카카오 개인정보보호책임자CPO가 카나나 서비스의 상시 리스크 관리체계를 구축·운영하고, 리스크 관리계획 및 대응 내역을 이사회에 정기적으로 보고하도록 하는 내용도 개인정보위 의결 내용에 포함됐다.

전승재 개인정보위 조사3팀장은 이날 브리핑에서 “카나나 서비스의 안전장치들이 확충됐는지 여부를 출시 직전 첫번째 이행점검에서 확인할 예정이며, 수개월 뒤 이사회 보고체계와 피드백 체계 등이 잘 작동하고 있는지에 대해 2차 이행점검을 할 예정”이라고 설명했다.

선담은 기자 sun@hani.co.kr

lt;한겨레 인기기사gt;■

[속보] 헌재, 이창수 중앙지검장 탄핵 전원일치 기각


[속보] 헌재, 최재해 감사원장 탄핵 전원일치 기각

헌재 “야당의 탄핵남용 아니다”…윤석열 계엄 선포 근거 허물었다

윤석열 구속취소 재판서 다투겠다? “그런 제도 없어…검찰의 사기극”

‘모바일 주민증’ 14일부터 전국서 발급된다

즉시항고는 위헌이라 못 한다니…검찰이 헌재인가 [뉴스뷰리핑]

심우정, 오늘 지휘부 회의 소집…대법관 ‘즉시항고 권고’ 따를까

대법관 요구에도 검찰 ‘즉각항고 위헌’ 주장…검찰이 헌재인가

[단독] “이진숙, 정치 중립 의무 위반”…감사원, 로펌 의견서 받았다

“대선 출마 계획 있냐” 외신 질문에 최상목 웃으며 한 말은?



▶▶한겨레는 함께 민주주의를 지키겠습니다 [한겨레후원]

▶▶실시간 뉴스, ‘한겨레 텔레그램 뉴스봇’과 함께!

▶▶한겨레 뉴스레터 모아보기