카카오, 자체 AI 카나나 오픈소스로 공개…"언어 습득도 마무리"
페이지 정보

본문
초거대 언어모델 카나나 플래그 개발 완료
당초 발표한 언어모델 라인업 구축
카나나 나노 모델은 오픈소스 공개
당초 발표한 언어모델 라인업 구축
카나나 나노 모델은 오픈소스 공개

카카오는 자체 개발 언어모델 카나나의 연구 성과를 담은 테크니컬 리포트를 논문 웹사이트인 아카이브ArXiv에 공개했다고 27일 밝혔다.
테크니컬 리포트는 매개변수와 학습 방법, 학습 데이터 등 세부 사항을 담아낸 인공지능AI 논문이다.
카카오는 이번 리포트에 다양한 사이즈에 이르는 카나나 언어모델 전체의 훈련 과정을 자세히 담았다. 카나나 모델의 구조, 학습 전략, 그리고 글로벌 벤치마크에서의 성과도 확인할 수 있다.
이와 함께 카카오는 언어모델 라인업 중 국내 AI 생태계 활성화를 위해 카나나 나노 2.1B 모델을 오픈소스로 소프트웨어 개발 플랫폼인 깃허브GitHub에 배포했다.
카카오의 초거대 언어모델 카나나 플래그Kanana Flag는 지난해 말 학습을 완료했다.

카나나 플래그Kanana Flag는 한국어 성능을 평가하는 LogicKor, KMMLU 벤치마크에서 타 모델보다 높은 처리 능력을 입증했다. 영어 성능을 평가하는 MT-bench, MMLU 벤치마크에서도 경쟁 모델과 유사한 성과를 기록했다.
대규모 언어모델의 학습 효율을 극대화하고자 큰 모델의 지식을 더 작은 지식의 모델로 전달하는 증류 기법 등 다양한 학습 기법을 적용했다는 게 카카오 측 설명이다.
카카오는 이번 오픈소스 공개를 통해 AI 기술의 접근성을 높이고자 하며, 연구자와 개발자들이 해당 모델을 토대로 다양한 응용을 시도할 수 있도록 모델의 업데이트를 지원할 계획이다.
카카오 김병학 카나나 성과리더는 "모델 최적화와 경량화 기술을 바탕으로 라마, 젬마 등 글로벌 AI 모델과 견줄 수 있는 고성능의 자체 언어모델 라인업을 효율적으로 확보하게 됐다"며, "앞으로도 효율과 성능 중심의 실용적이고 안전한 AI 모델을 개발해가며, 지속적 기술 혁신을 통해 AI 경쟁력을 강화해 갈 계획"이라고 말했다.
※CBS노컷뉴스는 여러분의 제보로 함께 세상을 바꿉니다. 각종 비리와 부당대우, 사건사고와 미담 등 모든 얘깃거리를 알려주세요.
CBS노컷뉴스 박성은 기자 castleis@cbs.co.kr
- 이메일 : jebo@cbs.co.kr
- 카카오톡 : @노컷뉴스
- 사이트 : https://url.kr/b71afn
▶ 기자와 카톡 채팅하기
- 혈육보다 낫다…독거노인 12년 돌본 이웃에 전재산 상속
- 혈육보다 낫다…독거노인 12년 돌본 이웃에 전재산 상속
- 한가인 악플→대치맘 조롱…이수지 회피가 키운 혐오[다시, 보기]
- 숙모카세 통했다…김숙 "도라이버가 넷플릭스 韓 1위를!"
- 하니, 연인 양재웅 논란 후 불명 무대로 방송 복귀
관련링크
- 이전글다쏘시스템, 애플 MR 헤드셋 비전프로용 3D 앱 연내 출시 25.02.27
- 다음글토스의 남다른 페이스…"카드·지갑 없는 미래 만들겠다" 25.02.27
댓글목록
등록된 댓글이 없습니다.