네이버 1세대 초거대 AI 하이퍼클로바, 파라미터 수는 820억개 > IT/과학기사 | it/science

네이버의 1세대 거대언어모델LLM인 ‘하이퍼클로바’의 파라미터매개변수가 처음으로 공개됐다. 파라미터 수는 인간 두뇌의 시냅스에 해당하는 AI 모델의 논리 단위로, 파라미터 수가 클수록 AI 모델의 연산 능력이 강하다.


22일 미국 스탠퍼드대 기초모델연구센터CRFM의 ‘에코시스탬 그래프’에 따르면, 지난 2021년 5월 처음 선보인 네이버 ‘하이퍼클로바’의 파라미터 수는 820억개로 나타났다. 지난 2020년 6월에 나온 오픈AI의 ‘GPT-3’의 파라미터 수는 1750억개였다.

또한 등록된 정보에 따르면 하이퍼클로바 모델 훈련에 소요된 기간은 130.4일로 나타났다.

네이버는 2021년 처음 하이퍼클로바를 선보인 후 지난해 8월에 이를 고도화한 ‘하이퍼클로바 X’를 공개한 바 있다. 하이퍼클로바의 파라미터 수는 이번에 처음 공개됐지만, 하이퍼클로바X에 대한 정보는 아직 비공개다.



이번에 발표된 에코시스템 그래프는 스탠퍼드대 기초모델연구센터가 AI 기초 모델의 사회적 영향을 명확히 하고 투명성을 개선하며 기초 모델 생태계를 문서화하기 위해 발표하는 내용이다. 이번에 공개된 전체 모델 수는 359개, 기업 수는 63곳에 달한다.

다만 모든 AI 기초 모델에 대한 정보가 공개된 것은 아니다. 오픈AI의 GPT-3.5 터보, GPT-4, GPT-4o, 구글의 제미나이, 제미나이 1.5 플래시 등 주요 모델은 오픈AI와 구글이 모델 연산 공개를 거부하면서 정보가 등록되지 않은 것으로 파악된다. 앤스로픽의 주요 모델의 파라미터 수도 공개되지 않았다.

국내 기업의 경우 LG AI연구원이 지난해 7월 발표한 ‘엑사원 2.0’, SK텔레콤의 390억 파라미터 크기의 자체 언어모델 ‘에이닷엑스A.X’, KT가 지난해 1월 선보인 ‘믿음’의 70억개 파라미터 경량화 모델 등의 정보가 에코시스템 그래프에 등록됐다.

▶ 조각상과 왜 성행위를, 충격 휩싸인 피렌체…예술에 대한 존중 필요

▶ “우리나라 제발 그만 와, 썩 꺼져”…관광객에 물총 쏘며 반대 시위 나선 스페인

▶ 카드 배송지 물어보는 집배원은 ‘가짜’…우정본부 보이스피싱 경보

▶ “역겨운 광고다”…女모델 잘못 기용했다 ‘날벼락’ 아디다스, 무슨일이

▶ “월급 찔끔 올랐는데 소득세 4배 더 떼어가다니”…‘유리지갑’ 중산층의 절규

[ⓒ 매일경제 amp; mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]