업스테이지-NIA, 한국어 리더보드 시즌2 시작 > IT/과학기사 | it/science

[파이낸셜뉴스] 업스테이지가 한국지능정보사회진흥원NIA와 공동 운영하는 ‘Open Ko-LLM 리더보드’가 새로운 벤치마크를 적용한 시즌 2로 전면 개편된다고 12일 밝혔다.

‘Open Ko-LLM 리더보드’는 2023년 9월 민관협력을 통해 개설된 국내 최대 개방형 한국어 거대언어모델LLM 평가 체계로, 산·학·연 각계 분야에서 7월 말 기준 1700개가 넘는 LLM 모델이 제출되어 있다.

최근 LLM 기술이 빠르게 발전함에 따라 1년 전에 만들어진 리더보드 벤치마크의 개선 필요성이 커지면서 업스테이지와 NIA는 기존 벤치마크를 전면 폐지하고 새로운 성능 평가 지표를 적용한 Open Ko-LLM 리더보드 시즌 2 운영을 시작한다.


새롭게 추가된 벤치마크는 △Ko-GPQA대학원 수준 추론 △Ko-WinoGrande상식 추론 △Ko-GSM8K초등 수학 △Ko-EQ-Bench감성 △Ko-IFEval지시 이행 △KorNAT-Knowledge한국어 신뢰성 △KorNAT-Social-Value사회적 가치 △Ko-Harmlessness무해성 △Ko-Helpfulness실용성 등 총 9개다.

기존에는 LLM의 근본적인 언어능력 평가에 초점을 맞췄다면, 새 시즌에서는 더욱 고도화된 지능과 문제해결 능력 등 실용적이고 현실적인 부분에 집중한다. 이를 위한 지표를 촘촘하게 구성해 고성능 모델의 옥석을 가려낼 수 있을 것이라고 업스테이지는 기대하고 있다.

이에 따라 기존 제출됐던 모든 모델을 비롯, 향후 제출되는 모든 LLM은 신규 벤치마크를 통해 평가될 예정이다. 또 인공지능AI 데이터 전문 기업 플리토, 셀렉트스타 및 KAIST AI 대학원이 새롭게 참여해 전문화된 벤치마크 데이터셋을 제공할 예정이다.

업스테이지 김성훈 대표는 “새롭게 개편된 리더보드를 통해 한국어 LLM 성능 평가의 기준점을 한 단계 더 높일 것으로 기대한다”며 “앞으로 업스테이지는 글로벌 표준을 뛰어넘는 국내 AI 생태계 강화에 앞장설 것”이라고 말했다.

NIA 황종성 원장은 “리더보드는 민관 협업을 통해 한국어 LLM 생태계 조성에 크게 기여해 오고 있으며 시즌2 개편을 통해 한국어 LLM 기술이 세계적 수준에 한발 더 올라설 수 있는 계기가 되기를 기대한다”고 말했다.

yjjoe@fnnews.com 조윤주 기자

Copyrightⓒ 파이낸셜뉴스. 무단전재 및 재배포 금지.

[파이낸셜뉴스 핫뉴스]

→ 소주병 깨서 男가수 목 찌른 팬..12년 전 그날 무슨 일이
→ 재혼 남편과 이혼 사유 첫 공개한 정애리 "피해 갈까 참았지만"
→ "父 가정폭력→정신병원 강제입원"..청소년엄마 충격 사연
→ "1년 만에 35kg 늘고 몸무게 95kg까지.." 女가수 안타까운 투병
→ 사진 속 옷 입고 "월드스타 과즙, 방시혁과는.." 의미심장 해명