파수, 기업 내부구축용 sLLM '엔터프라이즈 LLM' 출시

/사진제공=파수

파수가 기업 내부 문서를 활용할 수 있는 sLLM(경량 대형언어모델) '파수 엔터프라이즈 LLM(ELLM)'을 출시했다고 5일 밝혔다.

파수는 온프레미스(On-premise) 구축형 ELLM에 대해 "조직 특성에 맞는 생성형 AI(인공지능)를 구축해 보고서 작성과 문서 요약, 내부 데이터 분석, 지식창고 운영, 고객 응대 등 다양한 분야의 업무 생산성과 효율성을 혁신하려는 고객을 위한 것"이라고 했다. 업무 문서에 대한 이해도가 뛰어나고, 고객에 특화된 데이터로 신뢰성 높은 맞춤형 결과물을 제공하는 데 최적화했다는 설명이다.

파수 ELLM은 고객별 DAPT(도메인 사전 특화 학습)와 작업별 파인튜닝(미세조정)을 지원한다. 멀티홉 추론 방식으로 사용자 요청을 분석한 뒤 작업을 분류하고 작업별로 최적의 프롬프트를 적용할 수 있다. RAG(검색증강생성) 방식으로 필요에 따라 외부 검색엔진이나 내부 시스템의 검색 기능 등과 연계할 수 있는 확장형 구조도 갖췄다. 차세대 프로그래밍 언어 러스트(Rust) 기반에 IO 멀티플렉싱(입출력 다중화) 방식을 도입해 처리속도도 빠른 편이다.


파수는 "내부구축형 생성형 AI(인공지능) 도입을 고려하고 있지만 AI 학습에 필요한 내부 데이터를 제대로 관리하지 못하고 있는 대다수 조직에게 AI 활용을 길을 열어준다"고 밝혔다. 문서 자산화·버전관리·권한제어를 지원하는 '파수 랩소디(Wrapsody)' 등 솔루션을 결합할 수도 있다고 덧붙였다.

윤경구 파수 전무는 "내부 데이터 수집부터 관리·보안, AI 활용에 이르는 과정을 통합적으로 지원해 고객의 성공적인 AI 활용을 현실화한다"며 "ELLM을 시작으로 '고객들의 AI 활용을 돕는 AI 기업'으로서 솔루션·서비스를 지속적으로 선보일 예정"이라고 말했다.

성시호 기자 shsung@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지