파수, 기업 내부구축용 sLLM 엔터프라이즈 LLM 출시 > IT/과학기사 | it/science

/사진제공=파수

파수가 기업 내부 문서를 활용할 수 있는 sLLM경량 대형언어모델 파수 엔터프라이즈 LLMELLM을 출시했다고 5일 밝혔다.

파수는 온프레미스On-premise 구축형 ELLM에 대해 "조직 특성에 맞는 생성형 AI인공지능를 구축해 보고서 작성과 문서 요약, 내부 데이터 분석, 지식창고 운영, 고객 응대 등 다양한 분야의 업무 생산성과 효율성을 혁신하려는 고객을 위한 것"이라고 했다. 업무 문서에 대한 이해도가 뛰어나고, 고객에 특화된 데이터로 신뢰성 높은 맞춤형 결과물을 제공하는 데 최적화했다는 설명이다.

파수 ELLM은 고객별 DAPT도메인 사전 특화 학습와 작업별 파인튜닝미세조정을 지원한다. 멀티홉 추론 방식으로 사용자 요청을 분석한 뒤 작업을 분류하고 작업별로 최적의 프롬프트를 적용할 수 있다. RAG검색증강생성 방식으로 필요에 따라 외부 검색엔진이나 내부 시스템의 검색 기능 등과 연계할 수 있는 확장형 구조도 갖췄다. 차세대 프로그래밍 언어 러스트Rust 기반에 IO 멀티플렉싱입출력 다중화 방식을 도입해 처리속도도 빠른 편이다.

파수는 "내부구축형 생성형 AI인공지능 도입을 고려하고 있지만 AI 학습에 필요한 내부 데이터를 제대로 관리하지 못하고 있는 대다수 조직에게 AI 활용을 길을 열어준다"고 밝혔다. 문서 자산화·버전관리·권한제어를 지원하는 파수 랩소디Wrapsody 등 솔루션을 결합할 수도 있다고 덧붙였다.

윤경구 파수 전무는 "내부 데이터 수집부터 관리·보안, AI 활용에 이르는 과정을 통합적으로 지원해 고객의 성공적인 AI 활용을 현실화한다"며 "ELLM을 시작으로 고객들의 AI 활용을 돕는 AI 기업으로서 솔루션·서비스를 지속적으로 선보일 예정"이라고 말했다.

성시호 기자 shsung@mt.co.kr

ⓒ 머니투데이 amp; mt.co.kr, 무단 전재 및 재배포 금지