업스테이지-프렌들리AI, 솔라 번역모델 인프라 구축 > IT/과학기사 | it/science

[서울경제]

인공지능AI 기업 업스테이지는 프렌들리AI와 자사 거대언어모델LLM인 솔라 기반 번역 모델의 인프라 구축 계약을 체결했다고 10일 밝혔다.

앞서 업스테이지는 솔라 LLM의 미세조정을 통해 한국어-영어 번역 특화 모델을 응용프로그램 인터페이스API 형태로 공개했다. 업스테이지는 일일 최대 10만여 건에 달하는 번역 트래픽을 효율적으로 처리하기 위해 프렌들리AI의 인프라 관리 솔루션 프렌들리 전용 엔드포인트도 도입했다.

업스테이지는 트래픽 부하에 따라 그래픽처리장치GPU 할당량을 조정하는 자동 스케일링 기능을 통해 GPU 비용을 크게 절감했다고 강조했다.

김성훈 업스테이지 대표는 "생성형 AI 인프라의 수행 리더 기업인 프렌들리AI와 협력해서 솔라 번역 모델의 서비스 비용을 효율화하게 돼 기쁘다"고 밝혔다.

전병곤 프렌들리AI 대표는 “업스테이지와 함께 기업들의 생성형 AI 혁신을 돕도록 매진하겠다“라고 전했다.

김성태 기자 kim@sedaily.com

[서울경제 관련뉴스]
30대 태국인, 한국서 5명에 생명 나눔
버즈 민경훈, 11월 새신랑 된다···“예비신부는 방송계 종사자”
"아침에 일어날 때 저들 생각이 나지 않았으면"···친형 재판 출석한 박수홍
배민은 배다른 민족이었나···작년 7000억 번 대표 떠나자 수수료 인상
[영상] "브레이크 밟았는데 먹통이었다"···페달 블랙박스 속 그가 밟은 것은