"AI개발자의 시간과 비용 고민, 최적의 해결책 제시" [AWS 리인벤트 2... > IT/과학기사 | it/science

[아이뉴스24 윤소진 기자] "우리는 모델 선택부터 개발, 훈련, 배포, 최적화까지 모든 AI 개발 주기에 걸쳐 완벽한 경험을 제공합니다."

스와미 시바수브라마니안 AWS 데이터 및 AI 부문 부사장이 4일현지 시각 미국 라스베이거스 베네시안 호텔에서 열린 AWS 리인벤트 2024에서 기조연설을 하고 있다. [사진=AWS]figcaptiongt;

스와미 시바수브라마니안 AWS 데이터 및 AI 부문 부사장은 4일현지시각 미국 라스베이거스 베네시안 호텔에서 열린 AWS 리인벤트 2024 키노트에서 AI 개발 전 주기를 지원하는 새로운 서비스들을 발표했다. 세이지메이커와 아마존 베드록의 기능을 강화해 기업들이 생성형 AI를 더욱 효율적으로 활용할 수 있도록 했다.

◇ AI모델 개발 가속화 세이지 메이커

세이지 메이커는 AI 모델 개발과 확장을 돕는 완전 관리형 서비스다. 시바수브라마니안 부사장은 수십억에서 수조 개의 매개변수를 가진 대규모 모델을 다루기 위해 세이지메이커를 개선했다고 설명했다.

새로 공개된 세이지메이커 하이퍼포드는 수천 개의 AI 가속기에서 생성형 AI 모델 개발을 효율적으로 확장해 기초 모델 훈련 시간을 최대 40%까지 단축할 수 있다. 30개 이상의 선별된 모델 훈련 레시피를 제공해 고객이 라마 3.2 90B, 미스트랄 8x22B 등 인기 있는 공개 모델을 몇 분 만에 시작할 수 있다.

세이지 메이커의 유연한 훈련 계획 기능은 예산, 완료 예정일, 필요한 컴퓨팅 리소스의 최대량을 지정하면 자동으로 용량을 예약하고 클러스터를 설정해 모델 훈련 작업을 생성한다. 계획이 시간이나 예산을 초과할 경우에는 날짜 범위 연장, 컴퓨팅 자원 추가, 다른 AWS 리전에서의 훈련 등 대안도 제시한다.

새로운 태스크 거버넌스 기능은 모델 훈련, 미세 조정, 추론을 위한 가속기 사용률을 극대화해 개발 비용을 최대 40%까지 절감할 수 있다.

시바수브라마니안 부사장은 "라이터AI, 루마AI, 퍼플렉시티와 같은 스타트업부터 톰슨루터스, 세일즈포스와 같은 대기업까지 이미 세이지 메이커를 통해 모델 개발을 가속화하고 있다"며 "특히 하이퍼포드의 유연한 훈련 계획 기능은 컴퓨팅 자원 관리를 자동화하고 모델 훈련 시간을 단축하는 데 큰 도움을 준다"고 설명했다.

◇ 최신 AI모델 허브 베드록 마켓플레이스

베드록도 큰 폭의 업그레이드가 이뤄졌다. 베드록 마켓플레이스를 통해서는 100개 이상의 AI 모델을 제공한다. 앤트로픽, 메타, 미스트랄AI, 스태빌리티AI 등 세계적인 AI 기업을 비롯해 엔씨소프트의 바르코 LLM, LG AI 연구원의 엑사원, 업스테이지의 솔라 프로 등 국내 기업의 AI 모델도 눈에 띈다.

AWS는 루마AI의 최첨단 비디오 생성 모델 레이 2를 제공하는 최초의 클라우드 공급도 발표했다. 레이 2는 텍스트와 이미지에서 고품질의 사실적인 비디오를 생성하며, 다양한 카메라 각도와 스타일을 빠르게 실험할 수 있다. 코드 개발에 특화된 풀사이드의 말리부와 포인트 모델, 스태빌리티AI의 최신 이미지 생성 모델 스테이블 디퓨전 3.5 라지도 곧 베드록에서 만나볼 수 있다.

베드록은 운영 효율성도 대폭 개선했다. 프롬프트 캐싱을 통해 비용을 최대 90%까지, 대기 시간을 최대 85%까지 줄일 수 있으며, 지능형 프롬프트 라우팅으로 정확도를 유지하면서도 비용을 30%까지 절감할 수 있다. 그래프RAG 지원은 아마존 넵튠을 사용해 지식 그래프를 자동으로 생성하고 데이터 간 관계를 연결해 더 정확하고 관련성 높은 응답을 생성할 수 있다.

베드록 데이터 오토메이션을 통해 문서, 이미지, 오디오, 비디오 등 비정형 데이터에서 정보를 추출하고 구조화하는 작업을 단일 API로 자동화할 수 있다. 이 기능은 신뢰도 점수와 응답의 근거를 함께 제공해 환각 현상의 위험을 줄이고 투명성을 높이는 데도 기여한다.

◇ 책임 있는 AI 구현과 교육 형평성 강조

AWS는 AI 기술의 책임 있는 활용과 교육 형평성에도 관심을 보였다. 향후 5년간 1억 달러 규모의 AWS 교육 형평성 이니셔티브를 통해 소외된 학습자들을 위한 디지털 학습 설루션 구축을 지원한다. 비영리단체, 사회적기업, 정부 등에 클라우드 컴퓨팅 크레딧을 제공하고 AWS 설루션 아키텍트의 기술 지원도 이뤄진다.

시바수브라마니안 부사장은 "기술은 강력하지만, 기술 그 자체만으로는 충분하지 않습니다. 기술을 올바른 시기에 올바른 환경에서 적용하는 것이 진정한 변화를 만든다"며 "교육의 진보와 다양한 배경의 학습자들을 지원하는 것에도 계속 헌신할 것"이라고 말했다.

/미국 라스베이거스=윤소진 기자sojin@inews24.com

[관련기사]

▶ 이준석, 외신 향해 "대한민국이 날건달에게 잠시 위협받아"

▶ "이게 웬 국가망신"…윤 대통령 계엄령에 외신 비판 잇따라

▶ 안철수, 윤 대통령에 "국민에 총부리를 겨누다니…스스로 물러나라"

▶ [尹, 비상계엄 선포] 참모들도 몰랐던 심야 비상계엄…그 시각 용산에서는

▶ 너도 나도 한국 안 와…비상계엄 여파로 외교 일정 줄줄이 취소

▶ [전문] 윤석열 대통령 계엄 선포

▶ 이재명 "尹, 국지전도 벌일 것…계엄도 다시 시도"

▶ 대통령실 고위 참모 일괄 사의 표명

▶ [尹, 비상계엄 선포] 윤 대통령 "계엄 해제"…선포 6시간 만에 종료 [종합]

▶ 이준석 "尹, 이정도일 줄은 몰랐다"…與에 제명 요구도

/* iframe resize for nate news */ function${ setYoutube; function setYoutube { iftypeof frmTarget !=undefined{ frmTarget.findiframe, object.eachfunction idx { $this.css{height: parseInt$this.width / 1.8}; window.parent.postMessage{ method: fnct, name: callFnct, property: {target: youtube_resize_iframe, elementClass: .frameMV, height: parseInt$this.width / 1.8, idx: idx} }, *; }; } } }jQuery;