메타 라마3, GPT-4 수준…퀄컴과 돈버는 온디바이스AI 시동 > IT/과학기사 | it/science

본문 바로가기
사이트 내 전체검색

IT/과학기사 | it/science

메타 라마3, GPT-4 수준…퀄컴과 돈버는 온디바이스AI 시동

페이지 정보

profile_image
작성자 수집기
댓글 0건 조회 40회 작성일 24-04-24 16:51

본문

뉴스 기사
- 라마3, GPT-4 성능 따라 잡아..토큰 입력창 짧은건 흠
- 메타, 퀄컴과 제휴…퀄컴 기반 디바이스에 라마3 탑재
- "온디바이스 AI반도체에 얹어 로열티 받을 수 있을 것"


[이데일리 김현아 기자] 메타의 거대언어모델LLM인 ‘라마LLaMa’가 퀄컴과 협력해 온디바이스 인공지능AI 분야 지배력을 확보하기 위해 잰걸음을 하고 있다. 그동안 라마는 기술력과 비즈니스 모델 측면에서 부족하다는 평가를 받아왔으나, 최근 공개된 라마3는 오픈AI의 GPT-4 성능을 따라잡았다는 평가다. 특히 모바일 기기 자체에서 정보를 처리할 수 있는 온디바이스 AI의 선두주자로 떠오르고 있다.

메타 라마3, GPT-4 수준…퀄컴과 돈버는 온디바이스AI 시동
라마3 성능 “폐쇄형 LLM에 견줄 수준”

테크 전문지 디 인포메이션은 22일현지시간 MMLU대규모다중작업언어이해벤치마크를 인용, 라마3의 4050억 매개변수 버전400B이 오픈AI, 구글, 앤트로픽 등 폐쇄형 대형언어모델LLM 성능에 견줄만 하다고 전했다.


라마3400B는 MMLU 벤치마크에서 구글의 ‘제미나이 프로’90점, 앤트로픽의 ‘클로드3 오퍼스’88.2점, 오픈AI의 GPT-486.8점에 이어 84.8점을 기록했다. 아직 토큰 입력창컨텍스트 창이 다른 빅테크의 LLM에 비해 너무 짧다는 것은 흠이지만, 메타는 공식 블로그에서 “멀티모달, 다국어 대화, 더 길어진 컨텍스트 창 등 더 강력한 기능을 갖춘 여러 버전의 새로운 라마3 버전을 출시할 것”이라고 밝혔다.

퀄컴과 제휴한 메타, AI반도체로 로열티 가능해져

전문가들이 라마3에 주목하는 것은 성능 향상 뿐만이 아니다. LLM에 다른 빅테크들보다 늦게 뛰어든 메타는 오픈소스로 ‘라마’를 풀면서 생태계는 넓혔지만, 돈버는 모델을 찾지는 못했다. 하지만 라마3부터는 달라진 모습을 보이고 있다. 퀄컴과 제휴해 온디바이스AI의 기린아로 부상하고 있는 것이다.

퀄컴은 메타와의 제휴를 통해 지난 19일현지시간 스냅드래곤 프로세서 기반의 스마트폰과 PC 등에서 라마3를 구동시키겠다고 발표했다. 이는 퀄컴의 스마트폰 시장 지배력을 고려할 때 상당한 시너지가 예상된다. 오픈 소스로 라마를 제공했던 메타 입장에서도 AI 반도체 협력을 통해 지식재산권IP을 제공함으로써 수익을 창출할 수 있는 새로운 가능성이 열렸다.

배주호 한국외국어대학교 Global Business amp; Technology 학부 교수는 “휴대폰에서 LLM기반 서비스를 구동하기 위해서 모델 맞춤형 칩을 디자인하면 전력이나 성능면에서 매우 효율적인 장점을 가질 수 있다” 면서 “퀄컴이 라마3와 호환성을 고려하여 칩을 개발하여 다른회사의 GPU, NPU에 비해 서비스 경쟁력을 가질 것”이라고 예측했다.

그는 “메타 입장에서는 라마에 기반한 온디바이스 개발 플랫폼을 제공하여 생태계를 조성하게 되면 추후 다양한 디바이스 환경에서 라마 LLM기반 서비스가 가능해지므로 AI모델 개발 주도권 및 서비스 수익 부분에서 강점을 가져갈 수 있다는 의미”라고 했다.

▶ 관련기사 ◀
☞ 이태원서 女유튜버가 받은 초콜릿, 수상한 구멍이…“소름 돋아”
☞ 입주민 벤츠 대신 주차하던 경비원, 12중 추돌사고
☞ “외모가 중요” 비키니 입고 ‘빈랑 파는 대만 소녀들
☞ "화가 난다"…의정 갈등 장기화에 고개 드는 `의사혐오`
☞ “빵이나 파는 게 유세는…” 빵집서 ‘갑질한 진상손님

[바이오 성공 투자 1%를 위한 길라잡이 팜이데일리]
[새로워진 이데일리 연재 시리즈 취향대로 PICK하기]
[뉴땡 Shorts 아직 못봤어? 뉴스가 땡길 때, 1분 순삭!]
[10대의 뉴스는 다르다. 하이스쿨 커뮤니티 하이니티]
[다양한 미국 주식정보! 꿀 떨어지는 이유TV에서 확인!]
[빅데이터 AI트레이딩 솔루션 매직차트]

<ⓒ종합 경제정보 미디어 이데일리 - 무단전재 amp; 재배포 금지>


김현아 chaos@

댓글목록

등록된 댓글이 없습니다.

회원로그인

회원가입

사이트 정보

회사명 : 원미디어 / 대표 : 대표자명
주소 : OO도 OO시 OO구 OO동 123-45
사업자 등록번호 : 123-45-67890
전화 : 02-123-4567 팩스 : 02-123-4568
통신판매업신고번호 : 제 OO구 - 123호
개인정보관리책임자 : 정보책임자명

접속자집계

오늘
1,354
어제
1,086
최대
2,563
전체
377,578
Copyright © 소유하신 도메인. All rights reserved.