엣지 AI 시대는 머나먼 얘기…올해도 AI 승자는 엔비디아인 이유[오미주] > 경제기사 | economics

엔비디아 /로이터=뉴스1

지난해 중반까지만 해도 AI인공지능 열풍이 클라우드 기반의 데이터센터에서 PC와 스마트폰 등 개인용 IT정보기술 기기로 확산될 것이란 전망이 있었다. 개인용 IT 기기에서 AI를 활용하는 것을 온-디바이스on-device AI 또는 엣지 AI라고 한다.

하지만 배런스는 지난해 D램 반도체회사인 마이크론 테크놀로지와 PC 회사인 HP, PC 및 서버 회사인 델 테크놀로지스의 실적을 보면 엣지 AI 시대는 아직 먼 것으로 보인다고 밝혔다. PC와 PC에 사용되는 반도체 부문의 실적은 부진의 늪에서 빠져 나오고 있지 못하기 때문이다.

CPU중앙처리장치 기반의 전통적인 기술 인프라를 대변하는 인텔은 지난해 4분기 매출액이 전년 동기 대비 3% 감소했을 것으로 예상된다. 반면 AI 데이터센터에 사용되는 GPU그래픽 처리장치를 생산하는 엔비디아는 지난해 11월~ 올해 1월 매출액이 1290억달러로 전년 동기 대비 112% 급증할 것으로 전망된다.


배런스는 올해도 클라우드 기반의 AI는 성장세를 이어가는 반면 엣지 AI는 부진할 것으로 관측했다. 이는 클라우드 AI가 온-디바이스 AI보다 훨씬 더 역량이 뛰어나고 효율적인데다 모든 기기를 인터넷으로 연결할 수 있어 굳이 AI를 개인용 기기에서 구동시킬 필요가 없기 때문이다.

AI 기반의 GPU는 축적된 데이터에서 정보를 찾아 필요에 맞춰 더 나은 통찰력을 얻을 수 있도록 분석까지 해주기 때문에 CPU를 이용해 쌓여 있는 파일을 검색하는 기존 모델들은 쓸모가 없어지고 있다.

기업들은 AI가 주도하는 새로운 시대에 발맞추기 위해 기술 인프라를 업그레이드해야 한다. 이 결과 CPU 중심의 패러다임에서 GPU에 의존하는 병렬 시스템으로의 전환이 빠르게 이뤄지고 있다. 이에 대해 인텔의 임시 공동 최고경영자CEO인 미셸 홀트하우스는 최근 투자자 컨퍼런스에서 "수십년만에 가장 큰 변화"라고 말했다.

배런스는 올해 여러 단계의 업무를 완성할 수 있는 AI 에이전트의 추가 개발과 텍스트뿐만이 아니라 이미지와 비디오, 오디오 등을 처리하는 멀티모달 AI 모델의 확산, AI 모델이 더 정확도 높은 대답을 제공할 수 있도록 더 철저히 조사하고 추론하도록 해주는 시간 테스트 컴퓨팅의 발전 등으로 AI의 성장 추세는 더욱 가속화할 것으로 전망했다.

또 이러한 발전에는 더 많은 GPU 컴퓨팅 용량이 필요하기 때문에 AI의 성장은 곧 GPU 시장을 장악하고 있는 엔비디아의 성장이라고 밝혔다.

델이나 마이크론 같은 서버 제조업체나 메모리칩 제조업체도 AI 성장의 수혜를 입을 수 있지만 이들 기업은 CPU 중심의 전통적인 사업이 쇠퇴하면서 실적 압박도 동시에 받고 있다. 결국 올해도 CPU에서 GPU 기반의 컴퓨팅으로 이전이 가속화하면서 AI 인프라 시장의 승자는 엔비디아가 될 것이란 전망이다.

물론 기술적으로 엔비디아에 필적할 만한 GPU를 보유하고 있는 AMD가 경쟁자가 될 수 있다. 문제는 소프트웨어 역량이 엔비디아의 소프트웨어 플랫폼인 쿠다CUDA의 성숙도에 비해 미흡하다는 점과 대규모 GPU 클러스터로 확장할 수 있는 최적의 하드웨어와 시스템, 네트워킹을 갖춘 데이터센터 솔루션을 처음부터 마지막까지 전체적으로 제공할 수 있는 능력이 부족하다는 점이다.

구글 등 대형 클라우드 플랫폼 회사들도 브로드컴 등과 맞춤형 AI 칩을 개발하고 있지만 10년 이상 쌓아온 엔비디아의 소프트웨어 경쟁력과 종합적인 솔루션 제공 능력을 따라잡기는 어려울 것으로 보인다.

배런스는 오늘날 엔비디아에 반대되는 베팅을 하는 것은 PC 혁명 초기에 마이크로소프트와 인텔, 또는 아이폰 출시 이후 애플에 반대되는 베팅을 하는 것과 같다고 지적했다. 따라서 지난해 엔비디아 주가가 큰 폭으로 뛰어오른 것처럼 올해도 같은 것을 기대해도 좋을 것이라고 낙관했다.

권성희 기자 shkwon@mt.co.kr

ⓒ 머니투데이 amp; mt.co.kr, 무단 전재 및 재배포 금지