그록3 성능 비결은 엔비디아 칩 20만개…한국도 조기확보 나서 > 경제기사 | economics

일론 머스크는 ‘그록’ 시리즈가 짧은 시간 내에 오픈에이아이AI의 챗지피티 성능을 따라잡았다고 자평하며 그 비결로 인공지능AI 데이터센터를 꼽았다. 테네시주 멤피스에 엔비디아의 인공지능 반도체 칩GPU·지피유 H100 10만개를 연결한 H100 클러스터를 122일 만에 구축하여 그록3를 학습시켰다는 것이다. 최근에는 20만개까지 지피유 규모를 늘렸다.

사람들이 놀란 것은 그 규모다. 개당 4만달러우리돈 5000만원에 이르는 가격에도 품귀 현상을 빚어 수개월씩 기다려야 하는 엔비디아의 대표적인 고성능 칩을 빠르게 대량 확보했다는 점에서다. 인공지능 생성형 모델을 학습시키기 위해 필수적인 지피유로, H100 확보 갯수가 인공지능 기업의 전망이라는 평까지 나올 정도로 글로벌 빅테크간 구매 경쟁이 치열하다. 머스크는 그록 시리즈 개발 초기였던 2023년 “지피유가 마약보다 구하기 힘들다”고 불평하기도 했다. 머스크는 올여름까지 엔비디아의 차세대 칩인 B200을 30만개 확보할 계획을 밝히기도 했는데, 이는 H100보다도 20%가량 비싸 소요 비용만 90억 달러에 이를 것으로 추정된다. 오픈에이아이의 GPT-4o에는 H100 1만5000개가 쓰였다.

머스크의 엑스에이아이xAI는 후발주자로 불리한 처지를 물량 공세로 따라잡은 셈이다. 중국에서 미국의 수출 규제로 H100 수급을 제한받으면서도 생성형 인공지능 ‘딥시크’를 내놓아 충격을 안기기도 했지만, 업계는 아직은 엔비디아의 고성능 칩 확보가 인공지능 기술 선도에 절대적이라고 보고 있다.

특히 빅테크들은 엔비디아 최신 칩을 사용한 데이터센터를 만드는 데 전념하고 있다. 글로벌시장조사기관인 옴디아에 따르면, 마이크로소프트는 지난해 48만5000개의 H100을 구매했으며 메타는 약 22만4000개를, 엑스에이아이가 약 20만개를 사들인 것으로 추정된다. 마이크로소프트는 오픈에이아이에 총 130억 달러를 투자했다.

반면 국내 H100 수량은 3000개 안팎일 것으로 업계는 추산하고 있다. 과학기술정보통신부 산하 소프트웨어정책연구소 조사에서 2023년 말 기준 국내 주요 인공지능 기업이 보유한 H100 지피유는 총 1961개였으나, 이후 엔에이치엔NHN클라우드 등에서 1000개가량을 확보한 것으로 전해졌다.

세계 인공지능 3대 강국을 목표로 하는 정부도 지피유를 조기에 확보하겠다고 나섰다. 정부는 고성능 지피유를 올해 안에 1만개, 내년 상반기까지 총 1만8000개를 확보하기로 했다. 확보한 지피유는 연내 구축될 ‘국가 인공지능 컴퓨팅 센터’에 놓일 예정이다. 국가 컴퓨팅센터는 2027년에 완전히 문을 열 예정이지만, 확보한 지피유로 서비스를 조기에 시작한다는 목표다. 국회 과학기술정보방송통신위원회 위원들은 19일 오전 경기 성남시 네이버 본사를 방문해 “대한민국이 인공지능 강국으로 도약할 수 있도록 정책적 지원과 제도 정비에 적극 나서겠다”는 내용의 여야 합의 성명을 발표했다. 인공지능 지원을 위한 2조원 규모의 추가경정예산 편성에도 여야가 공감대를 좁혀가고 있다.

정유경 기자 edge@hani.co.kr

<한겨레 인기기사> ■

이재명 “민주당 중도보수” 후폭풍…“정략적 우클릭 매우 우려”

박정희 저격 김재규 사형 45년 만에 재심…“유신 항거 정확히 평가해야”

[단독] 민간인 노상원, 진급 협박·미끼로 계엄군 쥐고 흔들어

[단독] 2026 의대 정원, ‘감원 불가’ 전제로 대학이 자율 조정

[단독] 합참 계엄과장도 놀란 포고령 “전공의 처단, 연습서도 본 적 없어”

거실에 20㎏ 콘크리트 ‘쿵’…55년 된 용산 아파트 천장 무너져

‘최경환 전 부총리 의혹 허위제보’ 이철 전 VIK 대표 1심 무죄

하늘이 살해 교사, 흉기·살인 기사 검색…경찰 “계획범죄 무게”

스카이데일리 “극우 집회 참여 ‘캡틴 아메리카’, 취재원 맞다”

조갑제 “윤석열 부정선거론, 국민에 푼 정신적 독극물”

한겨레>

▶▶한겨레는 함께 민주주의를 지키겠습니다 [한겨레후원]

▶▶실시간 뉴스, ‘한겨레 텔레그램 뉴스봇’과 함께!

▶▶한겨레 뉴스레터 모아보기