"인간아, 너 떨고 있니?"…30배 강력해진 엄청난 놈 온다 > IT/과학기사 | it/science

본문 바로가기
사이트 내 전체검색

IT/과학기사 | it/science

"인간아, 너 떨고 있니?"…30배 강력해진 엄청난 놈 온다

페이지 정보

profile_image
작성자 수집기
댓글 0건 조회 357회 작성일 24-03-19 23:36

본문

뉴스 기사
연례 행사에서 차세대 반도체 B200 공개
반도체 넘어 ‘플랫폼’과 ‘서비스’기업으로
“슈퍼 AI컴퓨터 직접 고객에게 팔겠다”




인공지능AI 반도체 선두주자인 엔비디아가 18일현지시간 미국에서 연례 컨퍼런스인 ‘GTCGPU Technology Conference 2024’를 개최하고 신형 AI 반도체인 블랙웰을 공개했다.

이날 기조연설이 열린 SAP센터에서 젠슨 황 CEO는 “지금 가속 컴퓨팅은 임계점에 도달했다”면서 “우리는 더 많은 컴퓨팅을 사용할 수 있게 되고 그 효과는 엄청날 것”이라고 강조했다. 그는 데이터센터, 엔터프라이즈IT, AI팩토리, AI코파일럿 등 전 영역에 AI가 적용되면서 100조달러 규모의 산업이 만들어질 것이라고 설명했다.

젠슨 황 CEO는 새롭게 공개한 ‘블랙웰 플랫폼’과 여기에 들어가는 B200 반도체의 성능을 설명하면서, 기존 모델인 H100 GPU 대비 월등한 성능 향상을 강조했다. 매개변수 1조8000억 개의 GPT 모델을 90일간 인공지능 학습에 사용한다고 가정했을 경우, H100이 탑재된 기존 호퍼 플랫폼에서는 8000개의 GPU로 15메가와트의 전력이 필요했다면, 블랙웰 플랫폼에서는 2000개의 GPU로 4메가와트의 전력만이 소모된다. 전체 소모전력이 4분의 1이상 줄어든다는 설명이다. 소비 전력이 줄어든 것은 그만큼 성능이 뛰어나다는 것이다.

news-p.v1.20240319.6fd7175c0e9f425cadca0f1116cce89e_P2.png


가격은 공개하지 않았지만 H100이 개당 최대 4만달러라는 점을 고려하면 B200는 5만달러 수준이 될 것으로 업계에서 전망했다.

황 CEO는 블랙웰이 ‘추론’에서는 더 뛰어난 성능을 보여준다고 강조했다. 학습이 완료된 AI모델로 챗GPT 처럼 텍스트를 만들거나 미드저니 처럼 이미지를 만들 때 데이터센터 GPU에서 ‘추론’작업이 이뤄지는데, 블랙웰 호퍼GB200에서는 기존 H200보다 종합적인 성능이 30배 좋아진다고 강조했다.

블랙웰은 게임 이론과 통계학을 전공한 수학자이자 흑인으로는 최초로 미국국립과학원에 들어간 데이비드 블랙웰을 기리기 위해 붙여진 이름이다.

젠슨 황 CEO는 기조연설에서 엔비디아가 ‘반도체’를 넘어 ‘컴퓨팅 플랫폼’으로 진화하고, ‘서비스’회사로 변화해가는 것을 강조했다. 신형 B200 GPU 두 개와 그레이스 CPU, 반도체를 연결하는 NV링크, 케이블 등이 모여서 슈퍼컴퓨터가 만들어지고, 이것이 모여서 AI를 학습시키는 AI 클러스터가 된다고 설명했다. 엔비디아가 만들고자 하는 AI 데이터센터는 3만2000개의 GPU가 들어가는데 이것을 ‘AI팩토리’라고 부른다.

news-p.v1.20240319.eab9729c5b57401ca0133eef9def3d84_P1.png


젠슨 황 CEO는 엔비디아는 이제 반도체를 파는 것이 아니라 이런 AI 특화된 컴퓨터를 만든다고 강조했다. 그는 엔비디아의 모든 기술이 결합된 DGX GB200 NVL72 라는 컴퓨터를 ‘1개의 거대한 GPU’라고 설명하면서, 데이터센터 전체의 성능을 높여야 AI 학습과 추론에 드는 컴퓨팅 비용을 낮출 수 있다고 주장했다.

이처럼 엔비디아가 반도체가 아닌 데이터센터를 강조하는 것에 대해서 GTC에 참석한 한 전문가는 “칩을 설계하는데 있어서 물리학적 한계를 엔비디아도 체감한 것으로 보인다”면서 “그동안 반도체를 붙이는 것을 피해왔던 엔비디아가 B200에서 이런 선택을 한 것이 아쉽다”고 설명했다.

한편 젠슨 황 CEO는 엔비디아 추론 마이크로서비스NIM이라는 추론 전용 서비스도 공개했다. 다양한 AI모델을 서비스할 수 있도록 엔비디아가 클라우드 형태로 서비스를 제공하는 것이다.

엔비디아의 주 고객인 AWS, 마이크로소프트 애저, 구글 클라우드 같은 기업이 자체적인 AI반도체를 만드는 방향으로 흘러가자, 엔비디아도 최종 AI 사용자에게 실제 클라우드 서비스를 제공하는 전략으로 분석된다.

rcv.YNA.20240319.PYH2024031903140009100_P1.jpg


기조연설에서 황 CEO는 로보틱스 분야에도 많은 설명을 할애했다. 기존에 ‘디지털 트윈’에 인프라를 제공한 ‘옴니버스’에 ‘아이작 로보틱스’ 플랫폼을 추가해, 디지털 트윈에서 로봇을 학습시켜서 현실세계에 적용시키는 모델을 소개했다. 황 CEO는 “기존에 모든 로봇은 미리 프로그램이 되어있었다”면서 “앞으로 로봇은 인식을 통한 학습으로 프로그래밍이 쉬워질 것”이라고 전망했다. 황 CEO는 기조연설의 후반부에는 로봇들과 함께 등장하기도 했다.

엔비디아는 다양한 기업들과의 파트너십도 공개했다. 애플 비전 프로 헤드셋을 옴니버스 디지털 트윈 플랫폼에서 사용하기로 했고, 지멘스와 함께 구축하는 산업용 옴니버스에서는 HD현대의 LNG운반선이 사례로 등장하기도 했다.

캘리포니아 수십만명 탈출 사태…40년 살던 유명 배우까지 떠난다

“누가봐도 난데”…허탈했던 조민, ‘입시비리’ 혐의 1심 이번주 나온다

“늙어서 힘 없는데 축제는 무슨 축제고”…‘이 동네’ 씁쓸한 벚꽃엔딩

“여긴 누가 근무하길래”…직원 평균연봉 2억원 주는 ‘이 회사’

“생후 2개월 된 아이도 돈 내라고요?” 표값 400만원인데…파리올림픽 티켓 강매에 부모들 뿔났다

[ⓒ 매일경제 amp; mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]

댓글목록

등록된 댓글이 없습니다.

회원로그인

회원가입

사이트 정보

회사명 : 원미디어 / 대표 : 대표자명
주소 : OO도 OO시 OO구 OO동 123-45
사업자 등록번호 : 123-45-67890
전화 : 02-123-4567 팩스 : 02-123-4568
통신판매업신고번호 : 제 OO구 - 123호
개인정보관리책임자 : 정보책임자명

접속자집계

오늘
608
어제
2,241
최대
3,806
전체
657,539
Copyright © 소유하신 도메인. All rights reserved.