[단독] 엔비디아와 다른 시장, CXL스위치로 데이터센터 효율 높일 ... > IT/과학기사 | it/science

본문 바로가기
사이트 내 전체검색

IT/과학기사 | it/science

[단독] 엔비디아와 다른 시장, CXL스위치로 데이터센터 효율 높일 ...

페이지 정보

profile_image
작성자 수집기
댓글 0건 조회 136회 작성일 24-07-07 17:41

본문

뉴스 기사
- 데이터센터용 반도체 기업 파두 미국 자회사 이음
- 이음 한진기 대표 인터뷰
- 고비용 엔비디아 지속 가능?
- 소형언어모델시대 뜨는 CXL
- 범용 AI데이터센터 가능해진다


[이데일리 김현아 IT전문기자] 머지않은 미래에는 오픈AI 챗GPT같은 거대언어모델LMM뿐 아니라 각 산업에 특화된 소형언어모델sLLM이 주목받을 전망이다. 지금 같은 구조로는 돈 버는 AI 서비스를 만들기 어려워서다.

데이터센터 반도체 전문기업 파두440110가 지난해 10월 인수한 미국 자회사 이음EEUM은 AI가 금융, 통신, 교육 등 분야별로 특화되는 시기를 겨냥한 AI 데이터센터용 CXL 스위치를 개발중이다. 이음은 삼성전자 메모리 사업부·상품기획팀, SK하이닉스 상품기획팀·SSD 솔루션 개발팀에서 근무했던 한진기 대표가 2023년 10월 실리콘밸리에 설립한 기업이다. 파두가 지난해 10월 53억6500만원에 이어 지난달 63억원을 추가 투자했다.

[단독] 엔비디아와 다른 시장, CXL스위치로 데이터센터 효율 높일 것
[이데일리 문승용 기자]



고비용 엔비디아 지속가능?…소형언어모델 시대, 핵심은 CXL

이데일리는 오는 10일까지 한국에 머무는 한진기 이음 대표를 지난 4일 파두 사무실에서 만났다. 한 대표는 “AI에 대한 대규모 투자가 이뤄지고 있지만, 아직 이로 인해 수익을 창출하는 기업은 드물죠. 그래서 엔비디아의 AI 시스템보다 훨씬 효율적인 AI 시스템이 나올 것으로 보이며, 그 시장을 겨냥해 CXL 스위치를 개발 중”이라고 했다.

이음이 개발 중인 CXL 스위치는 파라미터 사이즈가 400GB이상의 거대언어모델LLM이 아니라, 50~80GB의 소형언어모델sLLM대중화를 겨냥했다.

한 대표는 “실리콘밸리에서는 전 세계 모든 데이터를 학습시킨 매우 큰 파라미터를 가지는 AI 모델은 고비용 문제로 위험할 수 있다는 얘기가 나온다”면서 “앞으로 엔비디아의 AI 반도체 풀 스택 솔루션에서 메모리 한계를 극복하기 위해 필요했던 NV 스위치나 NV링크가 필요 없어질 것으로 예상된다”고 전망했다. 그러면서 “그리 되면 엔비디아 GPU의 구동을 지원하는 HBM보다는 단일 장치에 여러 모델sLLM을 담는 것이 중요해지며, 이에 따라 용량을 증가시킬 수 있는 CXL컴퓨트 익스프레스 링크이 더욱 중요해질 것”이라고 덧붙였다.

HBM은 GPU가 많은 데이터를 단시간에 처리할 수 있도록 돕는 고성능 메모리로, 여러 개의 D램을 수직으로 쌓아 올린 형태다. CXL은 CPU, GPU, NPU 등 간의 고속 연결을 지원하는 기술로, 매우 뛰어난 확장성을 제공한다. 이에 따라 삼성전자·SK하이닉스도 CXL타입3 칩을 개발하는 등 CXL 인프라에 대한 관심이 크다.

PS24070700381.jpg
AI서비스LLM를 위한 엔비디아 시스템. 출처=한진기 이음 대표
PS24070700382.jpg
AI서비스sLLM을 위한 이음의 CXL스위치. 사진=한진기 이음 대표
PS24070700383.jpg
이음의 CXL 기반 서버 섀시Chassis


‘26년 출시 목표, 범용 AI센터 가능해진다

한 대표는 데이터센터의 핵심이 상호연결interconnect이라고 강조하며, 이음이 CXL 스위치와 서버 섀시를 출시하면 데이터센터 회사들이 범용 데이터센터를 구축할 수 있다고 설명했다. 그는 “2026년, 2027년 출시를 목표로 CXL 스위치와 섀시를 개발 중인데, 이 기술이 도입되면 데이터센터를 건설한 다음에 AI를 구현하거나 스토리지를 추가하거나 메모리를 확장하는 것을 나중에 결정할 수 있다. 이는 굉장히 범용성 있는 데이터센터 구축을 가능하게 한다. CXL 스펙이 이를 가능하게 하는 것”이라고 말했다.

이음외에 CXL을 개발하는 글로벌 회사로는 미국 아스테라랩스asteralabs가 있는데 상장후 기업가치가 10조원을 넘었다.

데이터센터에서 CXL 스위치는 SSD, DRAM, GPU/NPU, CPU 등을 연결하는 것이기 때문에 상호운용성이 매우 중요하다. 이에 따라 이음은 CXL에코시스템 소프트웨어를 개발해 지난 1월 오픈소스로 공개했고, 다양한 글로벌 기업들과 협력을 논의 중이다.

한진기 대표는 “엔비디아가 쿠다나 NV링크를 개발하기 시작한 것은 10년이 훨씬 넘었다”면서 “이를 넘어서기 위해저희는 CXL 스위치 기술 검증을 위해 개발 기술을 공개하고 ‘오픈CXL’이라는 사이트를 만들어 글로벌 개발자들과 함께 하고 있다. 한국에서도 ETRI한국전자통신연구원 등 학계 및 연구계 전문가들이 참여하고 있다”고 전했다.

PS24070700384.jpg
이음이 주도하는 CXL 오픈 커뮤니티


▶ 관련기사 ◀
☞ "우유 1리터가 고작 1900원" 요즘 마트서 불티난 이것
☞ 50대인데 자꾸 깜빡.. 이상민도 겪는 경도인지장애 증상 보니
☞ 팬텀싱어2 성악가 조민웅, 사망 비보 뒤늦게 전해져
☞ 잘나가던 토종 브랜드의 추락.. 살길 찾는 ‘K밀폐용기
☞ [단독]“○○○에게 당했다”.. 티켓사려다 33억 뜯긴 4천명

[바이오 성공 투자 1%를 위한 길라잡이 팜이데일리]
[새로워진 이데일리 연재 시리즈 취향대로 PICK하기]
[뉴땡 Shorts 아직 못봤어? 뉴스가 땡길 때, 1분 순삭!]
[10대의 뉴스는 다르다. 하이스쿨 커뮤니티 하이니티]
[다양한 미국 주식정보! 꿀 떨어지는 이유TV에서 확인!]
[빅데이터 AI트레이딩 솔루션 매직차트]

<ⓒ종합 경제정보 미디어 이데일리 - 무단전재 amp; 재배포 금지>


김현아 chaos@

댓글목록

등록된 댓글이 없습니다.

회원로그인

회원가입

사이트 정보

회사명 : 원미디어 / 대표 : 대표자명
주소 : OO도 OO시 OO구 OO동 123-45
사업자 등록번호 : 123-45-67890
전화 : 02-123-4567 팩스 : 02-123-4568
통신판매업신고번호 : 제 OO구 - 123호
개인정보관리책임자 : 정보책임자명

접속자집계

오늘
2,102
어제
2,129
최대
3,806
전체
661,162
Copyright © 소유하신 도메인. All rights reserved.