엔비디아 GPU 없어도 AI학습 길 열었다 > IT/과학기사 | it/science

고가의 데이터센터급 그래픽처리장치GPU나 고속 네트워크 없이도 인공지능AI 모델을 효율적으로 학습할 수 있는 기술이 국내연구진에 의해 개발됐다.

카이스트총장 이광형는 전기및전자공학부 한동수 교수 연구팀이 일반 소비자용 GPU를 활용해, 네트워크 대역폭이 제한된 분산 환경에서도 AI 모델 학습을 수십에서 수백 배 가속할 수 있는 기술을 개발했다고 19일 밝혔다.

AI 모델을 학습하기 위해 개당 수천만 원에 달하는 고성능 서버용 GPU인 엔비디아 H100, A100이나 이들을 연결하기 위한 400Gbps급 고속 네트워크를 가진 고가 인프라가 필요하다. 자본이 풍부한 빅테크대형 정보기술 기업들은 수만대의 GPU를 사들여 AI를 학습하는 반면 대부분의 기업과 연구자들은 비용 문제로 이러한 고가의 인프라를 도입하기 어려웠다.

한동수 교수 연구팀은 이러한 문제를 해결하기 위해 스텔라트레인StellaTrain이라는 분산 학습 프레임워크를 개발했다. 이 기술은 고성능 일반 PC 이용자들이 사용하는 소비자용 GPU 여러 대를 활용해, 고속의 전용 네트워크 대신 대역폭이 수백에서 수천 배 낮은 일반 인터넷 환경에서도 효율적인 분산 학습을 가능하게 한다. 대규모 AI 모델 학습 시 고급 GPU가 없으면 속도가 수백 배 느려지는 문제를 해결한 것이다. 연구팀은 스텔라트레인 기술을 사용하면 기존의 데이터 병렬 학습에 비해 최대 104배 빠른 성능을 낼 수 있다고 설명했다.

한동수 교수는 "이번 연구가 대규모 AI 모델 학습을 누구나 쉽게 접근할 수 있게 하는 데 큰 기여를 할 것"이라며 “앞으로도 저비용 환경에서도 대규모 AI 모델을 학습할 수 있는 기술 개발을 계속할 계획”이라고 말했다. 한 교수는 스텔라트레인을 개발자 플랫폼인 깃허브에 오픈소스로 공개해 누구나 사용할 수 있도록 했다.

이번 연구는 KAIST 임휘준 박사, 예준철 박사과정 학생, UC 어바인의 산기타 압두 조시Sangeetha Abdu Jyothi 교수와 공동으로 진행됐으며, 연구 성과는 지난 8월 호주 시드니에서 열린 ACM SIGCOMM 2024에서 발표됐다.

백종민 기자 cinqange@asiae.co.kr

[관련기사]
☞ "중국 아니고 한국이라니"…버스서 구멍난 양말 신고 두 다리 쭈욱
☞ "친구집서 물 마셨다가…폐 망가지고 매일 알약만 16개 먹어"
☞ "귀신 믿어라", "정액 아껴써라"…난방공사 인문학 강연 논란
☞ 홍삼도 과일도 아니었다…폭염 추석에 불티나게 팔린 이것
☞ 유재석·유해진·임영웅이 선택한 수십억짜리 집…대출 없이 내돈내산

▶ 2024년 사주·운세·토정비결 확인!
▶ 종목 시세부터 실시간 환율까지, 한눈에 보는 시세판

lt;ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제www.asiae.co.kr 무단전재 배포금지gt;