KAIST, GPU 없이 AI 학습속도 104배 높인 기술개발 > IT/과학기사 | it/science

국내 연구진이 고가의 데이터센터급 GPU나 고속 네트워크 없이도 인공지능AI 모델을 효율적으로 학습할 수 있는 기술을 개발했다. 이 기술을 통해 자원이 제한된 기업이나 연구자들이 AI 연구를 보다 효과적으로 수행할 수 있을 것으로 기대된다.

KAIST는 한동수사진 전기및전자공학부 교수 연구팀이 일반 소비자용 GPU를 활용, 네트워크 대역폭이 제한된 분산 환경에서도 AI 모델 학습을 수십~수백배 가속할 수 있는 기술을 개발했다고 19일 밝혔다.

기존에는 AI 모델을 학습하기 위해 개당 수천만원에 달하는 고성능 서버용 GPU엔비디아 H100 여러 대와 이들을 연결하기 위한 400Gbps급 고속 네트워크를 가진 고가 인프라가 필요했다. 하지만 소수의 거대 IT기업을 제외한 대부분의 기업과 연구자는 비용 문제로 이러한 고가의 인프라를 도입하기 어려웠다.

연구팀은 이러한 문제를 해결하기 위해 ‘스텔라트레인StellaTrain’이라는 분산 학습 프레임워크를 개발했다. 이 기술은 고성능 H100에 비해 10~20배 저렴한 소비자용 GPU를 활용, 고속의 전용 네트워크 대신 대역폭이 수백에서 수천 배 낮은 일반 인터넷 환경에서도 효율적인 분산 학습을 가능하게 한다.

기존 저가 GPU를 사용할 경우, 작은 GPU 메모리와 네트워크 속도 제한으로 인해 대규모 AI 모델 학습 시 속도가 수백배 느려지는 한계가 있었다. 하지만 연구팀이 개발한 스텔라트레인 기술은 CPU와 GPU를 병렬로 활용해 학습 속도를 높이고, 네트워크 속도에 맞춰 데이터를 효율적으로 압축·전송하는 알고리즘을 적용해 고속 네트워크 없이도 여러 대의 저가 GPU를 이용해 빠른 학습을 가능하게 했다.

특히 학습을 작업 단계별로 CPU와 GPU가 나누어 병렬적으로 처리할 수 있는 새로운 파이프라인 기술을 도입해 연산 자원의 효율을 극대화했다.

또 원거리 분산 환경에서도 GPU 연산 효율을 높이기 위해, AI 모델별 GPU 활용률을 실시간으로 모니터링해 모델이 학습하는 샘플의 개수배치 크기를 동적으로 결정하고, 변화하는 네트워크 대역폭에 맞추어 GPU 간의 데이터 전송을 효율화하는 기술을 개발했다.

연구 결과 스텔라트레인 기술을 사용하면 기존 데이터 병렬 학습에 비해 최대 104배 빠른 성능을 낼 수 있는 것으로 나타났다.

한 교수는 “이번 연구가 대규모 AI 모델 학습을 누구나 쉽게 접근할 수 있게 하는 데 큰 기여를 할 것”이라며 “앞으로도 저비용 환경에서도 대규모 AI 모델을 학습할 수 있는 기술 개발을 계속할 계획”이라고 말했다.

KAIST 전기및전자공학부의 임휘준 박사, 예준철 박사과정생, UC 어바인의 산기타 압두 조시 교수가 참여한 이번 연구 결과는 지난 8월 호주 시드니에서 열린 국제 학술대회 ‘ACM 시그콤SIGCOMM 2024’에서 발표됐다. 구본혁 기자

nbgkoo@heraldcorp.com

[베스트 클릭! 헤럴드 경제 얼리어답터 뉴스]
▶ "해외계좌로 53억원 은닉" 장근석 모친 연예기획사, 2심도 패소
▶ ‘오징어게임’ 정재일·츠베덴 서울시향 음악감독, 마침내 만난다
▶ “아이유~ 착한 사람!” IU 또 통큰 기부 2.25억원
▶ “승무원은 절대 안 먹어”…기내 ‘더러운 비밀’ 폭로한 美 조종사, 대체 뭐길래?
▶ “이런 변이 있나”…야구장 관중석에서 발견된 ‘인분’ 누리꾼들 충격
▶ “돈은 세컨드한테만” “男 정액 총량 정해져 있어”…황당한 공기업 인문학 강연
▶ “명절에 갈 시댁 없어 슬퍼”…‘비혼’ 유튜버, 한달 넘게 해외여행하며 기혼자 ‘조롱’?
▶ “한국 맞냐” 매장 앞 남의 음료 벌컥벌컥 마신 남성, 누리꾼 ‘경악’
▶ 곽튜브 “오만하고 잘못된 판단” 재차 사과…이나은 두둔 논란 ‘일파만파’
▶ 설마했는데…“연휴 동안 200억 벌었다” 망하던 ‘엔터 명가’ 술렁

Copyright ⓒ 헤럴드경제 All Rights Reserved.