구글 클라우드 "AI 특화된 반도체 TPU 성능 뛰어나…카카오도 쓴다" > IT/과학기사 | it/science

인공지능AI을 원활히 개발하고 구동하기 위한 AI 반도체의 중요성이 날로 커지는 가운데, 구글 클라우드가 자체 개발한 AI 반도체인 ‘텐서처리장치TPU’의 6세대 제품인 ‘트릴리움’으로 고객사 확보에 나섰다.


엔비디아가 여전히 시장의 절대 강자로 꼽히지만, 비용효율성 등을 강점으로 삼아 GPU 확보가 어려운 고객사 등을 공략하는 모습이다. 카카오 또한 AI 모델 라인업인 ‘카나나’ 개발에 구글의 TPU를 사용하고 있다.

모한 피치카 구글 클라우드 그룹 프로덕트 매니저는 16일 오전 온라인으로 진행된 구글 클라우드 온라인 세션에서 “TPU는 보다 전문화된 형태로 신경망 연산 처리에 적합하도록 설계됐다”라며 “트릴리움은 지금까지 출시된 제품 중 가장 강력한 TPU로 이전 세대보다 4.7배의 성능이 향상됐다”라고 설명했다.

트릴리움은 지난해 구글이 공개한 TPU로, 지난해 12월부터 외부 고객들에게도 정식으로 제공되기시작했다. 구글의 AI 모델인 ‘제미나이 2.0’ 학습에도 트릴리움이 쓰인 것으로 파악된다.

피치카 프로덕트 매니저는 “지난해 노벨상을 받은 구글 딥마인드의 알파폴드2 연구에도 TPU가 활용됐다”라며 개선된 성능을 강조했다. 또한 전력 대비 효율성을 보여주는 와트당 성능도 이전 세대 대비 67% 향상됐다는 설명이다.

TPU를 활용하고 있는 외부 고객사로는 AI 기업 앤트로픽과 함께 제약사 바이엘 등이 소개됐다.

국내에서는 카카오가 AI 모델 개발에 TPU를 활용하고 있다. 카카오는 지난 2021년 당시 AI 자회사였던 카카오브레인을 통해 구글의 TPU를 사용하는 등 이전부터 협력을 지속해왔다.

특히 카카오는 지난해 10월 AI 모델을 ‘카나나’로 새롭게 브랜딩하면서 해당 모델 개발에 6세대 제품인 트릴리움을 사용했다.

카카오는 거대언어모델LLM 개발 당시 GPU 기반의 프레임워크를 사용했으나, 트릴리움을 활용하게 되면서 TPU 기반으로 이를 전환했다.

카카오의 AI 엔지니어는 구글 클라우드 블로그를 통해 “카카오 자체적으로도 여러 AI 연구를 위해 GPU를 확보해서 운영하고 있는데 필요한 성능을 넉넉하게 확보하는 것이 쉽지 않았다”라며 모델 설계 과정에서 GPU 부족 문제를 해결한는 데 TPU가 하나의 대안이 되었다고 설명했다.

피치카 프로덕트 매니저는 GPU와 TPU의 차이에 대해 “GPU는 병렬 처리를 통해 대량의 데이터를 처리할 수 있어 AI 분야에서 다양한 용도로 활용된다. TPU는 신경망 연산 처리에 적합하도록 설계되어 AI 워크로드 중에서도 학습이나 추론 관련된 부분에 적합하다”라면서 “딱 하나로 모든 걸 할 수는 없다. 각 고객의 상황에 따라 유연하게 선택할 수 있게끔 다양한 선택지를 제공하는 것”이라고 말했다.

▶ 최준용“ 尹, 무슨 죄 있다고 잡혀가나”...15세 연하 아내는 대성통곡

▶ 尹체포에 홀로 대통령 관저에 남은 김건희 여사…경호는 그대로 제공

▶ 오늘의 운세 2025년 1월 16일 木음력 12월 17일

▶ 어린이집서 친구 치아 부러뜨린 4살…3000만원 배상 청구에 법원 판결은?

▶ [단독]“고객님, 이건 위조품인데요?”…이젠 대형 쇼핑몰도 못 믿는다

[ⓒ 매일경제 amp; mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]