AI 시대, GPU에서 IPU로 세대교체 일어날까

[산업일보]
인공지능(AI)시대를 겨냥한 시스템 공급 기업간 경쟁이 치열해지고 있다. 기존 AI 분야 적용에 GPU(Graphics Processing Unit) 기반 시스템이 대세를 이뤘다면, 최근에는 AI 특화를 강조하며 다양한 시스템이 GPU의 아성에 도전장을 내밀고 있다.

IPU(Intelligence Processing Unit) 시스템 공급기업 그래프코어(Grafhcore)는 9일 온라인 기자간담회를 통해 IPU-POD16이 컴퓨터 비전 모델 ResNet-50 훈련에 있어서 엔비디아의 DGX A100을 능가하는 성능을 보여줬다고 주장했다.

엔비디아의 DGX A100은 AI 워크로드를 위한 시스템으로, 5페타플롭스 AI 시스템을 통해 높은 컴퓨팅 밀도, 성능 및 유연성을 제공한다고 알려져 있다.

그래프코어의 페브리스 모이잔(Fabrice Moizan) 글로벌 세일즈 부사장은 이번 간담회를 통해 “그래프코어의 IPU-POD16은 컴퓨터 비전 모델 ResNet-50 훈련에 있어 엔비디아의 DGX A100을 능가하는 성능을 나타냈다.”며 “ResNet-50을 훈련하는데 엔비디아 DGX A100은 29.1분이 걸린데 반해, IPU-POD16은 28.3분을 기록했다.”고 말했다.

“이 같은 결과는 소프트웨어만으로 첫 MLPerf 테스트한 결과 대비 약 24%의 성능 향상을 이룬 것으로, 통상적으로 ResNet-50 모델 학습에 GPU가 사용되고 있다는 점을 감안할 때 이 결과는 매우 주목할 만하다.”고 덧붙였다.

그는 GPU가 AI 기술 분야에 광범위에서 사용되고 있지만 관련 분야는 빠르게 변화하고 있으며 AI 관련 작업을 효율적으로 하기 위해서는 이에 특화된 제품을 사용해야 한다고 강조했다.

이 회사는 이번 간담회에서 최근 출시한 IPU-POD128 및 IPU-POD256에 대한 벤치마크 결과도 공개했다. 이에 따르면, IPU-POD128과 IPU-POD256의 경우 ResNet-50 모델 훈련에 걸린 시간은 각 5.67분, 3.79분이다.

한편, 이 회사는 파트너 네트워크 구축 및 확장에도 힘써왔다며, 한국시장에서는 KT, NHN 등 주요 기업들과 협업하고 있으며, 전세계 기업 및 조직들이 시장 가격동향 예측, 기상현상 예측, 차등 개인정보보호기업 활용 등 다양한 분야에 IPU를 활용하고 있다고 언급했다.