‘칩’에서 ‘랙’으로 판 커진 AI 인프라… AMD, 통합 솔루션으로 생태계 종속성 깬다

[산업일보]
인프라 시장의 경쟁 구도가 개별 반도체 칩 연산에서 ‘랙(Rack)’ 단위의 통합 시스템으로 옮겨가고 있다. AMD는 현지시각 23일 미국 샌프란시스코에서 열린 ‘어드밴싱 AI(Advancing AI·AAI) 2026’에서 데이터센터 연산부터 산업용 기계 제어까지 아우르는 풀스택 컴퓨팅 포트폴리오를 공개하며 개방형 인프라 주도권 선점에 나섰다.

AMD는 대규모 코드 수정이 필요 없는 개방형 소프트웨어 플랫폼과 맞춤형 하드웨어 참조 설계를 앞세워, 주요 기술 기업과 랙 단위의 인프라 공동 최적화에 돌입했다. 27일에는 과학기술정보통신부와 AI 반도체 생태계 협력을 위한 업무협약(MOU)을 맺고 국내 생태계와의 밀착 행보도 구체화했다.


이번 발표의 핵심 제품인 ‘AMD 헬리오스(Helios)’는 72개의 ‘인스팅트 MI455X’ GPU와 18개의 6세대 ‘에픽(EPYC)’ CPU, 네트워킹 장비, 개방형 소프트웨어를 하나로 결합한 랙스케일 솔루션이다. 하드웨어 자원을 랙 단위로 묶어 추론 및 에이전틱 AI 워크로드 처리의 경제성을 확보하기 위한 아키텍처다. AMD는 헬리오스를 통해 경쟁 제품 대비 달러당 추론 토큰 처리량을 30%가량 높였다고 설명했다.

연산 성능 향상과 더불어 소프트웨어 생태계 종속성을 극복하기 위한 지원 체계도 구체화했다. ‘MI455X’ 가속기는 이전 세대 대비 토큰 처리량을 34배 높였으며, 정밀 연산용 ‘MI430X’ 가속기는 288테라플롭스(TFLOPS)의 부동소수점(FP64) 연산 성능을 낸다. 소프트웨어 부문에서는 ‘ROCm.ai’를 공개해 파이토치(PyTorch), 허깅 페이스(Hugging Face) 등 오픈소스 프레임워크를 지원하며, 코딩 에이전트가 플랫폼을 네이티브 수준에서 다룰 수 있도록 개발 환경을 정비했다.

엔터프라이즈 환경에서 기존 아키텍처에 익숙한 고객사의 전환(마이그레이션) 장벽 우려에 대해서도 적극 대응했다. 이진호 AMD 코리아 이사는 본지와의 통화에서 “쿠다(CUDA) 등 기존 환경에서 운용하던 소프트웨어 솔루션을 ROCm.ai로 전환할 때 대규모 코드 수정이 발생하지 않도록 유연한 이주를 지원하고 있다”며 “국내 파트너사인 ‘망고부스트’ 등을 통해서도 가속기 도입 시 초기부터 제 성능을 낼 수 있도록 돕는 중”이라고 말했다.

대규모 전력 소비를 동반하는 랙 단위 인프라의 특성을 고려해 데이터센터 전력 및 냉각 설계의 확장성도 염두에 뒀다. 이 이사는 “헬리오스는 고객사가 인프라 도입 시 기반으로 삼을 수 있는 참조 설계 모델”이라며, “HPE나 델, 레노버 등 시스템 통합(SI) 파트너사나 고객사의 개별 데이터센터 여건에 맞춰 전력 공급과 냉각 방식을 다변화할 수 있다”고 설명했다.


클라우드부터 엣지 로보틱스에 이르는 기술 확장에 발맞춰 글로벌 기술 기업과의 공조도 시스템 단위로 전개된다. ‘오픈AI’는 자사 프레임워크와 개방형 소프트웨어를 공동 최적화해 올해 4분기부터 헬리오스를 도입한다. ‘앤트로픽’은 헬리오스 솔루션에 2기가와트 규모의 GPU를 구축하며, ‘세레브라스’는 자사의 저지연 기술을 헬리오스 인프라와 결합해 연산 효율을 높인다. 단순 칩 공급을 넘어 랙 단위의 맞춤형 공동 설계가 이뤄지고 있는 셈이다.

AI 적용 범위가 가상 서버를 넘어 산업 현장의 설비와 기계로 이식되는 ‘피지컬 AI’ 대응 기술도 제시했다. AMD는 인지, 추론, 제어 기능을 융합해 물리적 환경에서의 연산을 돕는 ‘AMD 크리아(Kria) AI 솔루션’을 내놓았다. 여기에 ‘라이젠 AI 임베디드 X100’ 프로세서를 탑재한 시스템 온 모듈(SOM)을 제공해, 시각-언어-행동(VLA) 모델 기반 휴머노이드 로봇이나 자동화 기계의 프로토타입을 설계할 수 있는 턴키 플랫폼을 꾸렸다.

이 같은 개방형 인프라 전략은 과기정통부와의 협약을 통해 국내 반도체 생태계 실증 사업으로도 이어진다. 정부는 AMD의 CPU·GPU와 국내 기업이 개발한 신경망처리장치(NPU)를 함께 사용하는 이기종 AI 컴퓨팅 인프라를 구축하고 성능을 검증하기로 했다. 작업 특성에 따라 전체 제어는 CPU, 대규모 병렬 연산은 GPU, 추론은 NPU에 나눠 맡겨 처리 속도를 높이고 전력 소비를 줄이는 방식이다.

아울러 AMD는 국내에 ‘인공지능 우수 연구센터’를 세워 기업과 대학 등의 기술 검증을 돕고 국가과학AI연구센터와 공동 연구를 진행할 계획이다. AMD는 이처럼 데이터센터와 엣지를 아우르는 기술 확장을 바탕으로, 2030년경 관련 총 주소가능시장(TAM)이 2조 달러 규모에 이를 것으로 전망했다.