AMD 헬리오스는 GPU 한 장이 아니라 데이터센터 한 랙으로 경쟁한다

AI 가속기 경쟁을 GPU 한 장의 성능표로만 보면 헬리오스가 잘 안 보여. AMD가 2026년 처음 내놓은 랙 규모 AI 시스템은 GPU 72개와 CPU 18개를 한 랙에 넣은 7,000파운드짜리 장비야. 방송에서 소개된 추정 가격은 한 대에 500만~550만 달러였어.¹

이 장비의 핵심은 GPU 숫자보다 네 가지를 한 번에 묶었다는 것이야. AMD는 GPU, CPU, 네트워킹, 소프트웨어를 직접 다루는 회사라는 점을 헬리오스의 구성으로 보여주려 해. AMD가 NVIDIA의 GPU 한 장과 맞붙는 게 아니라, AI 데이터센터에 들어가는 한 랙 전체를 제안하는 셈이지.

랙 안에는 무엇이 들어가나

헬리오스는 18개의 컴퓨트 트레이와 6개의 스위치로 구성돼. 각 트레이에는 GPU 4개와 베니스 CPU 1개가 들어가고, GPU 아래에는 액체가 흐르는 구리 콜드 플레이트가 열을 식혀. 고객 필요에 따라 네 가지 기본 구성으로 맞출 수 있다는 설명도 나왔어.¹

이 구조가 말해주는 건 단순해. AI 시스템은 가속기만 꽂으면 끝나는 물건이 아니라는 거야. GPU 사이의 통신, CPU가 작업을 나누는 방식, 네트워크 지연, 열을 빼는 장치가 함께 작동해야 실제 서비스가 돌아가.

AMD는 특히 AI가 질문에 답하는 챗봇에서 여러 작업을 조율하는 에이전트형 시스템으로 옮겨가면 CPU의 역할이 커진다고 설명해. EPYC가 GPU에 일을 공급하고 전체 시스템을 조율한다는 주장이야. 이건 AMD가 오래 해온 CPU 사업을 헬리오스 안에서 다시 쓰는 방식이기도 해.¹

고객은 이미 문을 열었지만

헬리오스는 아직 첫 세대 시스템이야. 그런데 Meta, OpenAI, Oracle이 올해 배치를 약속했고, Microsoft도 데이터센터에 헬리오스를 들이기로 했어. Meta는 AMD GPU를 최대 6기가와트까지 쓰겠다고 발표했고, 그중 1기가와트는 올해 헬리오스 랙으로 배치될 예정이라고 방송은 전했어. TCS도 장기적으로 헬리오스를 쓰겠다고 했고.¹

이 약속들은 AMD에 출발점을 만들어줘. 실제로 텍사스 데이터센터에는 헬리오스 랙 85개가 들어오고, 추가 확장도 계획돼 있다고 했어. 다만 고객이 계약했다는 사실과 대규모 서비스에서 안정적으로 쓴다는 사실은 같지 않아. 첫 세대 시스템인 만큼 성능과 고장률을 검증해야 한다는 지적도 함께 나왔어.¹

AMD가 넘어야 할 가장 큰 벽은 여전히 AI 공장의 소프트웨어 층이야. NVIDIA는 CUDA 생태계를 오랫동안 넓혀 왔고, 인터뷰에 나온 한 관계자는 CPU와 GPU 자체는 비슷해도 소프트웨어와 최적화에서 NVIDIA가 상당히 앞서 있다고 평가했어. AMD는 ROCm으로 PyTorch, vLLM, SGLang 같은 공개 프레임워크를 지원하며 다른 길을 내려고 해. 하지만 공개 표준을 쓰는 것과 개발자가 이미 익숙한 생태계를 바꾸는 것은 다른 문제야.¹

가격보다 먼저 계산해야 할 것

헬리오스의 가격은 AMD가 공식적으로 밝힌 값이 아니야. 방송에서 인용한 Futurum Group의 추정치는 NVIDIA Vera Rubin의 350만~400만 달러보다 높아. AMD가 내세우는 비교 기준은 장비 가격이 아니라 전체 소유 비용과 토큰 하나를 처리하는 비용이야. 더 많은 메모리와 처리량으로 실제 비용을 낮출 수 있다면 비싼 랙도 고객의 계산표에 들어갈 수 있다는 논리이지.¹

그 계산에는 전력과 냉각도 들어가. 헬리오스 한 랙은 대략 22만5,000~24만5,000와트의 전력을 쓰고, 소개된 시설은 분당 약 750갤런의 냉각수를 순환시켜. 해당 시설은 물을 버리지 않는 폐쇄형 순환 시스템이라고 설명했지만, AI 인프라의 비용이 칩 구매로 끝나지 않는다는 사실은 분명해.¹

생산할 수 있어야 경쟁이 된다

성능과 고객 계약만으로는 헬리오스가 완성되지 않아. MI455 GPU는 TSMC의 2나노미터 공정에서 만들고, 각 GPU에는 HBM 메모리 12단이 들어가며 최대 432GB를 제공한다고 AMD는 설명했어. HBM을 충분히 확보하는 일, 칩을 연결하는 첨단 패키징, 랙 안의 통신 속도까지 모두 생산의 조건이야.¹

NVIDIA가 TSMC의 선도적인 CoWoS 패키징 용량 대부분을 예약한 가운데, AMD는 5월 대만의 다른 첨단 패키징 업체들에 100억 달러를 투입하기로 했다고 방송은 전했어. AMD가 메모리는 세 주요 공급업체와의 관계로 확보했다고 말한 것도 같은 맥락이야. TSMC의 웨이퍼와 패키징을 실제로 얼마나 안정적으로 받는지가 제품 발표 다음의 현실적인 시험이 돼.

헬리오스는 그래서 NVIDIA를 당장 밀어내는 제품이라기보다, AMD가 데이터센터에서 시스템 회사로 움직일 수 있는지 보여주는 첫 시험대에 가까워 보여. AMD는 시장이 커지고 있어 헬리오스가 NVIDIA의 대체품이면서 추가 장비가 될 수 있다고 말해. 반면 실제 채택을 판단하려면 올해 배치된 랙이 약속한 성능과 안정성을 내는지, 소프트웨어 전환 비용이 낮은지, 전력·패키징·HBM을 감당하며 계속 생산할 수 있는지를 봐야 해.

결국 다음 장면은 발표 무대가 아니라 고객 데이터센터에서 나올 거야. 헬리오스가 몇 대 팔렸는지보다, 그 랙이 실제 AI 작업을 얼마나 안정적으로 처리했고 고객의 토큰 비용을 얼마나 낮췄는지가 AMD의 첫 랙 규모 경쟁을 설명해줄 지표야.

각주

1. CNBC, “Helios Is AMD’s First AI System To Rival Nvidia Vera Rubin — We Got An Exclusive, First Look”, 2026-07-21, YouTube. ↩︎ ↩︎² ↩︎³ ↩︎⁴ ↩︎⁵ ↩︎⁶ ↩︎⁷ ↩︎⁸ ↩︎⁹