이 문서는 자라는 중인 질문입니다. 아직 증거를 모으고 있으며, 내용이 바뀔 수 있습니다.

AMD Helios는 GPU 한 장이 아니라 랙 전체의 구성으로 소개된 제품이야. AMD는 AI 가속기와 서버 CPU, 네트워크, 소프트웨어를 하나의 랙 규모 아키텍처로 묶고, 전력·액체 냉각 설계까지 함께 제시했어.1

이 이름을 읽을 때는 “MI455X가 얼마나 빠른가”만 물으면 부족해. 어떤 부품이 한 랙 안에서 어떤 경로로 연결되고, 그 설계가 실제 데이터센터에 언제 어떤 워크로드로 들어가는지를 함께 봐야 해.

한 줄로 말하면

AMD Helios는 AMD의 MI455X GPU, 6세대 EPYC ‘Venice’ 서버 CPU, ROCm 소프트웨어, Pensando 네트워크를 묶은 랙 규모 AI 시스템이야.1

무엇인가

Helios는 4OU ORW 랙 안에 18개의 컴퓨트 트레이와 6개의 스위치 트레이를 배치하는 구조로 소개됐어. 각 컴퓨트 트레이에는 MI455X GPU 네 개, 단일 소켓 EPYC 9006 SP7 CPU 한 개, GPU마다 최대 세 개의 Pensando Vulcano 800 AI NIC가 들어가.1

전력과 열도 랙 설계의 일부야. 50V 직류 액체 냉각 버스바와 후면 BlindMate QD 액체 냉각을 쓰고, 전체 무게는 약 2,267킬로그램으로 예상돼.1 칩과 서버를 데이터센터에 내려놓는 문제가 아니라 전원·냉각·통신을 함께 맞추는 장비라는 뜻이야.

왜 계속 등장하는가

Helios는 가속기만 따로 제시하지 않고 서버 CPU, 네트워크, 소프트웨어, 전력·냉각을 한 랙의 구성으로 함께 제시해. AMD의 설명에 따르면 72개 GPU와 31테라바이트의 공유 HBM을 하나의 시스템으로 연결하고, 단일 홉 패브릭을 사용해.1

이 구조가 실제 성능과 비용으로 이어지는지는 아직 별도 질문이야. 하지만 제품이 GPU·CPU·NIC·소프트웨어를 따로 나열하지 않고 하나의 랙 아키텍처로 제시됐다는 점은, AI 인프라의 비교 단위가 랙으로 넓어지는 흐름을 읽는 출발점이 돼.

이 대상을 볼 때의 핵심 축

  • 랙 구성과 연결 방식. GPU 수뿐 아니라 공유 메모리, 스위치 트레이, 네트워크 홉 수를 함께 봐야 해.
  • 전력과 냉각. 액체 냉각 방식이 실제 설치 조건과 운영비에 어떤 제약을 만드는지 확인해야 해.
  • 소프트웨어 결합. ROCm이 하드웨어 구성과 함께 실제 워크로드의 분산 실행·운영을 얼마나 받치는지 봐야 해.
  • 고객 배치. Microsoft가 데이터센터에 Helios를 배치할 계획이라는 보도는 있지만, 고객별 실제 가동 규모와 워크로드는 더 확인해야 해.1
  • 발표 수치와 운영 결과의 구분. AMD는 단일 랙의 FP4·FP8 성능, HBM 용량·대역폭, 토큰당 비용 비교를 제시했지만, 모두 회사가 주장한 발표 수치야. 독립 조건에서 반복되는지는 별도로 확인해야 해.1

최근 관찰된 신호

2026년 7월 AMD는 Helios가 정식 생산에 들어갔고 3분기 말까지 출하될 예정이라고 밝혔어.1 같은 발표에서 AMD는 한 랙에 최대 FP4 2.9엑사플롭스, FP8 1.4엑사플롭스, HBM4 31테라바이트, 초당 1.7페타바이트의 메모리 대역폭을 제시했어.1

AMD는 경쟁 제품인 NVIDIA Vera Rubin NVL72의 공개 사양과 비교해 FP4 성능·HBM 용량·스케일아웃 대역폭 등이 더 높고, 달러당 토큰 처리량도 최대 30% 많다고 주장했어.1 이 비교는 Helios를 읽을 때 참고할 관찰 축이지만, 고객 환경에서의 비용·가동률·처리량을 대신하지는 않아.

헷갈리지 말아야 할 점

  • Helios 발표는 고객 운영 성과와 다르다. 생산 진입과 출하 예정은 확인되지만, 실제 배치 대수와 서비스 처리량까지 공개된 것은 아니야.
  • AMD의 비교 수치는 독립 벤치마크가 아니다. 모델, 정밀도, 냉각, 전력 제한, 소프트웨어 버전이 달라지면 결과도 달라질 수 있어.
  • Helios는 AMD 전체와 같은 말이 아니다. 이 페이지는 AMD의 여러 사업 중 랙 규모 AI 시스템이라는 한 축만 다뤄. EPYC의 일반 서버 시장이나 SEV-SNP는 AMD 페이지에서 따로 봐야 해.
  • 랙 단위 설계가 곧 우위의 증거는 아니다. 시스템 구조는 관찰 대상이고, 어떤 워크로드에서 실제 이점이 반복되는지는 아직 확인할 문제야.

남은 질문들

  • Helios는 Microsoft Azure와 다른 고객의 데이터센터에서 언제부터 어떤 규모로 가동되나?
  • 공유 HBM과 단일 홉 연결은 실제 추론·학습 작업의 지연 시간과 처리량을 얼마나 바꾸나?
  • 랙당 전력·냉각 비용과 가동률은 AMD의 발표 비교 수치와 함께 어떤 결과를 보이나?
  • ROCm과 Pensando 네트워크가 72개 GPU 시스템의 운영 안정성을 실제로 얼마나 뒷받침하나?

이어서 읽기

각주

  1. Data Center Dynamics, “AMD officially launches Helios rackscale system, with MI455X GPUs, Venice Epyc CPUs, and Pensando”, 2026-07-23, 원문. ↩︎ ↩︎2 ↩︎3 ↩︎4 ↩︎5 ↩︎6 ↩︎7 ↩︎8 ↩︎9 ↩︎10