AI 모델은 한 번 훈련하고 끝나는 제품이 아니게 됐어. NVIDIA는 NVIDIA Vera Rubin을 소개하면서, 에이전트가 실제 환경에서 부딪히는 문제를 계속 학습하는 비용을 전면에 내세웠어. 모델이 코드를 쓰고, 여러 단계의 일을 계획하고, 도구를 사용하고, 실패 뒤에 다시 시도하는 일을 반복하면 모델을 다듬는 작업도 반복된다는 설명이야.1
여기서 NVIDIA가 꺼낸 표현이 지능당 비용(intelligence per dollar)이야. 지금까지 AI 인프라를 볼 때 자주 쓰던 토큰당 비용보다 한 단계 위의 질문을 던지는 말이지. 답변 토큰 하나를 싸게 만드는 것뿐 아니라, 그 답변을 더 잘 만들도록 모델을 계속 다듬는 비용까지 같이 보자는 거야.
왜 post-training이 계속되는가
처음 대규모 데이터를 읽히는 pretraining은 모델에게 다음 토큰을 예측하는 능력을 줘. 그 다음 단계인 post-training에서는 코드 작성, 여러 단계의 계획, 검색 도구 사용, 실패에서 회복하는 행동을 익힌다고 NVIDIA는 설명해.1
에이전트가 놓인 환경은 고정돼 있지 않아. 사용하는 도구가 바뀌고, 실제 서비스에서만 드러나는 예외가 생기고, 배포마다 코드와 정책이 달라져. 그래서 운영 중 발견한 문제를 다시 학습 과정으로 돌려보내는 순환이 필요하다는 논리야. 한 번의 훈련 작업이 특별히 커지지 않아도, 작업이 멈추지 않으면 전체 계산량은 계속 쌓일 수 있어.1
NVIDIA가 말하는 강화학습 방식에서는 모델이 먼저 문제를 풀어보는 forward pass를 거쳐. 시도가 보상으로 평가되면 그 결과가 가중치를 바꾸는 backward pass로 이어지고, 이 과정을 수백만 번 반복해. 수천 개 환경에서 시도를 동시에 만들고, 보상을 확인하고, 바뀐 가중치를 다시 훈련에 보내야 하니 모델 구조만의 문제가 아니라 계산을 조율하는 문제이기도 해.1
토큰당 비용보다 한 층 위의 계산
추론 비용은 모델이 답을 만들어 내는 운영 비용이야. NVIDIA는 이를 토큰 100만 개를 전달하는 데 드는 총비용으로 설명해. 반면 지능당 비용은 서비스할 가치가 있는 모델을 만드는 데 얼마가 들고, 환경이 바뀐 뒤에도 그 가치를 유지하는 데 얼마가 드는지를 묻는 개념이야.1
둘은 경쟁하는 지표가 아니야. 추론 토큰당 비용이 내려가면 post-training에서 같은 돈으로 더 많은 시도를 돌릴 수 있어. 더 많은 시도가 모델의 능력으로 이어지면, 이후 서비스하는 각 토큰의 가치도 달라질 수 있고. NVIDIA는 이 관계를 운영 수율과 모델 지능에 대한 투자 수익의 관계로 묶어 설명해.1
이 관점에서 AI 팩토리는 단순히 GPU를 모아둔 데이터센터가 아니야. 학습과 추론 사이를 계속 오가며 모델을 개선하고, 그 결과를 다시 서비스에 투입하는 생산 과정에 가까워져. 다만 이 글에서 확인되는 건 NVIDIA가 제시한 계산 방식과 플랫폼의 방향이지, 이 지표가 업계의 표준으로 자리 잡았다는 사실은 아니야.
Vera Rubin이 내세운 숫자
NVIDIA는 5500억 개 파라미터를 가진 공개 가중치 혼합 전문가 모델 Nemotron 3 Ultra가 SWE-bench Verified에서 71.7%를 기록했다고 소개해. 이 벤치마크에서는 오픈소스 프로젝트의 실제 버그를 고치고, 프로젝트 자체 테스트로 수정이 작동하는지 확인한다고 설명하지. 다만 200억 개 rollout 토큰이라는 계산 예시는 이전 세대 Nemotron 3 Super의 rollout 수와 토큰 길이를 바탕으로 확장한 가정이라고 NVIDIA가 명시해.1
플랫폼 비교에서 Vera Rubin은 Blackwell 세대보다 가장 큰 모델을 훈련하는 데 필요한 GPU 수를 4분의 1로 줄이는 방향으로 소개돼. 더 많은 rollout을 한 번에 만들고, 더 많은 환경을 동시에 돌리고, post-training과 추론 사이의 반복을 빠르게 하도록 처음부터 함께 설계했다는 게 NVIDIA의 주장이지.1 실제로 이 수치가 어떤 모델 크기·정확도·전력·응답 시간 조건에서 성립하는지는 발표문만으로는 알 수 없어.
파트너 사례가 보여주는 것과 숨기는 것
Prime Intellect는 Blackwell에서 공개 모델을 계속 post-training하고, Vera Rubin에서는 강화학습 환경과 rollout 규모를 키울 계획이라고 밝혔어. 이 회사는 현실적인 강화학습 샌드박스 작업을 다른 x86 아키텍처와 비교했을 때, Vera가 CPU 한 개당 평균 30% 높은 처리량을 냈다고도 설명해.1
Perplexity의 사례에서는 수백 개 NVIDIA GPU에서 강화학습 post-training을 비동기로 돌리고, RDMA 기반 가중치 전송 엔진으로 1조 파라미터 모델을 훈련 노드와 추론 노드 사이에서 2초 안에 동기화한다고 NVIDIA가 전해. Together AI는 지도 미세조정, 강화학습, 직접 선호 최적화를 API와 SDK로 제공하고 있으며 Vera Rubin을 다음 플랫폼으로 활용할 계획이라고 했어.1
이 사례들이 보여주는 건 post-training이 칩 하나의 벤치마크가 아니라, 환경 생성·보상 확인·가중치 이동·추론 서빙을 잇는 시스템 문제라는 점이야. 반대로 각 사례의 전체 비용, 같은 조건에서의 대체 플랫폼 성능, 실제 운영 기간은 이 발표에 담겨 있지 않아. 파트너의 계획과 회사가 제시한 비교 수치는 실제 배포 결과와 분리해서 읽어야 해.
다음에 볼 것
Vera Rubin의 설명을 확인하려면 GPU 개수 하나만 보면 부족해. 같은 모델과 같은 품질 조건에서 post-training 반복 횟수를 얼마나 늘릴 수 있는지, 훈련에서 추론으로 가중치를 옮기는 시간이 실제 서비스에서도 유지되는지, 전력과 운영 비용을 합친 뒤 지능당 비용이 어떻게 달라지는지를 봐야 해.
NVIDIA가 이번 발표에서 바꿔 부른 것은 비용의 이름만은 아니야. AI 인프라의 생산량을 토큰 수로만 세지 말고, 그 토큰을 만드는 모델의 능력이 얼마의 반복 학습 비용으로 만들어졌는지까지 보자는 제안이야. 이 계산이 실제 고객 운영 지표와 독립적인 비교에서도 반복될 때, Vera Rubin의 핵심 주장이 플랫폼 세대 교체 이상의 의미를 갖는지 알 수 있어.
댓글