지난 몇 주 AI 인퍼런스 쪽에서 눈에 띄는 숫자가 세 개 나왔어. 인퍼런스는 학습을 끝낸 모델이 실제 질문에 답을 내놓는 단계를 말해. Cerebras가 구동하는 GPT-5.6 Sol이 초당 최대 750개의 출력 토큰을 뽑아내면서도 품질은 떨어뜨리지 않는다는 것, 그 속도가 Anthropic의 Fable 5보다 11배 빠르다는 것, 그리고 오픈AI의 새 모델 아스트라가 10년 넘게 안 풀리던 수학 난제 10개를 GPT-5.6 솔 요금으로 환산해 2000달러어치 토큰으로 풀었다는 것.
세 숫자 다 파는 쪽이 직접 쟀어. 그래서 내 판단은 이거야 — 지금 이 숫자들로는 어느 인퍼런스 하드웨어에 돈을 걸지 가릴 수 없다. 숫자가 틀렸다고 말하는 게 아니야. 이 형태로는 확증도 반증도 할 수 없다는 뜻이지. 판정은 제3자가 같은 조건으로 다시 잴 때, 그리고 감사받는 재무제표에 그 원가가 드러날 때 온다.
왜 지금
이 숫자들이 정당화해야 할 자본의 크기가 같은 시기에 확정되고 있거든. 오픈AI는 전력을 두고 조지아파워와 3.2기가와트 계약을 진행하는 중이고, 인도는 2028년부터 2032년까지 단계로 나눠 받는다고 밝혔어.1 필요한 인프라와 전기 서비스 비용은 전액 자기가 부담하겠다고 했고.1 이 발표에서 상대방이 있는 약속과 회사 혼자 한 약속을 갈라 읽은 글은 OpenAI의 조지아 약속에서 상대방이 있는 건 3.2기가와트 하나야에 있어.
2028년에 시작해 2032년까지 이어지는 인도 일정에 걸린 돈의 회수 논리는 결국 토큰 하나를 얼마에 뽑느냐로 내려와. 그런데 그 단가를 말해주는 공개 숫자가 지금은 전부 파는 쪽 측정이야.
통념과 비대칭
통념은 이래. 속도와 비용 지표가 이렇게 빠르게 좋아지니 인퍼런스 경제성은 이미 개선 국면이고, 웨이퍼 스케일 같은 대안 실리콘이 GPU에서 물량을 떼어올 차례다. 구조 설명만 놓고 보면 그럴듯해. 일반 GPU에서는 모델을 돌릴 때마다 가중치를 온칩 메모리와 오프칩 저장소 사이로 계속 옮겨야 하고 이 데이터 이동이 속도의 병목이 되는데, Cerebras는 웨이퍼 크기 칩 하나에 SRAM 44GB를 얹어서 가중치를 아예 칩 위에 붙박아뒀다고 설명해.2
놓친 건 측정의 손잡이야. test-time compute는 모델이 답을 내놓기 전에 계산을 얼마나 태우게 두느냐인데, 오픈AI가 o1에서 보인 결과를 보면 AIME 정확도가 74%에서 83%, 93%로 오르는 동안 투입한 답 후보 수는 1개에서 64개, 1000개로 훨씬 더 가파르게 늘었어.3 같은 모델이 같은 문제를 푸는데 이 손잡이 하나로 정확도와 비용이 함께 몇 배씩 움직인다는 뜻이야.
그래서 “품질 저하 없이 몇 배 빠르다”는 문장은 이 손잡이를 양쪽에 똑같이 고정했을 때만 성립해. Cerebras의 HLE 비교에서 GPT-5.6 Sol Ultrafast는 Codex 안에서 7월 10일에, Claude Fable 5는 Claude Code 안에서 7월 13~15일에 걸쳐 벤치마크를 돌렸어.2 reasoning 설정은 둘 다 xhigh였지만 하네스도 날짜도 달랐지. GDP-Val에서 나온 5.6배는 7월 31일 medium reasoning으로 잰 별개 측정이고.2 그리고 두 벤치마크 다 Cerebras가 직접 수행했어.2 이 대조를 짚은 글은 GPT-5.6 Sol이 세운 속도 기록, 심사도 Cerebras가 봤어야.
근거 — 검증 경로로 갈라 보면
지금 공개된 숫자를 “누가 쟀나”로 갈라 놓으면 두 칸의 크기가 이렇게 달라.
오른쪽 칸이 비어 보이는 게 지금의 상태야.
왼쪽은 파는 쪽이 자기 발표문 안에서 잰 값들이야. 초당 750토큰,2 Fable 5 대비 11배,2 HLE 2500문제를 11시간 11분에 풀었다는 기록,2 아스트라의 2000달러.4 제3자가 나란히 돌려 확인한 결과는 두 발표 어디에도 없어.24
오른쪽은 이미 외부가 들여다본 숫자야. Microsoft는 2026 회계연도에 Azure 연매출이 처음으로 1000억 달러를 넘겼지만, 클라우드 사업의 매출총이익률은 AI 인프라를 계속 늘리는 부담에 눌려 69%로 내려갔다고 밝혔어.5 감사받는 연차보고서에 실린 숫자라 벤치마크와는 검증 등급이 달라.
한 가지는 못 박아 둘게. 이 69%는 인퍼런스 단가 하나가 만든 숫자가 아니야. 데이터센터 감가상각, 자체 실리콘 투자, 제품 믹스가 다 섞여 있어. 그러니 “인퍼런스가 비싸다”의 증거로 쓰면 안 돼. 이 숫자가 말해주는 건 딱 하나야. 지금 제3자가 검증할 수 있는 유일한 층위에서, AI 인프라는 마진을 깎는 쪽으로 나타난다. 벤더 벤치마크가 그리는 그림과 같은 방향이 아니지.
검증 경로가 실제로 열린 조각도 하나 있어. 오픈AI는 아스트라가 도출한 논리를 증명 검증 도구 ‘린(Lean)’ 형태로 규격화해서 공개했어.4 난제를 풀었다는 서술과 2000달러라는 비용 계산은 회사가 스스로 밝힌 숫자지만,4 규격화된 증명은 그 검증 도구가 밖에서 돌려볼 수 있는 물건이야. 지금 나온 것 중 확인의 문이 열려 있는 건 이거 하나고, 그래서 다음 확인 지표의 첫 자리에 뒀어. 이 갈래를 정리한 글은 오픈AI가 수학 난제를 풀었다는 근거로 내놓은 건 기계가 확인하는 코드였다에 있어.
이 주장이 틀리는 조건
독립 측정이 벤더 숫자를 그대로 확인하면. 발표는 Artificial Analysis가 집계한 출력 속도를 기준으로 배수를 냈다고 밝혔지만, 그 배수 자체는 두 회사가 낸 거야.2 독립 기관이 Ultrafast 등급을 직접 돌려 비슷한 값을 내놓으면 “파는 쪽이 잰 숫자”라는 내 지적은 힘을 잃어.
구조에서 오는 우위는 측정 주체와 무관해. 가중치를 칩 위에 붙박아 데이터 이동을 줄인다는 설명은2 누가 재든 방향을 갖는다. 내가 다투는 건 배수의 크기지 방향이 아니야 — 방향까지 부정하면 그건 내 주장이 과한 거다.
Lean 증명이 외부에서 확인되면 아스트라 쪽 주장은 회사의 말에서 확인된 사실로 옮겨간다. 그러면 “전부 자기 말”이라는 표현은 과해져.
다음 확인 지표
2027년 상반기까지, Ultrafast 등급이 일반 공개로 넘어가는지. 지금은 일부 고객에게만 열려 있고 접근 범위는 시간이 지나며 넓어질 예정이야.2 제한 공개인 채로 이 시한을 넘기면 이 등급은 시연에 가깝고, 내 판단은 강해져.
2027년 상반기까지, 제3자가 Ultrafast를 직접 측정한 결과를 내놓는지. 나오면 그 숫자가 배수를 판정한다.
2027년 상반기까지, 아스트라의 Lean 증명을 외부에서 확인했다는 공개 자료가 나오는지.
분기마다, Microsoft 클라우드 매출총이익률이 69%에서 더 내려가는지 도로 올라가는지.5 올라가기 시작하면 AI 인프라 원가가 실제로 내려온다는, 감사 가능한 첫 신호가 돼.
판단 고지
개인 판단 기록이고 투자 추천이 아니다.
각주
-
OpenAI, 「Building AI infrastructure with the Effingham County community」(2026-07-22) 발표문 ↩︎ ↩︎2
-
Cerebras, 「Accelerating GPT-5.6 Sol Ultrafast」(2026-08-14 확인) 블로그 ↩︎ ↩︎2 ↩︎3 ↩︎4 ↩︎5 ↩︎6 ↩︎7 ↩︎8 ↩︎9 ↩︎10 ↩︎11
-
전자신문, 「오픈AI, 차세대 AI ‘아스트라’ 출격 예고… 10년묵은 수학 난제 10개 풀었다」(2026-08-03) 기사 ↩︎ ↩︎2 ↩︎3 ↩︎4
-
Microsoft, 「2025 Annual Report (Form 10-K)」(2025) 연차보고서 ↩︎ ↩︎2
댓글