모델이 답을 내기 전에 얼마나 계산하게 두느냐가 정확도와 비용을 가른다는 개념을, OpenAI가 공개한 추론 모델의 벤치마크 결과로 짚습니다.
칩 하나를 웨이퍼 크기로 통째로 만들어 GPU 클러스터보다 빠른 AI 추론을 판다고 주장하는 회사, Cerebras를 정리한다. 최신 시스템 CS-4의 설계와 OpenAI 등 소수 고객 의존 구조를 함께 짚는다.
NVIDIA의 5세대 GPU 아키텍처 Blackwell을 공식 스펙과 델라웨어대의 독립 마이크로벤치마크 논문으로 함께 짚는다 — 회사가 내세우는 배율과 실측 수치가 어디서 갈리는지가 핵심이다.
표본 분포와 통계량에 대해 이해한다. 추론 (inference) 표본을 가지고 모집단의 특성(모수)를 예측하는 것 통계학의 핵심은 내가 원하는 집단의 특징을 알아내는 것이다.
통계적 추론에 대해 이해한다. 통계적 추론 표본이 갖고 있는 정보를 분석하여 모수에 관한 결론을 유도하고, 모수에 대한 가설의 옳고 그름을 판단하는 것 추정의 방법 모수를 추정하는 방법에 대해서 알아본다. 점 추정 모수를 추정하기 위해 하나의 값을 제안한다.