FBI가 찾는 AI 컴퓨터는 한 종류가 아니다

FBI가 AI 슈퍼컴퓨터를 검토하고 있어. 다만 “NVIDIA GPU를 몇 개 산다”는 그림은 너무 좁아. FBI가 낸 정보요청서(RFI)는 대규모 언어 모델 학습과 추론, 고급 분석, 컴퓨터 비전처럼 서로 다른 일을 한 문서 안에 묶고, 그에 맞는 네 가지 시스템을 나눠 제시했어.¹

먼저 선을 그어야 해. RFI는 구매 공고가 아니라 시장에 어떤 제품과 구성이 가능한지 묻는 절차야. FBI도 실제 구매를 보장하지 않는다고 밝혔고, 장비를 한 번에 전부 사기보다 여러 수량과 구성으로 개별 납품을 받을 수 있다고 적었어.¹

네 가지 컴퓨트가 맡는 일

첫 번째 범주는 서버 한 대에 가까운 기본 단위야. Intel Xeon 6767P급 프로세서와 최소 2TB 메모리, NVIDIA HGX B300 8-GPU 조립체, 부팅·데이터용 SSD, 25Gb 이더넷과 BlueField-3 DPU 구성을 요구해. GPU만이 아니라 메모리·저장장치·네트워크까지 한 묶음으로 본다는 뜻이야.¹

두 번째는 랙 전체야. FBI는 GB300 NVL72급 통합 랙 시스템과 가속기 연결망, Spectrum-X급 이더넷, 랙 안이나 옆에 붙는 냉각장치를 요구했어. 정부 시설의 물 냉각 인프라와도 호환돼야 해. 여기서부터는 칩을 고르는 일이 아니라, 서버·네트워크·냉각을 실제 시설에 올리는 일이 돼.¹

세 번째는 AI 팟이야. 문서에는 Google의 TPU v8이나 TPU v7L급 아키텍처가 언급됐고, 성능 기준은 GB300 NVL72 랙 시스템 다섯 개 이상이야. 여러 AI 프레임워크와 모델, 대규모 언어 모델과 기업용 AI 작업을 돌릴 수 있어야 한다는 조건도 붙었어.¹

TPU가 이 문서에 들어온 장면은 눈여겨볼 만해. 기사에 따르면 TPU는 그동안 주로 Google Cloud에서 제공됐고, 온프레미스 제품으로는 Edge 변형을 빼면 흔하지 않았어. Google이 공동 소유한 클라우드와 Fluidstack 데이터센터, 네오클라우드에서 제공될 가능성이 언급되지만, FBI가 지금 당장 온프레미스 TPU를 확보할 수 있는지는 분명하지 않아.¹

네 번째는 추론 전용 가속기야. NVIDIA L40-S급에 최소 48GB GPU 메모리를 갖추고, CNN·임베딩·생성형 AI 추론을 처리해야 해. FP32·FP16·BF16·INT8 혼합 정밀도를 지원하고 CUDA, TensorRT, PyTorch, TensorFlow 같은 프레임워크와 호환돼야 하지. 학습용 초대형 시스템과 현장에서 반복적으로 추론하는 장비를 같은 것으로 보지 않은 셈이야.¹

아직 모르는 것

확인된 건 FBI가 네 가지 조달 범주와 구체적인 하드웨어 조건을 제시했다는 사실이야. 무엇을 몇 대 살지, 실제 공급자가 누구일지, TPU가 온프레미스로 들어갈지는 아직 결정되지 않았어. 네 범주 대부분의 장비는 웨스트버지니아주 클락스버그의 FBI Criminal Justice Information Services 시설로 들어갈 예정이라고 기사는 전해.¹

다음에 볼 것은 RFI가 실제 계약과 납품으로 이어지는지야. 그때는 GPU와 TPU의 이론적 성능보다, 보안 시설의 냉각·네트워크·소프트웨어 조건을 어떤 공급자가 맞추는지가 더 구체적으로 드러날 거야. 이번 문서는 특정 칩의 승자를 선언한 자료라기보다, 정부 AI 컴퓨트 조달이 칩 하나가 아닌 시설 단위의 선택으로 바뀌고 있다는 장면에 가까워.

각주

1. Sebastian Moss, 「FBI considers deploying AI LLM supercomputers with Nvidia B300 GPUs or Google TPUs」(2026-07-14) Data Center Dynamics. ↩︎ ↩︎² ↩︎³ ↩︎⁴ ↩︎⁵ ↩︎⁶ ↩︎⁷ ↩︎⁸