로보택시 안전은 차 안의 운영체제에서 시작한다

로보택시 이야기는 보통 “차가 얼마나 잘 보나”에서 시작해. 카메라와 라이다가 보행자를 놓치지 않는지, AI가 끼어드는 차를 예측하는지, 이상한 도로 상황을 처리하는지.

그런데 NVIDIA가 Halos OS를 설명하면서 밀고 있는 초점은 조금 달라. 로보택시 안전은 모델이 똑똑하다는 말만으로는 부족하고, 그 모델이 올라타는 운영체제와 검증 구조까지 인증 가능한 형태로 짜여야 한다는 쪽이야.¹

무슨 일

NVIDIA는 2026년 6월 10일 글에서 Halos OS를 자율주행차용 안전 기반으로 소개했어. Halos OS는 DRIVE Hyperion 위에 올라가는 로보택시용 소프트웨어 스택이고, 더 넓은 Halos 안전 시스템의 한 구성 요소로 설명돼.¹

같은 글에는 로보택시 프로그램이 여러 지역에서 늘고 있다는 신호도 같이 들어 있어. Uber와 Autobrains는 뮌헨에서 DRIVE Hyperion 기반 로보택시 프로그램을 시작한다고 했고, Foxconn은 대만에서 NVIDIA와 로보택시 배치를 넓힌다고 했어. VinFast는 동남아 시장용 레벨 4 차량에, HUMAIN은 사우디아라비아 로보택시에 DRIVE Hyperion을 붙이는 그림으로 등장해.¹

이 발표를 단순한 “자율주행 모델 발표”로 읽으면 놓치는 게 있어. NVIDIA가 전면에 세운 것은 모델 하나가 아니라, 차량 안쪽 OS부터 클라우드 검증 인프라까지 이어지는 안전 묶음이야.

flowchart TB
    A["Halos Core<br/>인증 가능한 OS·격리"]
    B["Halos SDK<br/>센서·차량 인터페이스 표준화"]
    C["Halos Applications<br/>규칙 기반 안전 가드레일"]
    D["Halos Infra / SEF<br/>훈련·시뮬레이션·검증"]
    E["로보택시 배포<br/>DRIVE Hyperion 차량"]

    A --> B
    B --> C
    C --> D
    D --> E

왜 중요한가

자율주행 안전은 모델 성능 경쟁처럼 보이지만, 실제 배포 문턱은 더 지저분해. 센서가 바뀌면 데이터 형식이 달라지고, 차량 제어 계층과 자율주행 계층이 어긋날 수 있고, 한 기능의 오류가 제동·조향 같은 안전 핵심 기능으로 번지면 안 돼.

그래서 NVIDIA가 강조하는 첫 번째 층은 Halos Core야. 회사는 이 OS 기반이 자동차 기능 안전 표준인 ISO 26262 ASIL D를 따른다고 설명하고, 하이퍼바이저로 안전 핵심 기능을 격리해 고장이 차량 제어로 번지지 않게 한다고 말해.¹

두 번째 층은 Halos SDK야. 로보택시에는 카메라, 레이더, 라이다 같은 센서가 붙고, 각각 속도와 형식이 달라. 센서를 바꿀 때마다 응용 코드가 흔들리면 배포가 느려져. 그래서 NVIDIA는 센서 추상화 계층과 차량 추상화 계층을 넣어, 하드웨어 교체가 자율주행 스택 전체를 흔들지 않게 하겠다고 설명해.¹

세 번째 층은 AI 위의 규칙 기반 가드레일이야. 회사는 AI 모델이 사람처럼 운전 행동을 따라 할 수 있어도, 규제기관은 성능 이상의 것을 요구한다고 말해. 정해진 경계 안에서만 움직이고, 고장을 격리하고, 전체 시스템이 안정적으로 행동한다는 증거가 필요하다는 거지.

확인된 것

확인되는 건 NVIDIA가 자율주행을 Physical AI의 한 갈래로 보면서, 안전을 소프트웨어 스택 전체의 문제로 포장하고 있다는 점이야. Halos Core, SDK, Applications, Infra, Safety Evaluation Framework가 한 묶음으로 제시됐고, DRIVE Hyperion을 쓰는 여러 지역 파트너도 함께 언급됐어.¹

또 하나 확인되는 건 NVIDIA의 자율주행 전략이 차량 안과 데이터센터를 같이 묶는다는 점이야. 글은 DGX를 AI 훈련용, OVX와 Omniverse를 시뮬레이션·합성 데이터용, AGX를 차량 안 실시간 처리용으로 나눠 설명해. 자율주행차 한 대가 아니라, 훈련·시뮬레이션·차량 추론을 잇는 공장 전체를 파는 구조에 가까워.

이건 앞서 본 물리 AI용 에이전트 스킬 발표와도 같은 방향이야. NVIDIA는 자율주행·로봇에서 “모델”만 말하지 않고, 데이터를 만들고, 시뮬레이션하고, 평가하고, 배포하는 반복 루프를 계속 자기 플랫폼 안으로 끌어들이고 있어.

아직 모르는 것

다만 이 발표만으로 “로보택시 안전이 해결됐다”고 읽으면 너무 빨라. Halos OS가 어떤 파트너 차량에 어느 정도 깊이 들어갔는지, 실제 운행에서 사고율·개입률·서비스 중단률이 어떻게 나오는지는 이 글에 나오지 않아.

SEF도 조심해서 읽어야 해. NVIDIA는 이 안전 평가 프레임워크가 연구 논문 330편 이상과 특허 1,000건 이상을 바탕으로 한다고 말하지만, 그 숫자 자체가 실제 배포 안전성을 증명하지는 않아. 중요한 것은 프레임워크의 두께가 아니라, 그 프레임워크로 검증된 차량이 공도에서 어떤 성과를 보이는지야.

그리고 회사가 말하는 “설명 가능성”도 아직 열린 질문이야. Alpamayo 계열 모델이 도로 상황을 평가하고 다음 행동을 계획한다고 설명하지만, 체인오브소트처럼 보이는 설명이 규제기관과 사고 조사에서 실제 근거로 받아들여질지는 별개 문제야.

다음에 볼 것

첫째, DRIVE Hyperion 기반 로보택시 프로그램이 실제 도시 운행 숫자로 이어지는지 봐야 해. 차량 수, 운행 지역, 무인 운행 시간, 사람이 개입한 빈도 같은 지표가 나와야 그림이 커져.

둘째, Halos OS의 인증·표준화 주장이 고객 선택으로 이어지는지 봐야 해. 센서나 차량 플랫폼을 바꿔도 통합 시간이 줄고, 같은 안전 구조를 여러 제조사가 반복 채택한다면 NVIDIA의 플랫폼 위치가 강해져.

셋째, 안전 평가가 마케팅 언어를 넘어 사고 조사와 규제 승인에서 쓸 수 있는 근거로 남는지 봐야 해. 로보택시의 다음 문턱은 “잘 달린다”가 아니라 “왜 안전하다고 말할 수 있는가”에 가까우니까.

지금 단계에서 이 발표의 핵심은 이거야. 로보택시 안전은 AI 모델 하나의 성적표가 아니라, 운영체제·센서 인터페이스·규칙 기반 가드레일·시뮬레이션 검증이 같이 움직이는 시스템 문제가 되고 있어.

각주

1. NVIDIA/Riccardo Mariani, 「For Robotaxis, Safety Must Be Built In, Not Bolted On」(2026-06-10) NVIDIA Blog. ↩︎ ↩︎² ↩︎³ ↩︎⁴ ↩︎⁵ ↩︎⁶