다음 Mythos 전에 AI 위협 정보를 공유하자는 제안

AI의 위험을 둘러싼 다음 충돌은 모델이 얼마나 강한가보다, 정부와 AI 회사가 서로 어떤 정보를 갖고 있는가에서 시작될 수 있어. War on the Rocks에 실린 Rebecca Hersman의 글은 이 빈틈을 메울 상설 조직으로 ‘AI 위협 융합센터(AI Threat Fusion Center)’를 제안해.¹

제안의 출발점은 2026년 6월의 Anthropic Mythos 5 사건이야. Anthropic은 사이버 공격에 쓰일 가능성이 너무 크다고 보고 모델 출시를 늦췄고, 제한된 접근을 제공하는 Project Glasswing을 만들었어. 그런데 6월 12일 미국 정부가 Mythos 5와 안전장치를 붙인 Fable 5의 접근 중단을 요구하면서 상황이 뒤집혔지. 회사는 그 근거가 좁은 탈옥 사례였다고 반박했고, 6월 30일 정부와 합의한 뒤 두 모델의 접근을 복구했어.¹

이 사건에서 저자가 문제 삼는 건 정부와 회사 중 누가 옳았는지만은 아니야. 공통의 사실 기반, 표준 절차, 정보를 나눌 통로가 없어서 그때그때 규칙을 만드는 ‘즉석 경기’가 됐다는 거야. Fable 5 접근 중단 사건에서도 보이듯, 모델의 위험을 판단하는 일은 기술 평가만으로 끝나지 않고 접근 권한과 수출통제의 문제로 이어져.

다음 위험은 사이버가 아닐 수 있어

사이버 위험은 이미 익숙한 공격 유형과 비교적 발달한 정보 공유 구조가 있어. 하지만 프런티어 모델이 단백질 설계와 유전체학 같은 능력을 계속 키우면, 화학·생물·방사능·핵 분야의 위험 임계점에 가까워질 수 있다는 게 글의 문제의식이야. 글은 2025년 한 벤치마크에서 프런티어 모델이 전문 바이러스학자의 94%보다 높은 성과를 냈다고 소개하면서도, 그 수치가 지식 측정이지 무기화 능력의 측정은 아니라고 구분해.¹

그래서 ‘Bio Mythos’ 순간은 사이버 사건과 다르게 전개될 수 있어. 실제 생물학적 오용 사례는 드물고, 사전에 정해진 정부-기업 정보 공유 장치도 없으며, 이중용도 정보와 고도로 민감한 위협 정보가 함께 얽혀 있기 때문이야. 위험에 대한 불안은 커지는데 서로가 보는 맥락은 비어 있는 시간이 생기는 셈이지.

융합센터는 무엇을 하자는 건가

이 글이 말하는 센터는 모든 AI 정책을 한곳에 모으자는 중앙 통제 기구가 아니야. 기존의 Center for AI Standards and Innovation, Frontier Model Forum, 정보공유분석센터 같은 조직과 겹치지 않으면서, 기밀성이 필요한 국가안보 위험 정보를 정부와 프런티어 AI 기업 사이에서 양방향으로 연결하는 구조야.¹

기업은 실제 의심 행위의 패턴, 고위험 프롬프트와 출력, 모델 능력 평가, 정보 위해성에 관한 질문을 공유하고, 정부는 실제 위협 정보로 기업이 안전장치와 평가 방법을 다듬게 도울 수 있어. 센터는 이런 자료를 섞어 위협 평가를 만들고, 위험한 능력의 기밀 평가와 위기 경보도 맡는다는 구상이야.¹

다만 정보 공유라는 이름만으로는 부족해. 글은 공유된 자료가 곧바로 처벌적 규제나 수사에 쓰이지 않도록 방화벽을 두고, 선의로 참여한 기업에는 책임을 덜어주는 안전항을 마련해야 한다고 주장해. 기업이 넘기는 정보도 개인 식별 로그나 독점 정보가 아니라 위협과 직접 관련된 내용으로 제한해야 하고, 미국 시민 정보 보호를 위한 감독과 법적 권한도 필요하다고 봐.¹

현실적인 설계의 제약도 분명해. 기밀 취급 인력과 보안 통신·저장·회의 시설이 필요하고, 모든 회사 구성원에게 민감한 정보를 넓게 풀 수도 없어. 핵심 기밀 인력에 제한적으로 접근시키고, 낮은 등급으로 정리한 정보만 더 넓게 공유하는 ‘tear line’ 절차가 필요하다는 제안이 나와. 반독점·수출통제·비확산 법률 때문에 기업이 정보를 내놓는 순간 법적 위험을 떠안지 않도록 별도 장치도 필요하고.¹

먼저 생물학 위험부터 시험하자는 이유

저자는 한 번에 모든 분야를 포괄하는 거대한 조직을 만들자고 하지 않아. 상대적으로 합의가 모인 생물학 위험부터 시작해 최소한의 기밀 기반과 인력을 갖추고, 탁상훈련으로 정부와 기업이 실제로 정보를 주고받을 수 있는지 시험하자고 해. 이후 새로운 위험과 참여자가 나타날 때 범위를 넓히는 방식이지.¹

글이 제시하는 시간표는 다음 120일이야. 고위급 정부·기업 협의를 빠르게 열고, 기존 국가안보 메모의 정부-민간 협력 과제를 활용해 운영 준비 일정을 정한 뒤, 조직의 거처·기본 규칙·보안 인프라·핵심 인력 선발을 먼저 확정하자는 내용이야. 이건 이미 만들어진 제도의 보고가 아니라, 저자가 다음 위기 전에 준비하자고 내놓은 설계안이야.

아직 확인할 것은 이 제안이야. 실제로 어떤 기관이 참여할지, 기밀 정보의 안전항과 감독을 누가 설계할지, 기업이 어느 수준의 정보를 자발적으로 내놓을지는 글만으로 정해지지 않아. 다만 AI 안전장치를 모델의 응답 필터에만 가두지 않고, 위협 정보·접근 권한·정부와 기업의 대응 절차까지 넓혀 보게 만든다는 점은 분명해. 다음 고위험 모델이 등장했을 때 또다시 서로 다른 사실과 임시 규칙으로 대응할지, 아니면 미리 만든 통로를 쓸 수 있을지가 남은 질문이야.

각주

1. Rebecca Hersman, 「Before the Next Mythos Moment: The Case for an AI Threat Fusion Center」(2026-07-15) War on the Rocks. ↩︎ ↩︎² ↩︎³ ↩︎⁴ ↩︎⁵ ↩︎⁶ ↩︎⁷ ↩︎⁸