AI를 늦추자는 데는 다 동의했는데, 먼저 멈추는 쪽이 없다

Anthropic CEO 다리오 아모데이가 토요일, AI 기업들에게 최첨단 모델 개선 속도를 늦추라고 촉구하는 에세이를 냈어.¹ 다음 날인 일요일 CBS News ‘Sunday Morning’에서는 이 제안에서 “가장 어려운 딜레마”가 무엇인지 직접 말했어. 중국 같은 적대국이 같이 속도를 늦추지 않으면 어떻게 되느냐는 거야.¹

“장기적으로 필요한 건 AI 발전 속도에 ‘속도 제한’을 두는 국제 공조야.” 아모데이는 이렇게 말하면서도 바로 단서를 달았어. “그게 매우 어려울 거라고 생각해. 앞서나가려는 유인과 거기서 얻는 군사적 이점이 너무 크니까. 솔직히 가능한지도 모르겠어. 그래도 해봐야지.”¹

이 에세이가 나온 배경에는 전 Anthropic 연구원 Jacob Coxon의 퇴사가 있어. 그는 Anthropic과 경쟁사 OpenAI가 “우리 생명을 걸고 도박하고 있다”는 우려로 회사를 나왔다고 밝혔어.¹ 같은 주말 CNBC의 별도 취재로는, 이 연구원이 AI가 “10년 안에 우리 모두를 죽일 수 있다”고까지 경고했다고 전해져.²

다들 지지한다는데, 확인된 건 다르다

에세이가 나온 뒤 xAI와 SpaceX를 이끄는 Elon Musk가 X에 글을 올렸어. “아모데이 말이 맞아. 어느 정도 감독이 있어야 해. 경쟁사끼리 서로 검증하는 게 시작하기 좋은 방법이야.”¹ David Sacks도 X에서 반응했는데, 방향은 좀 달라. 그는 OpenAI와 Anthropic이 자기네 모델이 정말 “무서울 만큼” 위험하다고 믿는다면 속도를 늦추는 결정 자체는 지지한다면서도, 두 회사에게 “다른 누구의 허락도 필요 없다는 척은 그만두라”고 못박았어.¹

여기서 확인해야 할 건, 아모데이가 실제로 뭘 하고 있느냐야. 그가 CBS에서 말한 “속도 제한”은 아직 제안 단계고, 확인된 사실은 에세이를 냈다는 것과 그 안에서 국제 공조가 어렵다고 스스로 인정했다는 것뿐이야. 나머지는 X에 올라온 다른 CEO·인사들의 반응이지, 아모데이의 제안이 실제로 어떻게 작동할지에 대한 확인은 아니야.

같은 주말 OpenAI CEO Sam Altman은 안전 우려 등을 이유로 올해는 상장하지 않을 것 같다고 밝혔어.¹ “지금은 상장하기에 좋지 않은 시점”이라는 게 그의 말이야.¹ 속도조절 논의와 IPO 보류가 같은 주말에 겹친 건 우연일 수도 있지만, 최소한 이 업계가 지금 스스로도 조심스러워하고 있다는 신호로는 읽을 수 있어.

워싱턴도 같은 문제로 멈춰 있다

CNBC의 또 다른 취재에 따르면, Anthropic·OpenAI·xAI 세 회사의 최고경영진이 최근 며칠 사이 “AI가 너무 빠르게 발전하고 있다”고 인정하는 발언을 내놨어.² 상원의원 Ruben Gallego(민주, 애리조나)는 CNN ‘State of the Union’에서 이렇게 표현했어. “프랑켄슈타인 박사가 우리한테 괴물이 도망가고 있다고 말하는 거야. 우리를 도와서 이걸 막아줘. 근데 우리가 대응하는 방식은 이 순간에 안 맞아.”²

펜실베이니아 주지사 Josh Shapiro는 X에서 업계 리더들의 이 발언을 “밝게 깜빡이는 빨간불”이라 부르며 대통령과 의회에 행동을 촉구했어.² Sam Liccardo 하원의원(민주, 캘리포니아) 등은 지난 금요일 하원의장 Mike Johnson에게 서한을 보내, 실질적인 안전장치가 통과될 때까지 하원 회기를 유지해달라고 요구했어. 그 안에는 프런티어 모델의 투명성·평가 의무화, 킬 스위치 요건, 안전·보안 협력을 위한 반독점법 면제 같은 법안들이 담겨 있어.²

그런데 정작 Johnson은 이번 주가 지나면 11월 중간선거 전까지 하원을 휴회시킬 예정이야. 규제 입법을 처리할 시간이 그만큼 좁다는 뜻이지.² 하원 민주당 원내대표 Hakeem Jeffries는 화요일에 민주당끼리 모여 AI 안전장치를 논의하겠다고 했어.² Johnson은 CNN 인터뷰에서 서두르는 것 자체를 경계했어. “의회가 급하게 비상 회기를 열어 AI를 규제하면, 우리는 중국과의 경쟁에서 진다. 그건 모든 미국인에게 위협이야.” 대신 그는 워싱턴 지도부와 AI 업계 리더들이 한 방에 모여 논의하자고 제안했어.²

아모데이가 "속도 제한이 어려운 이유"로 꼽은 계산과, Johnson이 "규제를 서두르면 안 되는 이유"로 꼽은 계산은 사실 같은 모양이야 — 먼저 멈추면 중국에 뒤처진다는 두려움.

Gallego는 이 논리 자체를 반박했어. Johnson과 트럼프 대통령, 의회 모두가 “이 순간에 맞게 대응하지 못하고 있다”면서, 규제하면 AI 경쟁에서 진다는 주장은 근거가 없다고 말했어. “AI는 이게 진짜 위험해지는 순간에 우리가 중국인지 미국인지 신경 안 써.”² 트럼프 대통령은 아일랜드 방문 중 이 논쟁에 대해 다른 방향으로 답했어. “우리가 AI에서 중국을 이끌고 있어. 우리가 세계에서 가장 앞선 나라고, 계속 그렇게 유지하고 싶어. 왜냐하면 AI에서 이기는 쪽이 이기는 거니까. 가드레일을 만들 수는 있지만, 부정적인 세력들이 일어나지도 않을 일들을 부풀리고 있다고 봐.”²

하원에는 Jay Obernolte(공화, 캘리포니아)와 Lori Trahan(민주, 매사추세츠)이 주도하는 FRONTIER Act를 비롯해 여러 안전장치 법안이 이미 올라와 있어. 상원은 그보다 느려. John Thune 상원 다수당 대표와 Amy Klobuchar·Ted Cruz 상원의원이 작업 중인 법안은 아직 발의조차 안 됐어.²

다음에 볼 것

중국 문제는 말로만 남아 있지 않아. 시진핑 중국 국가주석은 일요일 인도에서 열린 BRICS 정상회의에서 “합의 기반의 글로벌 AI 거버넌스 프레임워크”를 촉구하며, 중국이 BRICS AI 오픈소스 커뮤니티 설립을 돕겠다고 밝혔어.¹ 그리고 트럼프 대통령은 9월 24일 백악관에서 시진핑과 만날 예정인데, 이 자리에서 AI가 의제로 다뤄질 것으로 예상돼.¹ 아모데이가 말한 “가장 어려운 딜레마”가 실제로 테이블 위에 오르는 첫 자리인 셈이야.

워싱턴 쪽에서는 하원 민주당의 화요일 회의와, 이번 주가 지나면 시작될 휴회가 가늠자야. 그 사이에 실질적인 법안 처리가 나오는지, 아니면 Johnson의 말대로 “한 방에 모여 논의”하는 선에서 멈추는지를 보면 이번 논쟁이 실제 규제로 이어질지 판단할 수 있을 거야.

각주

1. CNBC, 「Anthropic’s Amodei says China presents ‘toughest dilemma’ for his proposed AI slowdown」(2026-09-13) 기사 ↩︎ ↩︎² ↩︎³ ↩︎⁴ ↩︎⁵ ↩︎⁶ ↩︎⁷ ↩︎⁸ ↩︎⁹ ↩︎¹⁰

2. CNBC, 「Washington scrambles to meet calls for AI guardrails while the window to act closes」(2026-09-13) 기사 ↩︎ ↩︎² ↩︎³ ↩︎⁴ ↩︎⁵ ↩︎⁶ ↩︎⁷ ↩︎⁸ ↩︎⁹ ↩︎¹⁰ ↩︎¹¹