오픈AI·앤트로픽 연구자들이 멸종을 경고하자, 트럼프는 "없다"고 했다

지난 화요일, 앤트로픽 연구원 제이콥 콕슨(Jacob Coxon)이 퇴사를 발표하며 앤트로픽과 오픈AI가 “인류의 생명을 걸고 도박하고 있다”고 말했어.¹ AI를 만드는 사람들 스스로 “이 10년이 끝나기 전에 우리를 모두 죽일 수 있다”고 믿는다는 게 그의 주장이었어.¹

그의 발언 뒤로 두 회사 안팎에서 비슷한 목소리가 잇따랐어. 앤트로픽의 얼라인먼트 리드 에반 허빙거(Evan Hubinger)는 그 가능성이 10%를 넘는다고 봤고,¹ 오픈AI 안전팀의 줄리 스틸(Julie Steele)도 “개인 자격으로도 속도를 늦춰야 한다”고 X에 썼어.¹ 앤트로픽 연구원 새뮤얼 마크스(Samuel Marks)는 “AI 개발자들 스스로 이 기술이 인류 멸종(또는 그에 준하는 나쁜 결과)을 일으킬 수 있다고 믿는다”고 했어.¹ 이 발언들에 앤트로픽 대변인은 CNBC에, 자사가 AI 모델의 “파국적 위험”을 완화하는 프레임워크를 처음 발표한 연구소라고 답했어.¹

이 경고들이 커지던 참에, 트럼프 대통령은 정반대로 답했어. AI가 인류에게 실존적 위협이 될 수 있냐는 질문에 “아니, 전혀 걱정 안 한다”고 했어.²

무엇을 걱정하는가 — 재귀적 자기개선

많은 우려는 AI가 스스로 성능을 개선하는 능력, 이른바 재귀적 자기개선(recursive self-improvement, RSI)에 몰려 있어.¹ 오픈AI 얼라인먼트 연구원 재스민 왕(Jasmine Wang)은 “RSI를 향해 속도를 내는 게 얼마나 위험한지 아무리 강조해도 지나치지 않다”고 했고,¹ 오픈AI 수석과학자 야쿠프 파호츠키(Jakub Pachocki)는 AI 발전 속도가 RSI까지 그대로 이어질 거라는 “강한 기대”를 갖고 있다면서도 “지금은 극도의 주의가 필요한 시점”이고 “가속화된 기계 지능 상승의 결과에 아무도 준비돼 있지 않은 것 같아 우려된다”고 했어.¹ 파호츠키가 같은 우려를 담아 9월 초 낸 글은 따로 정리해 뒀어.

전 미 상무부 AI 표준·혁신센터(CAISI) 안전 책임자였던 폴 크리스티아노(Paul Christiano)는 “AI 역량의 급격한 가속이 단기간에 파국적이고 되돌릴 수 없는 통제 상실로 이어질 의미 있는 위험이 있다”고 말했어.¹ 그는 이번 주 오픈AI 파운데이션 이사회에 합류한다고 오픈AI가 발표했어.¹

트럼프는 다르게 본다

기자가 AI로 인한 인류 멸종을 걱정하냐고 묻자 트럼프는 “아니, 전혀 없다”고 답했어.² 대신 그는 “우리가 AI에서 이기지 못하면 아주 나쁜 처지에 놓이게 될 것”이라며, 미국이 중국을 “꽤 좋은 기간, 1년 정도” 앞서고 있다고 했어(2026년 9월 기준 발언).² 그에게는 실존 위험보다 중국과의 AI 경쟁이 더 급한 문제라는 얘기야.

의회에서도 이미 움직이고 있다

공화당 하원의원 제이 오버놀트(Jay Obernolte)와 민주당 하원의원 로리 트라한(Lori Trahan)은 7월 고도 AI 모델의 배치를 관리하는 체계를 목표로 한 FRONTIER Act 발의 계획을 발표했어.² 상원의원 버니 샌더스(Bernie Sanders)와 하원의원 그레그 카사르(Greg Casar)는 연방정부가 안전 규칙을 마련할 때까지 고도 AI 개발을 일시 중단시키는 Ban Artificial Superintelligence Act를 발의했어.² 같은 흐름에서, 오픈AI·앤트로픽·메타·구글 딥마인드 소속 연구자 약 1,400명은 7월 미 정부에 “자동화된 AI 개발의 최전선을 의도적으로 조절”할 도구를 마련하라는 공개서한을 냈어.¹

다음에 볼 것

앤트로픽은 이르면 10월 중순 기업공개(IPO) 마케팅을 시작해 11월 미국 중간선거 며칠 전 상장을 마칠 것으로 전망돼.¹ 안전 경고가 이만큼 쌓인 시점에 이 일정이 그대로 지켜지는지, 그리고 의회의 두 법안이 실제 표결까지 가는지가 다음 확인 지점이야.

각주

1. CNBC, 「‘Extinction’ warnings ramp up as more OpenAI, Anthropic researchers join calls for an AI slowdown」(2026-09-10) 원문 ↩︎ ↩︎² ↩︎³ ↩︎⁴ ↩︎⁵ ↩︎⁶ ↩︎⁷ ↩︎⁸ ↩︎⁹ ↩︎¹⁰ ↩︎¹¹ ↩︎¹² ↩︎¹³

2. CNBC, 「Trump dismisses AI extinction risks as more than a dozen OpenAI, Anthropic insiders call for a slowdown」(2026-09-11) 원문 ↩︎ ↩︎² ↩︎³ ↩︎⁴ ↩︎⁵