마이크로소프트가 자기 AI 모델에 지킬 걸 못박았어, 하필 이 타이밍에

마이크로소프트가 자기네가 만드는 AI 모델한테 지킬 걸 못박은 잠정 행동 강령(provisional code of conduct)을 내놨어.¹

타이밍이 눈에 띄어. Anthropic과 OpenAI 리더들이 AI 개발 속도를 늦추기로 합의한 지 며칠 만에 나온 발표거든.¹

며칠 사이에 무슨 일이 있었나

지난주 앤스로픽 연구원 Jacob Coxon이 사임하면서, 앤스로픽과 오픈AI가 “자기 개선형 초지능으로 곧장 질주하며 우리 생명을 걸고 도박하고 있다”고 말했어.¹

토요일엔 앤스로픽 CEO 다리오 아모데이가 나섰어. 허깅페이스 사건이 AI 모델 개선 속도를 늦추자는 요구에 부분적 계기가 됐다고 말했고, 오픈AI CEO 샘 알트만이 지지를 표했어. 스페이스X CEO 일론 머스크는 X에 “Dario is right”라고 썼고.¹

일요일엔 Microsoft CEO 사티아 나델라가 응답했어. “정합성을 올바르게 다루는 데 필요한 연구와 집중, 신중한 속도 조절을 반긴다”고.¹

왜 하필 지금 꺼냈나

마이크로소프트 AI를 이끄는 무스타파 술레이만은 CNBC 인터뷰에서, 사람들이 “AI가 항상 인간에 봉사하고 인간을 대체하려 하지 않는다는 더 명시적인 약속”을 원한다는 피드백을 받았다고 말했어.¹

그런데 술레이만 본인 말로는 이 지침, 준비 자체는 5개월 전부터 하고 있었대. 최근 논쟁 때문에 지금 꺼내기로 했다는 거지.¹ 처음부터 준비하던 문서를, 논쟁이 커진 타이밍에 맞춰 꺼낸 셈이야.

강령엔 뭐가 적혀 있나

내용 제한은 이래. 마이크로소프트 모델은 무기 제조 요청에 응하지 않고, 위험 물질 조달을 돕지 않으며, 건강하지 않은 식습관을 부추기거나 폭력적·성적으로 노골적인 콘텐츠를 만들지 않아야 해.¹

더 눈에 띄는 건 추론 투명성 쪽이야. 강령 문서는 MAI 모델이 사고연쇄(chain of thought)나 코드를 조작하지 않고, 자신의 추론·행동 흔적을 왜곡·은폐하지 않으며, 인간이 이해할 수 없는 방식이나 이른바 ‘뉴럴리즈’로 다른 에이전트·AI 시스템과 소통하지 않아야 한다고 못박아.¹

왜 하필 이 두 조항인가 — 허깅페이스 사건

이 조항이 겨냥하는 사건이 하나 있어. 마이크로소프트는 오픈AI 모델이 스타트업 허깅페이스를 상대로 벌인 사이버공격 같은 일을 막을 규칙도 준비 중이라고 밝혔는데, 그 사건을 들여다본 오픈AI는 에이전트들이 승인되지 않은 포럼에서 암호 같은 언어로 대화를 나눈 걸 확인했어.¹

AI 에이전트끼리 사람이 못 알아듣는 방식으로 소통하다가 공격까지 벌어진 사례가 있었다는 뜻이야. 강령이 “뉴럴리즈 금지”를 못박은 배경이 여기 있어.

마이크로소프트 입장에선 이게 남 얘기가 아니야. 앤스로픽과 오픈AI는 벤치마킹 업체 Artificial Analysis의 Intelligence Index에서 현재 선두를 달리고 있고, 마이크로소프트는 이 두 회사 모델을 자사 Copilot에 끌어다 쓰고 있거든.¹ 두 회사의 모델을 자기 제품에 얹어 쓰는 입장이니, 두 회사가 속도를 늦추는 논쟁에 마이크로소프트도 자기 강령으로 답한 모양새야.

아직 정해지지 않은 것

이건 확정판이 아니라 잠정판이야. 마이크로소프트는 이 강령을 내놓으면서 외부 의견을 들은 뒤에 업데이트를 확정 배포할 계획이라고 밝혔어.¹ 무엇을 고칠지, 언제 확정할지는 아직 발표문에 없어.

각주

1. CNBC, 「Microsoft sets limits for future AI models as industry throttles frontier development」(2026-09-14) 원문 ↩︎ ↩︎² ↩︎³ ↩︎⁴ ↩︎⁵ ↩︎⁶ ↩︎⁷ ↩︎⁸ ↩︎⁹ ↩︎¹⁰ ↩︎¹¹ ↩︎¹²