AI 오용 얘기는 보통 한 사람의 장면으로 그려져. 누군가 밤에 챗봇 앞에 앉아 위험한 질문을 던지고, 모델의 거절을 뚫으려 애쓰는 그림 말이야.
그런데 Boko Haram 사례 연구가 불편한 지점은 거기가 아니야. 이 연구가 말하는 위험은 외로운 사용자 하나가 아니라, 계정과 교육과 역할을 나누는 조직이야. 문제는 "나쁜 질문 하나를 막을 수 있나"보다 "나쁜 조직이 여러 서비스를 묶어 쓰면 어떻게 막을 건가"에 더 가까워져.
무슨 일이었나
Cambridge Programme on AI Science & Policy의 보고서는 2025~2026년 나이지리아 북동부에서 전 Boko Haram 구성원 27명을 상대로 57회의 대면 인터뷰를 했다고 설명해. 대상은 Boko Haram의 두 분파로 언급되는 ISWAP과 JAS였고, 증언이 다룬 시기는 주로 2023~2024년이야.1
보고서가 말하는 핵심은 단순한 호기심 사용이 아니야. 참여자들은 여러 주요 챗봇이 전투 준비, 내부 운영, 사후 검토, 물류 문제 해결에 쓰였다고 말했다. 여기서 구체적인 위험 행위의 방법을 따라 적을 필요는 없어. 중요한 건 범위야. 질문 몇 개가 아니라 조직 업무의 여러 단계에 AI가 끼어들었다는 주장이지.
그리고 더 중요한 대목은 전담 조직이야. 보고서 요약에 따르면 두 분파는 기술 인력을 골라 AI 담당 조직을 두고, 계정과 구독을 관리하고, 지휘 체계를 통해 사용법을 아래로 전파했다고 해.2 이 말이 맞다면 AI는 장난감이 아니라 내부 참모 도구처럼 취급된 셈이야.
왜 중요한가
AI 안전 논의는 오랫동안 “모델이 위험한 답을 거절하는가”에 집중했어. 그건 여전히 중요해. 하지만 이 사례가 던지는 질문은 한 층 더 넓어.
조직은 개인보다 끈질겨. 한 서비스가 거절하면 다른 서비스를 시도할 수 있고, 한 계정이 막히면 새 계정을 만들 수 있어. 누군가는 질문을 다듬고, 누군가는 답을 해석하고, 누군가는 현장에 전달할 수 있다. 이건 AI 안전장치와 탈옥을 모델 내부의 거절 문제로만 보면 놓치는 부분이야.
보고서는 초국가적 네트워크를 통한 교육도 언급해. 외부 조직이 장비, 보안 도구, 사용법, 우회 기법을 전달했다는 증언이 반복됐다는 거야.1 이 대목이 사실이라면 확산은 앱 다운로드처럼 퍼지는 게 아니라 훈련 프로그램처럼 퍼질 수 있어.
확인된 것과 아직 모르는 것
여기서 선을 분명히 그어야 해. 이 연구가 곧 “AI가 Boko Haram의 작전 능력을 실제로 크게 높였다”는 증명은 아니야.
자료는 전직 구성원의 자기보고에 크게 기대고 있어. 참여자 대부분은 중간급이었고, 최고 의사결정이나 최신 활동을 모두 알 수 있는 위치가 아니었을 수 있다. 보고서도 AI가 실제 성과를 얼마나 높였는지, AI가 없었다면 불가능했을 일을 가능하게 했는지에 대해서는 인과적 결론을 내리지 않는다고 선을 그어.1
GeekNews 토론에서도 이 지점을 의심하는 반응이 나왔어. 일부는 증언이 과장됐거나, 평범한 검색과 교육을 AI 효과로 포장했을 수 있다고 봤다.2 이 비판은 가볍게 넘기면 안 돼. 현장 연구는 귀한 자료지만, 위험한 주제일수록 말하는 사람의 이해관계와 과장 가능성도 같이 읽어야 하거든.
그래서 이 글의 결론은 “챗봇이 테러 조직을 강하게 만들었다”가 아니야. 더 좁고 단단하게 말하면 이거야. 적어도 일부 조직은 AI를 써야 할 도구로 믿고, 그 믿음에 맞춰 사람과 돈과 교육을 배치하기 시작했다. 실제 효과가 과장됐더라도, 그 조직적 채택 자체는 별도의 위험 신호야.
다음에 볼 것
첫째, 후속 연구가 직접 증거를 더 가져오는지 봐야 해. 인터뷰 말고 계정 사용 기록, 압수 장비, 내부 문서, 작전 전후 비교 같은 자료가 붙으면 그림이 훨씬 단단해진다.
둘째, AI 회사들이 위험 사용자를 “개인”이 아니라 “협업하는 조직”으로 모델링하는지 봐야 해. 단일 프롬프트 차단만으로는 부족하고, 반복 시도, 계정 군집, 결제와 접속 패턴, 서비스 간 이동 같은 신호를 어떻게 다루는지가 중요해질 수 있다.
셋째, 정책 당국과 연구기관이 과잉 반응을 피하는지도 봐야 해. 테러 조직이 검색 엔진을 쓴다고 검색을 금지할 수는 없듯이, AI도 “쓸 수 있다”와 “어떻게 줄일 것인가”를 구분해야 해. 이 사례는 공포를 키우는 소재가 아니라, 조직화된 오용을 더 정확히 묻는 사례로 읽는 편이 낫다.
댓글