에이전트가 말을 안 들으면, 누가 멈추나 — 크라우드스트라이크의 킬 스위치

AI 에이전트는 이제 사람 손을 타지 않고도 여러 단계를 이어서 일합니다. 이메일을 읽고, 파일을 찾고, 클라우드에 접속하고, 외부 서비스에 요청을 보냅니다. 그런데 이 단계가 연결되는 도중에 아무도 승인하지 않은 행동이 나올 수 있습니다. 적대자가 개입하지 않아도 그렇습니다. 크라우드스트라이크 보도자료는 이 위험을 이렇게 설명합니다. AI 에이전트는 시스템 수준 접근 권한으로 단말과 클라우드, SaaS를 넘나들며 일하고, 단계를 연결하다가 아무도 승인하지 않은 행동을 할 수 있다는 것입니다. 그래서 크라우드스트라이크는 바로 이 지점을 짚었습니다. 에이전트가 지시를 벗어났을 때, 누가, 어떻게 멈추느냐는 질문입니다.

먼저 구분할 게 있습니다. 이 글은 법안 얘기가 아닙니다. 블로그 37편에서 다룬 뉴욕시의회 법안 패키지는 '킬 스위치'를 법으로 요구하는 논의였고, 지금도 계류 중입니다. 오늘 글은 그와 다릅니다. 기업이 실제로 내놓은 제품 기능, 크라우드스트라이크 Falcon Guardian의 AI 킬 스위치 얘기입니다.

멈추는 스위치, 네 가지 동작

크라우드스트라이크는 2026년 11월 3일, 바르셀로나에서 열린 Fal.Con Europe 2026에서 AI 킬 스위치를 발표했습니다. Falcon Guardian 안에 들어가는 기능으로, 보도자료 기준 발표 당일부터 사용 가능하다고 했습니다. 동작은 네 가지입니다.

첫째, 실행 중인 에이전트를 종료합니다. Falcon 센서가 에이전트 실행을 멈춥니다. 다만 종료는 게이트웨이 단계에서 먼저 이뤄집니다. 단말에서 직접 종료하는 기능은 이후 단계로, 보도자료는 "soon on the endpoint"라고만 했습니다. 둘째, 재실행을 차단합니다. Falcon Guardian 정책이 해당 호스트나 호스트 그룹에서 에이전트가 다시 실행되지 못하게 막습니다. 셋째, 기업 네트워크 접근을 끊습니다. 넷째, 사람이 통제하고 전부 기록합니다. 권한 있는 관리자가 동작을 실행하고, 모든 동작은 감사 로그에 남습니다.

크라우드스트라이크 표현을 빌리면 "terminate rogue agents at the root, with a human in control", 곧 "말을 듣지 않는 에이전트를 뿌리에서 멈추되, 사람은 통제권을 쥔다"는 뜻입니다. 조지 커츠 크라우드스트라이크 CEO 겸 창업자는 "AI 안전이야말로 AI의 혜택을 온전히 누리는 길이다. 킬 스위치가 있는 에이전트를 배포하면 통제권을 유지할 수 있다"고 말했습니다. 에버퓨어의 릭 올로프 CISO는 "팀이 AI 에이전트를 쓰길 바란다. 하나가 궤도를 벗어나면 AI 킬 스위치가 보안팀에 최종 결정권을 준다. 이미 갖고 있는 Falcon 센서 위에서 돌아간다는 점이 더 많은 에이전트에 더 빨리 '예'라고 말할 수 있게 한다"고 했습니다.

Falcon Guardian 자체는 이미 기업 안에서 돌아가는 AI 에이전트를 찾아내고, 무엇을 할 수 있는지 정책을 적용하고, 에이전트 대상 공격을 탐지하는 역할을 맡고 있습니다. 킬 스위치는 여기에 "멈추는 결정"이라는 최종 통제권을 더한 것입니다.

종료가 게이트웨이에서 먼저 이뤄진다는 점도 눈여겨볼 만합니다. 게이트웨이는 에이전트가 기업 네트워크와 외부 서비스를 오가는 길목입니다. 길목에서 끊으면 단말마다 일일이 찾아다니지 않아도 에이전트의 움직임을 한 번에 멈출 수 있습니다. 단말 직접 종료가 이후 단계로 미뤄진 것은 그래서 한계이자 순서입니다. 오늘 쓸 수 있는 것은 길목에서의 차단이고, 단말까지 내려가는 종료는 아직 오지 않았습니다. 보도자료는 이 순서를 분명히 했습니다. Falcon 센서가 이미 단말에서 동작한다는 얘기와 종료 동작이 단말에서 시작한다는 얘기는 다릅니다. 센서는 단말에 있지만, 종료는 게이트웨이에서 먼저입니다.

보는 눈과 시험하는 눈, 같은 날 발표된 세 갈래

킬 스위치는 혼자 발표되지 않았습니다. 같은 날 두 건의 인수 계약도 함께 나왔습니다. 세 갈래를 묶으면 구조가 보입니다. 멈춘다, 본다, 시험한다입니다.

보는 눈은 피들러 AI입니다. 크라우드스트라이크는 2026년 11월 3일 피들러 AI 인수 확정 계약을 체결했다고 발표했습니다. 피들러 AI는 AI 에이전트의 관찰 가능성과 설명 가능성을 다루는 기업입니다. 크라우드스트라이크는 이를 Falcon Observe라는 이름으로 Falcon 플랫폼 안에서 판매할 계획이며, 일반 제공 목표는 회계연도 2027년 4분기입니다. 크라우드스트라이크 회계연도 2027년 4분기는 2027년 1월에 끝나는 분기입니다.

역할 분담은 보도자료에 또렷하게 나와 있습니다. Guardian은 에이전트를 공격과 오용으로부터 지키고, 피들러는 에이전트가 의도대로 행동했는지 검증합니다. 커츠 CEO는 "Fiddler is the flight recorder for every agent", 곧 "피들러는 모든 에이전트의 비행 기록 장치"라고 표현했습니다. Falcon Observe는 배포 전 평가, 에이전트의 결정과 추론 경로, 도구 호출 추적, 행동 이탈과 환각 탐지, 감사 가능한 거버넌스를 맡습니다. OpenTelemetry 계측을 쓰고, LangGraph와 Amazon Bedrock, AWS Strands, Google ADK를 지원합니다. 피들러 CEO 겸 공동 창업자 크리스나 가데는 "우리는 기업이 '내 AI 에이전트를 믿을 수 있는가'라는 근본적인 질문에 답하도록 돕기 위해 피들러를 시작했다"고 말했습니다.

시험하는 눈은 드레드노드입니다. 같은 날 드레드노드 인수 확정 계약도 발표됐습니다. 드레드노드는 자동 AI 보안 테스트 기업으로, AI 모델과 애플리케이션, 에이전트를 배포 전에 계속 테스트해 보안 취약점을 찾고 고치는 일을 합니다. 100개가 넘는 알려진 AI 공격 전략을 실행합니다. 탈옥과 프롬프트 인젝션, 다단계 공격, 에이전트 특화 공격이 포함됩니다. 결과는 심각도별로 순위를 매기고, OWASP Top 10 for LLMs와 OWASP Agentic Security, MITRE ATLAS, NIST AI RMF에 매핑해 배포 전 고지 여부를 판단하는 보고서로 냅니다. 사람이 개입해 검토하는 단계도 포함돼 있습니다. 자동 AI 보안 테스트의 일반 제공 목표도 회계연도 2027년 4분기입니다. 드레드노드 팀은 크라우드스트라이크 사이버 슈퍼인텔리전스 랩에 합류합니다. 테스트 결과는 Falcon Guardian에 정책 권고로 들어가고, 테스트 데이터는 SafeMind 모델을 강화하는 데 쓰인다고 보도자료는 설명합니다.

아직 열린 부분들

이 발표를 읽을 때 몇 가지는 선을 그어 둬야 합니다. 첫째, 인수 두 건은 확정 계약 체결이지 종결이 아닙니다. 두 건 모두 크라우드스트라이크 회계연도 2027년 4분기 중 종결을 예상하고 있으며, 통상적인 종결 조건 충족을 전제로 합니다. 둘째, 인수 대금 총액은 공개되지 않았습니다. WSJ 보도에 따르면 두 건 합계 약 4억 9,500만 달러 수준이라고 전해지지만, 이는 회사 발표가 아니라 보도 귀속 수치입니다. 셋째, 단말에서 직접 종료하는 기능이 언제 나오는지는 확인되지 않았습니다. 보도자료는 "이후 단계"라고만 했습니다. 넷째, Falcon Observe의 "평가 비용 최대 98% 절감"은 회사 주장입니다. 독립적으로 검증된 수치가 아닙니다.

그래서 이 발표를 읽는 가장 정확한 자세는 이렇습니다. 크라우드스트라이크가 "이렇게 하겠다"고 설명한 것이지, 모든 환경에서 같은 효과가 보장됐다는 뜻이 아닙니다. 벤더 발표는 벤더 발표로 읽어야 합니다.

그럼에도 이 발표가 던지는 질문은 남습니다. AI 에이전트가 기업 안에서 점점 더 많은 일을 맡는 상황에서, 에이전트를 도입하는 속도와 멈출 수 있는 능력은 함께 가야 합니다. 크라우드스트라이크의 답은 세 단계입니다. 게이트웨이에서 먼저 멈추고, 기록으로 보고, 배포 전에 시험합니다. 그중 오늘 당장 쓸 수 있는 것은 멈추는 스위치 하나입니다. 나머지는 내년 초를 기약합니다. 에이전트 시대의 통제권이 어디에 있어야 하는지, 그 질문에 대한 한 기업의 답이 나온 셈입니다.

출처

많이 본 글

자기소개 및 블로그 운영방향

이미지
안녕하세요. "바우"에 오신 것을 환영합니다. 오랫동안 생각만 해 오던 블로그를 2026년 9월에 시작했습니다. 일상에서 경험하고 배운 것들을 그냥 지나치기 아쉬워 한곳에 기록해 두고 싶었고, 제가 알게 된 정보가 누군가에게 작은 도움이 되었으면 하는 마음이었습니다. 처음의 그 마음은 지금도 같습니다. 다만 한 달 남짓 꾸준히 쓰다 보니, 이 블로그가 다루는 이야기의 결이 또렷해졌습니다. 이 글은 그 현재 모습을 소개하는 글로 다시 정리한 것입니다. 지금 바우는 인공지능과 첨단 기술을 알기 쉽게 전하는 블로그입니다. 크게 네 갈래의 이야기를 다룹니다. 첫째, AI 뉴스의 해설입니다. 새로운 모델과 연구, 기업들의 발표가 쏟아지는데, 그 소식이 실제로 무엇을 뜻하는지, 어디까지가 확인된 사실인지를 풀어서 전합니다. 둘째, AI 기업을 한 곳씩 깊이 들여다보는 심층분석입니다. 어떤 기술을 가졌고 어떤 방식으로 돈을 벌며, 강점과 약점은 무엇인지를 정리합니다. 이 심층분석은 유튜브 채널에서 영상으로도 이어지고 있습니다. 셋째, 양자 컴퓨터와 핵융합, 우주와 로봇처럼 조금 먼 미래의 과학과 기술 이야기입니다. 어렵게만 느껴지는 주제를 일상의 비유로 풀어 쓰려고 합니다. 넷째, AI가 바꿔 놓는 사회와 제도의 이야기입니다. 법과 규제, 일자리와 안전처럼 기술이 우리 생활과 만나는 지점을 살핍니다. 글을 만드는 방식도 소개해 드립니다. 소식의 출처가 되는 공식 발표와 논문, 기관 자료를 먼저 확인하고, 기사에 실린 수치는 원자료와 다시 대조합니다. 확인되지 않은 내용은 추정이라고 본문에 밝혀 둡니다. 빠르게 전하는 것보다 틀리지 않게 전하는 쪽을 택하는 블로그입니다. 대표 글을 몇 편 골라 둡니다. 처음 오신 분들은 이 글들부터 읽어 보시면 블로그의 색깔이 잡히실 거예요. 1그램에 215페타바이트, 계산까지 하는 물질 DNA AI 칩 주문이 2030년까지 밀렸다 — ASML 실적이 보여 준 병목 모두가 포기한 결정을 고집한 사람들 — 청색 LED 발명사...
자세한 내용 보기

양자 컴퓨터와 AGI

이미지
​양자 컴퓨터가 AGI 시대를 앞당기는 3가지 핵심 이유 ​최근 인공지능 기술의 발전 속도는 눈부실 정도입니다. 특정 분야에서 뛰어난 성능을 보이는 초거대 AI 모델들이 잇따라 등장하면서, 인간 수준의 전방위적 지능을 가진 AGI(Artificial General Intelligence)의 도래 시점에 대해 전 세계의 관심이 쏠리고 있습니다. ​하지만 현재의 범용 컴퓨터 체계 만으로는 AGI 구현에 필요한 천문학적인 연산량과 전력 소비를 감당하는 데 한계가 있다는 지적이 꾸준히 제기되고 있습니다. 이러한 난관을 극복할 결정적 열쇠로 떠오르는 것이 바로 양자 컴퓨터(Quantum Computing)입니다. 양자 컴퓨터는 AGI 시대로 진입하는 과정에서 어떤 지대한 영향을 미치게 될까요? 3가지 핵심 포인트를 통해 살펴보겠습니다. ​1. 초거대 AI 모델 학습 속도의 기하급수적 향상 ​현재의 LLM(대형 언어 모델)이나 AGI 지향형 AI 시스템을 학습시키기 위해서는 수만 개의 GPU를 수개월 동안 가동해야 합니다. 기존 컴퓨터는 데이터를 0과 1의 '비트(Bit)' 단위로 처리하기 때문에 모든 가능성을 순차적으로 계산해야 하지만, 양자 컴퓨터는 중첩(Superposition)과 얽힘(Entanglement)이라는 양자역학적 특성을 이용한 Qubit  단위를 사용합니다. ​이로 인해 양자 컴퓨팅 알고리즘은 수십만 개의 변수가 복잡하게 얽힌 AI 최적화 문제를 동시에 연산할 수 있습니다. ​ 학습 시간 단축: 수년이 걸릴 초거대 데이터 학습을 단 몇 시간 또는 며칠 만에 완료 가능 ​ 초고차원 데이터 처리: 다차원적인 복잡 패턴을 한 번에 파악하여 AGI의 문맥 이해도 극대화 ​결과적으로 양자 기술은 AGI 개발의 가장 큰 병목 구간이었던 '학습 및 연산 시간'을 획기적으로 줄여줄 것 입니다. 2026년 9월에는 이 이야기가 개념에서 한 걸음 나왔습니다. 아이온큐는 9월 22일, 평범한 CPU 하나로 돌아가는 끝부...
자세한 내용 보기

AI 발전 속도와 사회적 준비의 격차

이미지
AI 발전 속도와 사회적 준비의 격차: 발생 문제와 4가지 구체적 해법 최근 챗GPT(ChatGPT)를 시작으로 생성형 AI 기술이 하루가 다르게 폭발적으로 발전하고 있습니다. 불과 몇 년 전만 해도 상상 속에만 존재하던 인공지능 기술이 이제는 업무, 예술, 교육, 의료 등 일상 전반에 깊숙이 자리 잡았습니다. 하지만 기술이 전속력으로 달려가는 동안, 이를 받쳐주어야 할 법과 제도, 윤리적 기준, 그리고 교육 체계의 준비 속도는 이를 따라가지 못하고 있습니다. 이러한 'AI 기술 발전 속도와 사회적 준비 속도의 격차(Gaps in AI Readiness)'는 사회 곳곳에서 새로운 갈등과 부작용을 낳고 있습니다. 이번 글에서는 AI 발전과 사회적 준비 간의 시차로 인해 나타나는 핵심 문제점들을 살펴보고, 이를 극복하기 위한 분야별 구체적 해법에 대해 깊이 있게 알아보겠습니다. 1. 일자리 지형의 변화와 고용 불안정 문제 AI 기술의 고도화로 인해 기존의 단순 반복적인 사무직은 물론, 번역·작곡·디자인·프로그래밍 등 전문 지식 직군까지 자동화 범위가 급격히 확대되고 있습니다. 문제는 기술에 의해 일자리가 사라지는 속도가, 신기술에 적응한 새로운 일자리가 창출되거나 노동자가 재교육을 받는 속도보다 훨씬 빠르다는 점입니다. 이로 인해 노동 시장의 불안정성이 커지고 계층 간 소득 양극화가 심화될 우려가 커지고 있습니다. [해법] 평생 재교육 체계 구축과 사회안전망 강화 전주기적 Re-skilling(재교육) 제도화: 정부와 기업이 협력하여 기존 노동자들이 AI 툴을 업무에 활용할 수 있도록 돕는 직업 훈련 프로그램을 대폭 확대해야 합니다. 노동법 및 사회안전망 재정비: 플랫폼 노동자나 프리랜서, AI 대체 고위험군 직종을 보호하기 위한 유연안전성(Flexicurity) 모델을 도입하고, 전환 지원금 제도 등을 마련하여 고용 충격을 완화해야 합니다. 2. 법적·제도적 진공 상태와 규제 지연 현재 법체계는 AI가 등장하기 이전에 ...
자세한 내용 보기