글

추천 글

에이전트가 말을 안 들으면, 누가 멈추나 — 크라우드스트라이크의 킬 스위치

이미지
AI 에이전트는 이제 사람 손을 타지 않고도 여러 단계를 이어서 일합니다. 이메일을 읽고, 파일을 찾고, 클라우드에 접속하고, 외부 서비스에 요청을 보냅니다. 그런데 이 단계가 연결되는 도중에 아무도 승인하지 않은 행동이 나올 수 있습니다. 적대자가 개입하지 않아도 그렇습니다. 크라우드스트라이크 보도자료는 이 위험을 이렇게 설명합니다. AI 에이전트는 시스템 수준 접근 권한으로 단말과 클라우드, SaaS를 넘나들며 일하고, 단계를 연결하다가 아무도 승인하지 않은 행동을 할 수 있다는 것입니다. 그래서 크라우드스트라이크는 바로 이 지점을 짚었습니다. 에이전트가 지시를 벗어났을 때, 누가, 어떻게 멈추느냐는 질문입니다. 먼저 구분할 게 있습니다. 이 글은 법안 얘기가 아닙니다. 블로그 37편에서 다룬 뉴욕시의회 법안 패키지는 '킬 스위치'를 법으로 요구하는 논의였고, 지금도 계류 중입니다. 오늘 글은 그와 다릅니다. 기업이 실제로 내놓은 제품 기능, 크라우드스트라이크 Falcon Guardian의 AI 킬 스위치 얘기입니다. 멈추는 스위치, 네 가지 동작 크라우드스트라이크는 2026년 11월 3일, 바르셀로나에서 열린 Fal.Con Europe 2026에서 AI 킬 스위치를 발표했습니다. Falcon Guardian 안에 들어가는 기능으로, 보도자료 기준 발표 당일부터 사용 가능하다고 했습니다. 동작은 네 가지입니다. 첫째, 실행 중인 에이전트를 종료합니다. Falcon 센서가 에이전트 실행을 멈춥니다. 다만 종료는 게이트웨이 단계에서 먼저 이뤄집니다. 단말에서 직접 종료하는 기능은 이후 단계로, 보도자료는 "soon on the endpoint"라고만 했습니다. 둘째, 재실행을 차단합니다. Falcon Guardian 정책이 해당 호스트나 호스트 그룹에서 에이전트가 다시 실행되지 못하게 막습니다. 셋째, 기업 네트워크 접근을 끊습니다. 넷째, 사람이 통제하고 전부 기록합니다. 권한 있는 관리자가 동작을 실행하고, 모든 동...

두 종류인 줄 알았던 자석, 세 번째가 확인됐다 — SLAC의 알터자석

이미지
  냉장고에 붙은 자석, 나침반을 돌리는 자석. 우리에게 자석은 눈에 보이는 힘을 가진 물건이다. 그런데 물리학자들에게 자성은 조금 다른 이야기다. 전자의 스핀이라는, 위쪽 아니면 아래쪽을 가리키는 작은 성질이 한 방향으로 가지런히 정리돼 있느냐가 자성의 본질이다. 수십 년 동안 교과서는 자성을 두 종류로만 설명했다. 이제 세 번째 종류가 있다는 결정적인 실험 증거가 나왔다. 미국 에너지부 SLAC 국립가속기연구소가 이끈 연구팀이 2026년 10월 29일 과학 저널 사이언스에 결과를 발표했다. 유럽 싱크로트론 ESRF와 함께한 이 연구는 망간 텔루라이드(MnTe)라는 물질에서 '알터자석'이라는 세 번째 자성 단계를 직접 확인했다. 수십 년 동안 반강자성체로 분류돼 온 물질이 사실은 세 번째 자성이었다는 얘기다. 자성이 두 종류만 있다고 믿어 온 역사는 1933년으로 거슬러 올라간다. 강자성은 모든 전자의 스핀이 같은 방향을 가리키는 상태다. 스핀이 한 방향으로 모이면 눈에 보이는 자기장이 생긴다. 냉장고 자석이 그렇다. 반강자성은 스핀이 위쪽과 아래쪽을 번갈아 가리키는 상태다. 서로 상쇄돼 순자기장은 0이 된다. 겉으로는 자석 같지 않지만, 스핀은 분명히 정리돼 있다. 이 두 갈래 체계가 90년 가까이 자성에 대한 이해를 지배해 왔다. 알터자석은 이 두 갈래 사이에 끼어든다. 스핀 배열은 반강자성체와 똑같이 위쪽과 아래쪽이 번갈아 나타난다. 그런데 결정 격자의 모양이 다르다. 위쪽 스핀을 둘러싼 격자가 아래쪽 스핀을 둘러싼 격자에 대해 살짝 회전해 있다. 이 기하학적 뒤틀림이 대칭을 깨뜨리고, 그 덕분에 스핀 전류를 만들 수 있다. 2022년 연구자들이 이 부류에 '알터자석'이라는 이름을 붙였다. 이름은 있었지만, 실재한다는 결정적인 증거는 아직 없었다. 그 증거를 찾는 열쇠는 '카이랄리티'였다. 카이랄리티는 왼손과 오른손처럼 거울상과 겹쳐지지 않는 비대칭 성질을 뜻한다. 나선 계단이나 나사 같은 모양이다....

AI가 다른 AI를 수술했다 — 가중치 0.016%만 고쳐 수학 점수가 뛰었다

이미지
인공지능이 다른 인공지능을 고쳤다는 소식은, 처음 들으면 마법처럼 들린다. 2026년 11월 2일, MIT CSAIL 연구팀이 공개한 실험이 바로 그런 이야기다. 연구팀은 OpenAI의 GPT-6 Astra에게 작은 언어 모델 Qwen3.5-0.8B의 수학 실력을 올려달라고 맡겼고, Astra는 학습을 새로 시키지 않고 모델의 가중치 131,072개만 직접 고쳐 수학 점수를 끌어올렸다. 고친 가중치는 전체의 0.016%에 불과하다. 제목 그대로, AI가 다른 AI를 수술한 셈이다. 가중치가 무엇인지부터 짚어보자. 신경망은 수많은 숫자로 이루어진 가중치의 집합이다. 모델이 무언가를 배운다는 것은, 이 숫자들이 경험을 통해 조정된다는 뜻이다. 지금까지 모델을 고치는 방법은 대부분 학습이었다. 데이터를 새로 주고, 경사 하강법이라는 계산으로 가중치를 조금씩 바꾸는 식이다. 연구팀이 제시한 '가중치 공간 프로그래밍'은 방향이 다르다. 범용 언어 모델이 다른 신경망의 가중치를 직접 읽고, 무엇이 잘못됐는지 추론한 뒤, 가중치를 손으로 고치듯 직접 고치는 방식이다. 학습도, 경사도 쓰지 않는다. 이번 실험의 주인공 Qwen3.5-0.8B는 8억 개의 가중치를 가진 작은 추론 모델이다. 이 모델에는 알려진 약점이 있었다. 수학 문제를 풀다가 같은 말을 반복하며 답에 도달하지 못하는 '추론 루프'에 빠지는 것이다. 모델 카드에도 이 경향이 적혀 있다. 연습 문제 96개 가운데 85개가 답을 내지 못하고 32,768개 토큰 한계까지 가버렸다. Astra는 이 루프의 원인을 15층과 19층의 MLP가 쓰는 한 방향에서 찾았다. 그리고 그 방향을 두 층의 down_proj에서 각각 64개 열씩 빼냈다. 고친 가중치는 131,072개, 전체의 0.016%다. 연습 문제는 50회까지만 써볼 수 있었다. 결과는 표로 보는 것이 가장 분명하다. MATH-500은 7.9%에서 48.1%로, GSM8K은 13.8%에서 67.1%로, 지시 따르기 점수 IFE...

8시간 교대, 24시간 편의점 — 휴머노이드가 실험실을 나섰다

이미지
  한 주 동안 휴머노이드가 세 번 출근했다. 자동차 공장에서는 8시간 교대를 섰고, 편의점에서는 24시간을 버텼고, 마라톤 코스에서는 교통 정리를 도왔다. 그래서 묻는 사람이 많다. 이제 휴머노이드가 정말 일하기 시작한 것일까. 답은 생각보다 조심스럽다. 세 번의 출근은 모두 시험이었고, 시험은 잘한 부분과 못한 부분을 함께 보여줬기 때문이다. 빠진 숫자까지 함께 본다. 먼저 자동차 공장이다. 11월 3일, 샤오미는 자사 전기차 공장에서 휴머노이드가 일하는 영상을 공개했다. 영상 속 로봇은 최종 조립 라인에 있는 센터콘솔 사이드커버 분류 작업대에서 부품을 통에서 꺼내 보관 랙의 칸에 넣는 일을 반복한다. 화면에는 누적 작업 시간 표시와 '자율, 100배속' 표시가 있고, 영상의 일부는 최대 100배까지 빠르게 재생된 압축본이다. 샤오미는 이 로봇이 하루치 작업량을 소화했고, 스스로 이상을 감지해 고치고, 생산라인 제어시스템과 연동했다고 밝혔다. 이 설명은 회사 발표다. 샤오미가 직접 확인해 준 사실이 아니라, 샤오미가 그렇게 밝혔다는 뜻이다. 여기서 빠진 숫자가 있다. 8시간 동안 부품을 몇 개 분류했는지, 성공률은 얼마인지, 사람이 몇 번 개입했는지, 배터리는 어떻게 버텼는지 샤오미는 밝히지 않았다. 교체했는지, 충전했는지, 유선으로 연결했는지도 설명이 없다. 이 대목은 짚고 넘어가야 한다. 로봇 영상에서 '자율'이라는 말은 생각보다 폭이 넓고, 과거에는 사람이 원격으로 조종하는 로봇이 자율인 것처럼 비친 사례도 있었다. 8시간이라는 시간만으로 생산 준비가 끝났다고 보기는 어렵다. 시간은 버텼지만, 그 시간의 질을 보여주는 숫자는 아직 나오지 않았다. 그래도 맥락은 있다. 샤오미는 올해 들어 공장 시험을 공개적으로 이어오고 있다. 3월에는 베이징 전기차 공장에서 셀프태핑 너트를 조이는 일을 맡겼고, 3시간 동안 90.2%의 성공률을 냈다고 밝혔다. 당시 생산 주기 76초도 맞췄다고 했다. 7월에는 성공률이 98%까지 올...

같은 아이폰, 중국에서는 시리 뒤가 다르다 — ChatGPT 대신 Qwen

이미지
같은 아이폰인데, 중국에서만 시리 뒤에 있는 모델이 다르다. 2026년 10월 31일, 애플이 중국 뉴스룸에 올린 발표의 요지는 이렇다. 중국에서 아이폰에 Apple Intelligence가 드디어 들어오는데, 시리 뒤에서 어려운 질문을 돕는 외부 모델이 다른 나라의 ChatGPT가 아니라 알리바바의 Qwen이라는 것이다. 기기는 같은 아이폰인데, 나라에 따라 시리가 물어보는 곳이 달라진 셈이다. 왜 이렇게 됐을까, 그리고 중국 사용자에게 실제로 무엇이 달라질까. 먼저 일정부터 정리하자. 애플 발표에 따르면 첫 Apple Intelligence 기능은 11월 4일부터 최신 iOS 개발자 베타로 테스트가 열리고, 12월 iOS 27.3 정식 출시 때 중국 사용자에게 제공된다. 여기서 조심할 점이 있다. 11월 4일은 개발자 테스트 시작일이지, 모든 사용자가 바로 받는 날이 아니다. 또 12월의 정확한 날짜는 발표에 없다. '12월 중'이라고만 쓰지, 며칠인지는 아직 정해지지 않았다. 날짜를 확정적으로 쓰면 틀리게 된다. Qwen이 들어가는 자리는 세 곳이다. 시리와 글쓰기 도구, 비주얼 인텔리전스다. 시리는 특정 요청을 처리할 때 Qwen에 접속해 넓은 지식을 빌려오고, 사용자는 사진이나 PDF, 프레젠테이션 문서에 대해서도 질문할 수 있다. 글쓰기 도구에서는 '창작' 기능으로 Qwen이 처음부터 오리지널 콘텐츠를 만든다. 비주얼 인텔리전스에서는 카메라로 본 것을 Qwen에게 물어볼 수 있다. Qwen 계정으로 로그인하거나, Apple 로그인으로 접속하면 된다. 중요한 구분이 있다. Apple Intelligence 자체는 애플이 구축한 생성식 모델이 구동하고, Qwen은 일부 경험에 더해지는 형태다. 모든 Siri 요청이 Qwen으로 가는 것이 아니라, 특정 요청에서 Qwen의 도움을 받는 구조다. 이번에 중국 사용자가 받는 것은 2024년에 처음 나온 첫 세대 Apple Intelligence에 가깝다. 실시간 번역, 글쓰...

AI를 끄면, 검색까지 같이 꺼진다 — 학교가 받은 구글의 선택지

이미지
학교가 AI를 끄고 싶다고 말했더니, 구글이 검색까지 같이 끄겠다고 답했다. 2026년 11월 3일, 구글 교육 총괄 크리스 필립스가 블로그 글에서 밝힌 학교 통제 변경의 요지다. 앞으로 학교가 관리하는 유치원부터 고등학교까지의 학생 계정에서는 Gemini와 Gemini Notebook, Gemini in Classroom, Google Search에 대한 접근이 기본적으로 완전히 꺼진다. 학교 관리자가 명시적으로 켜기 전까지는 쓸 수 없다. 얼핏 보면 학교에 통제권을 돌려주는 소식처럼 보인다. 그런데 자세히 들여다보면, 학교가 고를 수 있는 선택지의 모양이 예전과 다르다. 먼저 범위를 정확히 해야 한다. 이번 변경은 학교가 관리하는 K-12 학생 계정에만 해당한다. K-12는 미국의 초등부터 고등까지를 아우르는 말이다. 학생 개인 계정이나 일반 대중이 쓰는 검색이 막히는 것이 아니다. 학교 컴퓨터실이나 학교에서 나눠준 계정으로 검색하던 학생이 대상이다. 그래서 "모든 학생의 검색이 막힌다"고 쓰면 틀린다. 학교 계정을 쓰는 학생, 그중에서도 학교가 AI를 끈 채로 두는 경우에 한정된 이야기다. 이 한정을 빼면 뉴스가 실제보다 훨씬 크게 부푼다. 두 번째로, 기본값이 바뀌었다는 점이 중요하다. 올해 여름에는 Classroom의 Gemini 탭이 이미 접근 권한을 받은 학생에게는 기본적으로 켜져 있었다. 새 방침은 그 방향을 뒤집는다. 네 가지 제품이 전부 꺼진 상태에서 시작하고, 학교가 직접 켜야 한다. 구글은 학교와 교사, 연구자, 정책결정자의 의견을 들은 뒤의 변경이라고 밝힌다. 세부 사항은 변경이 시행되기 전에 앞으로 몇 달 안에 학교와 공유하겠다고도 적었다. 즉 발표 당일에 모든 학교 계정의 스위치가 바뀐 것이 아니라, 앞으로 몇 달 안에 다가올 변경의 예고라는 뜻이다. 시행 날짜 자체는 원문에 고정돼 있지 않다. 여기서 핵심 질문이 나온다. 학교가 AI만 끄고 검색은 남겨둘 수는 없을까. 구글의 답은, 현재 제시된 선택지 안에...

가장 좋은 AI도 12%밖에 못 푼다 — 8시간짜리 진짜 일 앞에서

이미지
  가장 좋은 AI에게 8시간짜리 진짜 일을 맡겼더니, 열두 번 중 한 번꼴로만 끝냈다. 2026년 11월 2일, 연구 회사 SemiAnalysis가 공개한 새 벤치마크 GDPx의 첫 성적표다. 1위는 앤트로픽의 Claude Opus 5.5, 점수는 12.0%다. 구글의 Gemini 4 Carbon이 10.9%로 2위, 오픈AI의 GPT-6 Astra가 9.6%로 3위다. 이 숫자를 보고 "AI가 드디어 일자리의 12%만 대체한다"거나 "AI 시대가 끝났다"고 읽으면 둘 다 틀린다. 12%는 다른 질문에 대한 답이다. 일부러 어렵게 만든 긴 과제를, 정해진 환경 안에서 끝까지 해냈는지를 재는 통과율이다. GDPx가 재는 일은 퀴즈가 아니다. 모델에게 질문을 던지고 답을 받는 방식이 아니라, 일하는 현장 자체를 시뮬레이션으로 만들어 그 안에 에이전트를 들여보낸다. 과제는 11개 분야에 걸쳐 있다. 칩 설계, 사이버보안, 생물학, 금융, 법률, 퀀트 트레이딩, 재귀적 자기개선, 하드웨어 설계, 소재과학, 정렬, 소프트웨어 공학이다. SemiAnalysis는 정부나 부동산, 보험 같은 분야는 의도적으로 빼고, 앞으로 1년에서 2년 안에 AI가 가장 큰 영향을 줄 것이라고 본 분야만 골랐다고 밝힌다. 분야 선정 자체가 경제 전체를 비추는 거울이 아니라, 이 회사의 전망을 담은 선택이라는 뜻이다. 과제 하나의 기본 제한 시간은 8시간이다. 일부 과제는 더 짧다. 모델은 각자 익숙한 도구로 일한다. Opus 5.5는 Claude Code, GPT-6 Astra는 Codex, Gemini 4 Carbon은 Antigravity에서 돌렸고, 전용 도구가 없는 모델은 OpenCode를 썼다. 채점은 분야에 따라 합격과 불합격만 가리는 방식과 부분 점수를 주는 방식을 섞어 썼다. 대표 점수는 과제마다 3번 시도한 첫 시도 통과율의 평균, 즉 pass@1 평균이다. 11개 분야는 똑같은 비중으로 평균을 냈고, 한 분야에 파트너가 여러 곳이...