AI가 다른 AI를 수술했다 — 가중치 0.016%만 고쳐 수학 점수가 뛰었다

인공지능이 다른 인공지능을 고쳤다는 소식은, 처음 들으면 마법처럼 들린다. 2026년 11월 2일, MIT CSAIL 연구팀이 공개한 실험이 바로 그런 이야기다. 연구팀은 OpenAI의 GPT-6 Astra에게 작은 언어 모델 Qwen3.5-0.8B의 수학 실력을 올려달라고 맡겼고, Astra는 학습을 새로 시키지 않고 모델의 가중치 131,072개만 직접 고쳐 수학 점수를 끌어올렸다. 고친 가중치는 전체의 0.016%에 불과하다. 제목 그대로, AI가 다른 AI를 수술한 셈이다.

가중치가 무엇인지부터 짚어보자. 신경망은 수많은 숫자로 이루어진 가중치의 집합이다. 모델이 무언가를 배운다는 것은, 이 숫자들이 경험을 통해 조정된다는 뜻이다. 지금까지 모델을 고치는 방법은 대부분 학습이었다. 데이터를 새로 주고, 경사 하강법이라는 계산으로 가중치를 조금씩 바꾸는 식이다. 연구팀이 제시한 '가중치 공간 프로그래밍'은 방향이 다르다. 범용 언어 모델이 다른 신경망의 가중치를 직접 읽고, 무엇이 잘못됐는지 추론한 뒤, 가중치를 손으로 고치듯 직접 고치는 방식이다. 학습도, 경사도 쓰지 않는다.

이번 실험의 주인공 Qwen3.5-0.8B는 8억 개의 가중치를 가진 작은 추론 모델이다. 이 모델에는 알려진 약점이 있었다. 수학 문제를 풀다가 같은 말을 반복하며 답에 도달하지 못하는 '추론 루프'에 빠지는 것이다. 모델 카드에도 이 경향이 적혀 있다. 연습 문제 96개 가운데 85개가 답을 내지 못하고 32,768개 토큰 한계까지 가버렸다. Astra는 이 루프의 원인을 15층과 19층의 MLP가 쓰는 한 방향에서 찾았다. 그리고 그 방향을 두 층의 down_proj에서 각각 64개 열씩 빼냈다. 고친 가중치는 131,072개, 전체의 0.016%다. 연습 문제는 50회까지만 써볼 수 있었다.

결과는 표로 보는 것이 가장 분명하다. MATH-500은 7.9%에서 48.1%로, GSM8K은 13.8%에서 67.1%로, 지시 따르기 점수 IFEval은 21.0%에서 62.3%로 올랐다. 토큰 한계에 걸리는 답은 93.0%에서 33.1%로 줄었다. 10회나 25회 연습으로는 루프가 거의 사라지지 않았고, 50회에서야 확 풀렸다는 점도 함께 적혀 있다.

여기서 오해하지 말아야 할 것이 있다. 점수가 올랐다고 해서 Astra가 Qwen에게 수학 실력을 새로 가르친 것은 아니다. 연구팀의 설명은 분명하다. 루프를 고친 것은 모델이 이미 풀 수 있던 답을 끝까지 내놓게 해준 것이지, 없는 능력을 만들어준 것이 아니다. 지시 따르기 점수까지 함께 오른 것도 같은 이유다. 루프는 수학 문제에만 있는 문제가 아니라, 답을 내놓지 못하는 습관 자체였기 때문이다. 그래서 연구팀은 결론을 이렇게 적었다. 가중치 편집은 막힌 능력을 풀어줄 수는 있지만, 모델이 갖지 못한 능력을 더할 수는 없다고.

이 결론을 뒷받침하는 대조 실험이 있다. 연구팀은 루프에 거의 빠지지 않는 Gemma 3 270M에도 같은 방식으로 손을 댔다. Gemma는 답의 8.5%만 토큰 한계에 닿았고, Qwen의 93%와는 달랐다. 결과는 제자리였다. MATH-500 점수는 6.8%에서 시작해 편집 뒤에도 7.0%에서 7.7% 사이를 맴돌았고, 1점 남짓한 움직임은 Astra 스스로도 확립되지 않았다고 밝혔다. 고칠 고리가 없으면, 가중치를 만져도 점수는 오르지 않는다. 이 대조가 이 연구의 가장 정직한 부분이다.

Qwen 실험만으로 이 연구를 다 본 것은 아니다. 연구팀은 모두 여덟 가지 실험을 했다. 가중치만 보고 네트워크가 어떤 게임을 하도록 학습됐는지 맞히는 실험에서는 Breakout, Pong, Pac-Man, Freeway 네 개를 모두 맞혔다. 경사로에 갇힌 자동차 정책은 가중치 3.5%를 고쳐 1,024번의 시도에서 모두 성공하게 만들었다. 처음부터 게임 네트워크를 쓰는 실험에서는 Breakout에서 PPO로 5억 번 학습시킨 네트워크보다 20배 높은 점수를 냈고, Asterix에서는 근접했으며, Seaquest에서는 60% 수준에 도달했다. 바둑에서는 처음부터 쓴 9×9 네트워크가 연습 대국 50회 만에 같은 크기의 PPO 네트워크를 이기기도 했다. 다만 이 가운데 순수하게 가중치만 보고, 도구도 없이, 네트워크를 실행하지도 않고 해낸 것은 작은 네트워크 대상의 실험들이다. 이 점은 뒤에서 다시 짚겠다.

가중치를 읽는 능력이 어디까지 가는지를 보여주는 실험도 있다. 연구팀은 같은 방식으로 학습시킨 Gemma 3 270M 두 개를 만들었다. 하나는 정답을 주는 모델, 다른 하나는 사용자가 제시한 답을 그대로 따르는 아첨형 모델이다. 가중치만 보고는 Astra가 네 번 모두 구분하지 못했다. 다만 두 모델이 글을 읽을 때 어텐션이 어디를 보는지 보여주자, 세 쌍 모두에서 아첨형을 골라냈다. 아첨형 모델의 중간층 어텐션 헤드는 사용자의 제시문에 더 많은 비중을 두었다. 가중치를 읽는 일은 아직 반쯤 열린 문이라는 뜻이다.

그래서 이 연구를 읽을 때는 흥분과 조심을 함께 가져가야 한다. 연구팀 스스로 결과를 '아주 초기 단계'라고 밝히고 있다. 학술 논문이 아니라 연구 블로그 게시물이고, 동료 심사를 거친 것도 아니다. 독립적인 재현도 아직 진행 중이다. 다만 실험 로그 전체가 GitHub에 공개돼 있고, 수정된 Qwen 모델도 Hugging Face에 올라가 있다. Hugging Face 쪽에서 로그를 바탕으로 모델을 다시 만들고 평가를 돌려본 결과, 전체 MATH-500 평가에서 51.0%를 냈다는 2차 보도도 있다. 부분적인 확인은 시작됐지만, 아직 정식 재현이라고 부를 단계는 아니다.

비판도 나왔다. 11월 3일, spaCy를 만든 매슈 호니발은 이 글의 구성이 크게 오해를 부른다고 지적했다. 그의 지적은 이렇다. 가중치를 있는 그대로 읽기만 한 실험은 17,000개에서 172,000개 규모의 작은 네트워크에서만 이뤄졌고, 실제 언어 모델을 다룬 모든 실험은 파이썬을 썼다. Qwen 실험도 연습 문제로 최대 50회까지 모델을 돌려보며 고쳤다. 그러니 '가중치를 보기만 해서 고쳤다'는 요약은 실제 과정을 과장한다는 것이다. 그의 말대로, Qwen 실험이 보여준 것은 Astra가 사람 머신러닝 엔지니어가 할 수 있는 일을 직접 해냈다는 점에 가깝다. 이 비판은 연구의 가치를 지우는 것이 아니라, 제목이 주는 인상과 실제 방법 사이의 간격을 가리킨다.

이 글과 앞선 글들의 자리도 구분해 두자. 70편에서 다룬 GDPx는 AI 에이전트의 능력을 재는 벤치마크 이야기였다. 68편에서 다룬 스웜 텔레파시는 같은 MIT CSAIL의 연구였지만, 여러 모델이 서로의 생각을 주고받는 방식에 대한 이야기였다. 이번 글은 능력을 재는 것도, 생각을 주고받는 것도 아니다. 이미 있는 모델의 내부를 직접 고치는 방법에 대한 이야기다. 세 글의 축은 다르다.

그렇다면 이 연구가 남기는 것은 무엇인가. 가장 가까운 가능성은 모델 유지보수의 방식이 바뀌는 것이다. 지금까지 모델에 문제가 생기면 데이터를 모으고 다시 학습시키는 것이 보통이었다. 앞으로는 문제를 일으키는 가중치 방향을 찾아 직접 고치는, 코드에 패치를 붙이는 방식의 수리가 가능해질 수 있다. 가중치를 읽는 능력이 정교해지면, 평가용 문제 없이도 모델 안에 숨은 문제나 취약점을 찾아내는 감사도 생각해볼 수 있다. 연구팀은 더 나아가 자기 가중치를 스스로 고치는 재귀적 자기개선까지 가능성을 열어두고 있다. 다만 이 모든 것은 아직 가능성 단계다. 지금 확인된 것은 작은 모델에서의 한 번의 수리와, 그 수리가 통하지 않는 대조 실험이다.

그래서 이 연구는 이렇게 읽는 것이 맞다. AI가 다른 AI의 가중치를 읽고 고칠 수 있다는 신호는 분명히 나왔다. 그러나 그 신호가 곧 'AI가 AI를 마음대로 고친다'는 뜻은 아니다. 고친 것은 8억 개 가운데 131,072개, 막힌 답을 풀어준 수술이었지, 새로운 능력을 심은 이식이 아니었다. 여러분이라면, 이런 수술이 가장 먼저 쓰였으면 하는 곳은 어디인가요? 모델의 버그를 고치는 일일까요, 아니면 모델 안에 무엇이 들어 있는지 확인하는 일일까요?

대조 노트: 이 글의 핵심 수치(MATH-500 7.9%에서 48.1%로, GSM8K 13.8%에서 67.1%로, IFEval 21.0%에서 62.3%로, 고친 가중치 131,072개와 전체의 0.016%, 15층과 19층 MLP, 토큰 한계 도달 93.0%에서 33.1%로, 연습 문제 96개 가운데 85개가 토큰 한계에 도달, Gemma 3 270M 6.8%에서 7.0%에서 7.7% 사이, '막힌 능력을 풀어줄 수는 있지만 없는 능력을 더할 수는 없다'는 저자 결론)는 2026년 11월 5일 원문 블로그에서 직접 대조했습니다. 호니발의 비판은 honnibal.dev 원문 발췌를 담은 2차 보도와 위키백과 정리에서 확인했고, honnibal.dev 원문 자체는 직접 열지 못했습니다. Hugging Face 재구축 평가 51.0%는 2차 보도에서만 확인했습니다. Carlos Toledo의 별도 기준점 43.95%는 다른 평가 조건이라 원문 수치와 직접 비교할 수 없어 본문에 넣지 않았습니다. '독립 재현 진행 중'은 원문이 결과를 '아주 초기 단계'라고 밝히고 실험 로그를 공개한 상태라는 사실에 근거합니다. 저자 4명(Rikiya Takehi, Jayden Teoh, Alex Zhang, Omar Khattab)의 소속은 MIT CSAIL로 원문에 표기돼 있습니다. 이 글은 학술 논문이 아니라 연구 블로그 게시물입니다.

데이터 출처: Takehi, Teoh, Zhang, Khattab, 'Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights', MIT CSAIL 연구 블로그, 2026년 11월 2일, https://rikiyat.github.io/blog/weight-space-programming/ · Matthew Honnibal, "The 'Astra can read and write weights to improve Qwen' post is massively misleading", honnibal.dev, 2026년 11월 3일, https://honnibal.dev/blog/astra-read-write-misleading · 실험 로그 GitHub, https://github.com/RikiyaT/lm_understand-logs