양자컴퓨터의 90퍼센트 병목을 깨뜨린 방법 — Willow 매직스테이트 재배

양자컴퓨터 이야기가 나올 때마다 따라붙는 걱정이 하나 있습니다. 계산 도중에 생기는 오류가 너무 잦다는 거예요. 그런데 구글 연구진이 지난 10월 15일, 과학 저널 Science에 이 오류 문제의 가장 비싼 대목 하나를 크게 줄인 실험 결과를 발표했습니다. 무대는 구글이 만든 초전도 양자 프로세서 Willow예요. 105개의 큐비트를 가진 이 칩 위에서, 양자컴퓨터의 '병목'을 푸는 열쇠로 꼽혀 온 매직스테이트라는 것을 이론 속 방법이 아닌 실제 기계로 처음으로 길러 낸 거예요.

먼저 배경을 짧게 짚어 볼게요. 양자컴퓨터의 계산 단위인 큐비트는 아주 예민해서, 주변의 작은 진동이나 온도 변화에도 계산이 쉽게 흐트러집니다. 그래서 여러 개의 물리 큐비트를 하나로 묶어 서로 감시하게 만드는 '오류 정정'이 필수인데, 이렇게 묶인 하나의 단위를 논리 큐비트라고 부릅니다. 문제는 이 감시 체계 안에서도 유독 만들기 어려운 연산이 따로 있다는 점이에요. 그 어려운 연산을 가능하게 해 주는 특별한 재료가 바로 매직스테이트입니다.

매직스테이트는 쉽게 말하면 양자 계산의 '마법 재료' 같은 것입니다. 오류 정정만으로는 고전 컴퓨터가 흉내 낼 수 있는 수준을 벗어나기 어려운데, 이 재료를 한 번 써넣을 때마다 양자컴퓨터다운 진짜 계산이 가능해지거든요. 다만 한 번 쓰면 사라지는 소모품이라 계산 내내 계속 만들어 공급해야 하고, 순도가 조금만 낮아도 계산 전체가 흔들립니다. 필요한 양도 만만치 않아요. 유용한 계산일수록 이런 재료가 수없이 들어가기 때문에, 양자 알고리즘의 비용은 사실상 이 재료를 몇 개 쓰느냐로 헤아려진다는 말까지 나옵니다. 결국 양자컴퓨터의 실력은 이 재료를 얼마나 싸고 깨끗하게 만드느냐에 달려 있다고 해도 지나친 말이 아니에요. 이름에 '마법'이 붙은 것도, 이 재료를 손에 넣는 순간 계산의 성격이 달라진다는 뜻에서 연구자들이 붙인 별명에 가깝습니다.

문제는 그 비용이었습니다. 지금까지의 표준 방법은 2005년에 제안된 '증류'라는 방식으로, 순도가 낮은 재료를 잔뜩 만들어 놓고 여러 번 걸러 내는 거대한 공장 같은 공정이 필요했어요. 여러 추정에 따르면, 이런 공장 방식으로 재료를 만들 경우 양자컴퓨터 전체 물리 큐비트의 90퍼센트에서 95퍼센트까지가 재료 생산에만 묶일 수 있다고 합니다. 논문의 수석 저자인 에마 로젠펠드도 "양자컴퓨터의 최대 95퍼센트가 고순도 매직스테이트를 만드는 데 쓰일 수 있다"고 언론 인터뷰에서 설명했어요. 정작 계산에 쓸 몫은 한 자릿수만 남는 셈이죠. 이 병목은 2004년 무렵부터 예견돼 왔고, 지난 20년 동안 연구자들이 비용을 조금씩 깎아 왔지만 병목 자체는 그대로 남아 있었습니다.

이번에 구글이 택한 길은 공장을 크게 짓는 대신 '재배'였습니다. 2024년에 구글의 크레이그 기드니와 동료들이 제안한 이 방법은 이름 그대로예요. 잡음이 많은 재료를 칩의 작은 구역에 심고, 오류가 있는지를 정밀하게 검사해 불량은 그 자리에서 버리고, 살아남은 깨끗한 상태만 골라 키우는 방식입니다. 검사는 한 번으로 끝나지 않고 여러 차례 반복되며, 조금이라도 의심스러우면 그 시도는 통째로 버려집니다. 아까워 보이지만, 나쁜 재료 하나가 계산 전체를 망치는 것보다 처음부터 다시 키우는 편이 싸게 먹힌다는 계산이에요. 거대한 공장을 짓는 대신 좋은 묘목 한 그루를 정성껏 기르는 쪽에 가까운 발상이죠.

실험은 구글의 양자 프로세서 Willow에서 이뤄졌습니다. Willow는 큐비트를 늘릴수록 묶음 전체의 오류가 오히려 줄어드는, 이른바 '임계값 아래'의 오류 정정을 보여준 바 있는 칩이에요. 오류를 감시하는 토대가 먼저 섰고, 그 위에 이번에는 재료를 싸게 만드는 방법이 얹어진 셈입니다. 연구진은 작은 오류 정정 코드인 '거리-3 컬러 코드' 안에서 상태를 키운 뒤, 품질 검사를 통과한 상태를 더 크고 안정적인 '거리-5 서피스 코드'로 옮겨 심는 '접목'까지 실제 칩 위에서 해냈습니다. 작은 화분에서 키운 묘목을 큰 화분으로 옮겨 심는 과정을 양자 회로로 구현한 셈이에요. 이렇게 옮긴 뒤에도 상태가 망가지지 않았다는 점이 중요합니다.

결과는 논문이 밝힌 수치 그대로입니다. 재배를 거친 상태는 그렇지 않은 상태보다 오류가 약 40배 줄었고, 핵심 재료인 T-스테이트의 논리적 충실도는 99.99퍼센트에 이르렀어요. 충실도는 재료가 이론상 완벽한 상태에 얼마나 가까운지를 뜻하는 수치로, 뒤집어 말하면 만 번에 한 번 정도만 어긋나는 수준입니다. 구글은 이 충실도를 '기록적'이라고 표현했고, 연구는 동료 심사를 거쳐 Science에 실렸습니다. 대가도 있었습니다. 엄격한 검사를 통과해 살아남은 시도는 전체의 약 8퍼센트뿐이었거든요. 열 번 넘게 시도해야 한두 번 건지는 셈입니다. 다만 뒤집어 보면, 92퍼센트를 버리는 비용이 공장 전체를 짓는 비용보다 싸다는 것이 재배 방식의 요점이기도 해요.

순탄한 길만은 아니었습니다. 실험 초기에 로젠펠드는 물리 법칙을 거스르는 것처럼 보이는 데이터를 마주했다고 해요. 몇 달의 혼란 끝에 밝혀진 원인은 실험실 장비의 미세한 오차와 온도 변화가 만드는 잡음이었고, 팀은 애초에 측정 방식의 가정이 틀렸다는 걸 깨달았습니다. 결국 팀은 재배 과정을 이용해 재배 결과 스스로를 재는 새로운 측정 기법까지 만들어 냈어요. '킥백 단층촬영'으로 불리는 이 기법은 적은 측정만으로 남은 오류를 짚어 낼 수 있다고 논문은 설명합니다. 이번 논문이 방법 자체만큼이나 측정법의 진전으로도 읽히는 이유입니다.

다만 여기서 멈춰 흥분하기에는 이릅니다. 구글 스스로도 실용 수준으로 쓰려면 더 큰 규모에서도 되는지를 보여줘야 한다고 밝혔거든요. 이번 실험은 가능성을 실제 하드웨어에서 증명한 단계이고, 통과율 약 8퍼센트라는 숫자도 아직 갈 길이 멀다는 걸 보여줍니다. 보도에 따르면 이번 실험에 실제로 쓰인 큐비트는 최대 54개 수준으로, 칩 전체를 동원한 것도 아니에요. 그만큼 이번 결과는 '작은 규모에서의 증명'이라는 성격을 분명히 갖고 있습니다. 이론을 제안한 기드니 본인도 가장 어려운 단계인 큰 코드로의 접목에는 수백 개 규모의 큐비트가 필요해 지금 칩으로는 어렵다는 취지로 언급한 바 있어요. 큰 계산으로 키웠을 때 같은 순도를 유지할 수 있는지는 다음 질문으로 남아 있습니다.

그래서 한 가지 걱정은 정확히 짚고 넘어갈 필요가 있습니다. 이런 소식이 나올 때마다 '비트코인과 은행 암호가 곧 뚫리는 것 아니냐'는 이야기가 따라붙는데, 이번 결과만으로 그렇게 말하기는 어렵습니다. 이번에 달성한 오류율은 1만 번에 한 번꼴 수준인데, 실제 암호를 분석하는 계산에는 이보다 몇 자릿수나 더 낮은 오류율과 훨씬 큰 규모의 기계가 필요하다는 게 전문가들의 공통된 설명이에요. 지금의 암호 체계가 하룻밤 사이에 무력해지는 그림은 이번 뉴스와는 거리가 멉니다. 병목 하나가 풀리기 시작했다는 것과 암호가 위험해졌다는 것은 전혀 다른 이야기입니다.

정리하면 이렇습니다. 양자컴퓨터의 진짜 병목은 큐비트 수 자체보다, 계산에 꼭 필요한 재료를 만드는 비용에 가까웠습니다. 구글의 이번 실험은 그 재료를 공장이 아니라 재배로 만들 수 있다는 걸 칩 위에서 처음 보여줬고, 오류를 약 40배 줄여 그 가능성을 숫자로 확인했어요. 재배가 통하면 달라지는 것은 재료 가격만이 아닙니다. 기계 대부분을 재료 공장이 차지하던 설계에서는 큐비트를 늘리는 일이 곧 공장부터 늘리는 일이었지만, 재료가 싸지면 그 비율이 뒤집혀 계산에 쓰는 몫이 커집니다. 양자컴퓨터의 설계도 자체가 달라질 수 있다는 뜻이에요. 이 방식이 규모를 키우는 데 성공하면, 같은 일을 하는 데 필요한 양자컴퓨터의 크기도 그만큼 작아질 수 있습니다. 남은 숙제는 규모와 수율입니다.

기술의 진보는 가끔 이렇게 전체가 아니라 한 군데의 막힌 곳이 풀리면서 옵니다. 아직 갈 길은 멀지만, 20년 가까이 이론으로만 존재하던 방법이 실제 기계 위에서 작동했다는 사실은 그 자체로 기록할 만합니다. 다음 확인 지점은 분명합니다. 더 큰 코드로 옮겨 심는 접목이 큰 규모에서도 통하는지, 그리고 8퍼센트에 그친 수율이 어디까지 오르는지예요. 이 '재배'가 실험실의 기록을 넘어 실용 기술이 될지는 그 두 가지에 달려 있습니다.

데이터 출처: Science 게재 논문 'Magic state cultivation on a superconducting quantum processor'(2026년 10월 15일), 구글 Quantum AI 공식 블로그 'Bringing the magic'(2026년 10월 15일), arXiv 프리프린트(2512.13908), Quantum Computing Report 보도.

많이 본 글

자기소개 및 블로그 운영방향

양자 컴퓨터와 AGI

AI 발전 속도와 사회적 준비의 격차