누가 썼는지가 아니라 누가 생각했는지

 AI로 글을 다듬은 적 있으신가요. 문장은 내가 썼는데, 탐지기는 AI가 썼다고 판정하는 경우가 있습니다. 반대로 AI가 짜준 개요를 보고 직접 글을 쓰면, 탐지기는 사람 글이라고 통과시키는 경우도 있습니다. 지금의 탐지기가 보고 있는 것은 문장이지, 생각이 아니기 때문입니다.

이 간극은 이제 규칙의 문제로 번지고 있습니다. 학회와 학교의 규정은 점점 "AI가 문장을 썼는가"가 아니라 "AI가 아이디어를 냈는가"를 묻는 쪽으로 옮겨가고 있습니다. 문장을 다듬는 데 AI를 쓰는 것은 신고만 하면 허용되는 경우가 많지만, 아이디어 자체를 AI에게 맡기고 자기 것인 양 제출하는 것은 다른 문제로 취급되기 때문입니다. 그런데 정작 탐지기는 이 둘을 구분하지 못했습니다. 그래서 새로운 탐지기가 등장했습니다.

메릴랜드대학교와 구글 딥마인드, 사이먼프레이저대학교 연구진이 10월 5일 공개한 연구의 주인공은 아이디어렌즈(IdeaLens)입니다. 묻는 질문이 다릅니다. 누가 문장을 썼는지가 아니라, 누가 아이디어를 냈는지입니다.

방법은 단순하면서도 영리합니다. 글을 통째로 읽는 대신, 글의 뼈대만 뽑아냅니다. 각 단락이 어떤 역할을 하는지, 무슨 내용을 담고 있는지를 짧게 바꿔 쓴 개요로 만드는 것입니다. 예를 들어 "서론에서 문제를 제기한다", "두 번째 근거로 실험 결과를 든다" 같은 식입니다. 이렇게 문체를 걷어내면 남는 것은 아이디어의 흐름뿐입니다. 탐지기는 그 흐름을 보고 판단합니다. 지문을 대조할 때 잉크의 색이 아니라 손가락의 무늬를 보는 것과 비슷합니다.

학습에는 웹 문서 약 100만 개가 쓰였습니다. 다만 한 가지 단서를 달아야 합니다. 이 문서들의 정답 라벨은 사람이 직접 매긴 것이 아니라, 기존 문장 탐지기인 팽그램이 추정한 것입니다. 연구진도 이를 실버 라벨이라고 부릅니다. 출발점 자체가 추정치라는 뜻입니다. 그럼에도 개요로 바꾼 뒤에는 문체 정보가 대부분 사라지기 때문에, 탐지기는 아이디어의 차이로 라벨을 맞출 수밖에 없게 됩니다. 이 설계가 연구의 핵심입니다.

실험 결과는 기존 탐지기와 선명하게 갈렸습니다. 연구진은 사람이 만든 계획이 점점 자세해지는 조건을 만들었습니다. 주제만 주는 경우부터 완전한 개요를 주는 경우까지, AI에게 사람이 짠 계획을 단계적으로 넘겨준 것입니다. 그러자 AI가 쓴 글에 대한 아이디어렌즈의 AI 판정률은 95퍼센트에서 7퍼센트까지 떨어졌습니다. 같은 조건에서 팽그램 4는 92퍼센트를 여전히 AI 글로 판정했습니다. 문장은 AI가 썼지만 아이디어는 사람이 낸 경우, 아이디어렌즈는 사람 쪽에 손을 들어준 것입니다.

반대 방향도 확인했습니다. 사람이 AI가 만든 계획으로 직접 쓴 이야기 50편을 놓고 보니, 아이디어렌즈는 68퍼센트를 AI 아이디어로 판정했습니다. 팽그램 4는 8퍼센트에 그쳤습니다. 문장을 고치는 것만으로는 아이디어의 출처를 숨길 수 없다는 뜻입니다. 같은 문장이라도, 그 문장이 어떤 생각을 따라가는지에 따라 판정이 달라진 것입니다.

그렇다면 아이디어렌즈는 사람의 생각과 AI의 생각을 어떻게 구분할까요. 연구진은 9만 건의 예측을 분석했습니다. 사람 아이디어에는 검증 가능한 출처와 의미 있는 세부 사항이 많았고, 한계와 미해결 문제를 인정하는 대목도 잦았습니다. AI 아이디어에는 일반적인 세부 사항과 확인하기 어려운 숫자, 단정적인 주장, 완벽해 보이는 해결책이 많았습니다. 문장이 아니라 생각의 습관이 갈린 것입니다. 사람은 아는 만큼만 말하고 모르는 부분은 남겨두는 반면, AI는 빈틈을 매끄럽게 메우는 경향이 있다는 해석도 가능합니다.

이 탐지기가 기존 탐지기를 완전히 대체하는 것은 아닙니다. 아이디어와 문장의 출처가 같은 경우, 즉 사람이 쓴 사람 아이디어 글이나 AI가 쓴 AI 아이디어 글에서는 기존 탐지기도 잘 작동합니다. 아이디어렌즈의 진짜 강점은 출처가 엇갈리는 경우에 드러납니다. 연구진은 19개 기존 탐지 벤치마크에서도 낮은 오탐률을 유지했다고 밝혔고, 영역과 형식, 언어에 걸쳐 성능이 유지된다고 설명했습니다. 다만 이 역시 논문의 주장이고, 독립 검증은 아직 본격화되지 않았습니다.

당장 학교나 학회에 도입될 단계도 아닙니다. 아직 동료심사를 거치지 않은 프리프린트이고, 일부 최신 모델이 만든 글에서는 탐지 효과가 떨어진다는 언급도 있습니다. 탐지기를 부정행위 판정의 최종 심판처럼 쓰는 것은 위험합니다. 탐지기는 단서를 줄 뿐, 판단은 사람이 해야 합니다. 오탐 한 건이 한 사람의 학업과 경력에 남길 상처를 생각하면, 이 선은 끝까지 지켜야 합니다.

그럼에도 이 연구가 던지는 질문은 오래 남을 것 같습니다. 앞으로의 규칙은 누가 문장을 썼는지가 아니라 누가 생각했는지를 묻게 될지 모릅니다. AI에게 개요를 맡기고 문장만 직접 쓴 글, 반대로 사람이 짠 개요를 AI가 문장으로 풀어낸 글. 둘을 같은 잣대로 재는 시대는 끝나가고 있습니다.

여기서 숫자 하나를 더 짚어볼 필요가 있습니다. 사람이 AI 계획으로 쓴 이야기에서 아이디어렌즈가 잡아낸 비율은 68퍼센트였습니다. 뒤집으면 32퍼센트는 여전히 잡아내지 못했다는 뜻입니다. 아이디어의 출처를 읽는 일도 완벽하지 않습니다. 탐지 기술이 발전할수록 회피 기술도 함께 발전해온 역사를 생각하면, 이 격차는 쉽게 좁혀지지 않을 수 있습니다. 탐지기를 믿는 것과 탐지기에 맡기는 것은 다른 일입니다.

기존 탐지기가 왜 이런 간극을 보였는지도 짚어볼 만합니다. 문장 탐지기는 단어 선택과 문장 패턴 같은 문체의 지문을 봅니다. 그래서 문장을 바꿔 쓰면 판정이 흔들립니다. AI가 쓴 글을 사람이 다듬으면 사람 글로 보이고, 사람이 쓴 개요를 AI가 풀어내면 AI 글로 보이는 식입니다. 문체만 보는 한, 이 약점은 구조적입니다. 아이디어렌즈는 그 약점을 정면으로 건드린 셈입니다. 문체를 지우고 뼈대만 남겼을 때, 무엇이 남는지를 물은 것입니다.

이 연구가 가리키는 방향은 탐지기의 교체가 아니라 탐지기의 층위 추가에 가깝습니다. 앞으로는 문장 탐지기와 아이디어 탐지기가 함께 쓰일 수 있습니다. 문장은 누가 썼는지, 아이디어는 누가 냈는지, 두 질문에 따로 답하는 것입니다. 그러면 "AI 도움을 받았다"는 한 줄짜리 신고도 더 정교해질 수 있습니다. 문장 다듬기에만 도움을 받았는지, 아이디어 단계부터 함께했는지를 구분해 신고하는 식입니다. 규칙이 정교해질수록 신고도 정교해져야 합니다.

이 질문은 논문이나 숙제만의 이야기가 아닙니다. 직장 보고서를 쓸 때 AI에게 목차를 짜달라고 한 경우, 블로그 글을 쓸 때 소재와 구성을 AI와 함께 정한 경우도 같은 선상에 있습니다. 어디까지가 도움인지, 어디부터가 대필인지에 대한 사회적 합의는 아직 없습니다. 탐지기 하나가 그 합의를 대신 정해줄 수는 없지만, 합의의 재료를 제공하는 일은 할 수 있습니다. 아이디어의 출처를 따로 잴 수 있게 되면, 논의는 "AI를 썼느냐"에서 "어느 단계까지 썼느냐"로 옮겨갈 수 있습니다.

조금 더 깊이 들어가면, 이 연구는 탐지 기술 이상의 질문을 던집니다. 생각에도 지문이 있다는 것입니다. 사람이 생각을 전개하는 방식에는 출처를 밝히려는 습관, 빈틈을 남겨두는 솔직함이 배어 있습니다. AI의 생각에는 빈틈을 매끄럽게 메우려는 습관이 배어 있습니다. 문장을 걷어내고도 남는 이 차이가, 앞으로 창의성과 저작권을 논할 때 어떤 의미를 갖게 될지 아직은 알 수 없습니다. 다만 한 가지는 분명합니다. AI 시대의 표절 논쟁은 문장 표절에서 아이디어 표절로 무게중심을 옮기고 있습니다.

연구진은 모델과 라벨링된 데이터셋을 공개했습니다. 다른 연구진이 직접 검증하고 개선할 수 있게 문을 열어둔 것입니다. 프리프린트라는 한계도, 바로 이 공개 덕분에 빠르게 검증될 수 있습니다. 좋은 연구는 결론이 아니라 검증 가능성으로 평가받습니다.

독자 여러분께도 같은 질문을 던져보고 싶습니다. 글을 쓸 때 AI에게 무엇을 맡기시나요. 문장을 다듬는 일인가요, 아니면 무엇을 쓸지 정하는 일인가요. 그 경계가 어디인지, 한 번쯤 생각해볼 때가 된 것 같습니다.

글을 쓴 사람이 아니라, 생각을 낸 사람을 묻는 시대. 그 첫 번째 렌즈가 등장했습니다.

자료 출처:
Rishanth Rajendhran 외 7명, "IdeaLens: Detecting AI Ideas in Long-form Writing", arXiv:2610.06778, 2026년 10월 5일 제출 (프리프린트, DOI: 10.48550/arxiv.2610.06778)
TechXplore, "New detector spots AI-generated work by examining ideas, not words" (2026년 10월 보도)
수치와 실험 결과는 논문 초록과 보도 내용을 대조해 확인했습니다. 학습 라벨이 팽그램의 추정 라벨이라는 점과 프리프린트라는 점은 본문에 명시했습니다.