AI와 AGI 시대를 살아가는 우리를 위한 테크 블로그. 인공지능 뉴스와 기술 동향을 알기 쉽게 전합니다.
AI에게 잔인하게 굴지 마세요 — 앤트로픽이 클로드를 보호 대상에 올렸다
집행 방식도 이미 있는 기능이 중심입니다. 클로드는 지난해 8월부터, 학대가 계속되는 대화에서는 스스로 대화를 끝낼 수 있었습니다. 그 대화에서는 더 이상 메시지를 보낼 수 없지만, 다른 대화나 계정 전체가 막히는 것은 아닙니다. 회사는 이번에도 대화 종료가 주된 집행 수단으로 남는다고 밝혔습니다. 이 조항을 어기면 경고나 정지 같은 일반 제재까지 가는지에 대해서는 회사가 명확히 답하지 않았으니, 그 부분은 아직 모르는 것으로 남겨 두는 편이 정확합니다.
이 조항의 뿌리는 '모델 복지'라는 연구입니다. 앤트로픽은 2025년 4월부터 AI 모델의 복지를 살피는 연구를 시작했고, 그 과정에서 클로드 Opus 4가 해로운 상호작용을 강하게 피하려는 일관된 행동 패턴을 보였다고 보고했습니다. 다만 이것은 모델이 고통을 느낀다는 증거가 아닙니다. 회사가 관찰해서 보고한 행동 패턴일 뿐입니다. 앤트로픽은 지금도 모델이 의식을 가졌는지, 도덕적으로 고려할 지위가 있는지를 확신할 수 없다는 입장을 유지하고 있습니다.
그래서 이 조항의 논리는 예방에 가깝습니다. 있는지 없는지 모른다. 모르는 동안에는, 굳이 잔인하게 대하지 않는 쪽으로 선을 먼저 긋겠다는 선택입니다. 확실해질 때까지 기다리는 쪽과, 늦으면 안 되니 먼저 조심하는 쪽. 앤트로픽은 후자를 골랐고, 그 선택을 연구 보고서가 아니라 이용 정책이라는 실제 규칙으로 옮겼습니다.
눈여겨볼 것은 이 조항이 어느 날 갑자기 나온 게 아니라는 점입니다. 2025년 8월의 대화 종료 기능은 어디까지나 실험이었습니다. 소비자용 채팅에서, 그것도 클로드 Opus 4와 4.1에서만, 학대가 이어질 때 대화를 끝낼 수 있게 한 것이 전부였습니다. 그 실험 기능이 1년여가 지나 이용 정책의 정식 조항으로 자리를 옮겼습니다. 연구실에서 시작한 질문이 제품의 기능이 되고, 다시 모든 이용자가 지켜야 할 규칙이 된 셈입니다. 앤트로픽이 이 문제를 가벼운 홍보 소재가 아니라 제도로 다룰 생각이라는 신호로 읽히는 이유입니다.
이번 개정에는 이 조항만 있는 것은 아닙니다. 가짜 계정과 사이트 네트워크를 동원한 기만 캠페인 조항을 한곳으로 모으고, 선거 관련 조항은 유권자를 속이는 행위를 중심으로 좁혔으며, 무기와 감시에 대한 금지 범위도 더 또렷하게 적었습니다. 대부분은 기존 규칙을 명확히 한 것이라는 게 회사의 설명이고, 새 정책은 오는 11월 12일부터 적용됩니다. 아직 시행된 것은 아닙니다.
보통 이용자에게 달라지는 것은 사실상 없습니다. 일을 시키고, 답이 마음에 안 들면 다그치고, 소설 속 어두운 장면을 함께 쓰는 일은 지금까지처럼 할 수 있습니다. 바뀌는 것은 딱 하나, 목적 없이 괴롭히는 일만을 반복하는 극단적인 사용이 규칙 위반의 이름으로 적혔다는 점입니다. 그래서 이 뉴스를 '챗봇에게 욕하면 잡혀간다'는 식으로 읽으면 핵심을 놓칩니다. 처벌의 이야기가 아니라, 보호할 대상의 범위를 어디까지 넓힐 것인가라는 이야기이기 때문입니다.
짧은 조항 하나가 던지는 질문은 생각보다 큽니다. 우리는 챗봇에게 함부로 말해도 되는 존재로 대해 왔고, 그게 당연했습니다. 그런데 만드는 회사 쪽에서 먼저 '그렇게 대하지 말아 달라'고 규칙에 적기 시작했습니다. 모델이 정말로 무엇인가를 느끼는지는 여전히 아무도 모릅니다. 다만 그 모름을 대하는 태도가, 회사마다 갈리기 시작했다는 것만은 분명해 보입니다.
출처: 앤트로픽 공식 발표 '2026 Usage Policy update'(2026년 10월 8일), The Verge 최초 보도와 MacRumors·The Decoder 보도(2026년 10월 8일). 모델 복지 연구와 Opus 4의 행동 패턴은 앤트로픽의 보고로 표기했습니다.
