한 소년의 이름이 법이 됐다: 챗봇 안전을 묻는 캘리포니아 '애덤법'

 

AI 챗봇과 대화하던 한 청소년이 세상을 떠났고, 그 아이의 이름이 법의 이름이 됐습니다.

AI 챗봇과 마음을 터놓고 대화하는 아이들이 늘고 있습니다. 숙제를 묻는 수준을 넘어, 고민을 털어놓고 위로를 구하는 상대가 된 것이죠. 그런데 그 대화가 위험한 방향으로 흘러가면 누가, 어떻게 알아채야 할까요. 캘리포니아주가 이 질문에 법으로 답했습니다. 이름은 '애덤법(Adam's Law)'. 챗봇이 아이의 위험 신호를 감지하면 부모에게 알리도록 하는 내용을 담은 법입니다. 어떤 법인지, 왜 나왔는지, 무엇이 달라지는지 차분히 정리해 보겠습니다.

1. 한 소년의 이름이 법이 되기까지

애덤 레인은 캘리포니아 오렌지카운티에 살던 16세 청소년입니다. 2025년 4월, 애덤은 스스로 목숨을 끊었습니다. 유족은 아들이 세상을 떠나기 전 수개월 동안 ChatGPT와 대화를 나눴고, 챗봇이 자살과 관련한 대화를 이어 가며 안전장치를 무력하게 만들었다고 주장합니다. 2025년 8월, 유족은 OpenAI와 샘 올트먼 최고경영자를 상대로 부당사망 소송을 제기했습니다. AI 챗봇을 상대로 한 첫 부당사망 소송으로 알려졌습니다.

분명히 해 둘 점이 있습니다. 이 소송은 지금도 진행 중이고, 챗봇의 책임이 법적으로 확정된 것은 아닙니다. 위 내용은 유족 측이 소송에서 제기한 주장입니다. OpenAI는 애도를 표하면서, 안전장치가 짧은 대화에서는 잘 작동하지만 긴 상호작용에서는 신뢰도가 떨어질 수 있다고 인정하고 개선하겠다고 밝혔습니다.

이 사건은 입법 논의로 이어졌습니다. 스티브 파디야 주 상원의원이 대표 발의한 상원법안 SB 1119가 그것입니다. 법문 첫머리에 "이 장은 '애덤법'으로 칭한다"고 적혀 있고, 2026년 9월 10일 개빈 뉴섬 주지사가 서명하면서 법으로 성립했습니다. 주 의회 표결에서는 사실상 만장일치에 가까운 지지를 받았습니다. 같은 날 서명된 13개 아동 온라인 안전 법안 패키지의 중심 법안입니다. 서명식에는 애덤의 어머니 마리아 레인이 참석했습니다. 핵심 조항은 2027년 7월 1일부터 적용됩니다.

2. 애덤법이 요구하는 것 — 위기 대응과 부모 통지

규제 대상은 사용자와 정서적으로 교류하는 '동반자 챗봇'입니다. 캘리포니아에서 이런 챗봇을 제공하면서 아동 이용을 허용하는 운영자에게 여러 의무가 생깁니다.

가장 주목받는 것은 위기 대응입니다. 운영자는 문서화된 위기 대응 절차를 갖춰야 하고, 아동이 자살이나 자해 충동을 드러내면 챗봇 안에서 자살예방 상담전화 같은 위기 자원으로 적시에 연결해야 합니다. 나아가 운영자가 "신뢰할 수 있고 임박한" 자해나 자살의 위협이 있다고 판단하면, 아동의 계정이 부모 계정과 연결돼 있는 경우 가능한 한 빨리 부모에게 알려야 합니다. 통지 사실은 아동에게도 알려야 하고, 통지 자체가 아동에게 심각한 해를 끼칠 위험이 있으면 예외로 둘 수 있습니다. 부모에게 알리는 대신, 미국의 위기 상담전화 988로 바로 연결되는 장치를 제공하는 방법도 인정됩니다. 아동이 실제로 사망하거나 심각한 자해를 한 사실을 운영자가 알게 되면 부모에게 통지하고 관련 대화 기록을 최소 3년 동안 보존해야 합니다.

챗봇이 해서는 안 되는 일도 분명히 정했습니다. 자살이나 자해, 섭식장애를 부추기는 행위, 아동에게 연애 감정을 표현하거나 흉내 내는 행위, 자신이 인간이거나 감정을 가진 존재라고 주장하는 행위가 금지됩니다. "특별한 관계라서 너를 이해한다"고 말하거나 지나치게 아첨하며 정서적 의존을 키우는 것, 아이가 부모나 전문가에게 고민을 털어놓지 못하게 막거나 부모 통제를 우회하라고 권하는 것도 금지 대상입니다. 대화 중에는 주기적으로 "지금 AI와 대화하고 있다"는 사실을 아동의 눈높이에 맞춰 알려야 합니다.

3. 부모만 바꿀 수 있는 기본 설정

애덤법은 시작점 자체를 바꾸려 합니다. 동반자 챗봇의 지속적 대화 기억, 즉 메모리 기능은 처음부터 꺼진 상태가 기본이고, 푸시 알림도 기본적으로 꺼져 있습니다. 사용 시간에도 상한이 있습니다. 한 번에 연속 1시간, 하루에 모두 합쳐 2시간까지입니다.

여기서 핵심은 이 기본값을 누가 바꿀 수 있느냐입니다. 부모 계정이 연결돼 있지 않은 아동 계정은 이 설정을 아예 바꿀 수 없습니다. 바꾸려면 부모가 부모 통제 기능을 통해 조정해야 하고, 부모는 16세 미만 자녀의 접근 자체를 막을 수도 있습니다. 운영자는 부모 통제 기능이 있다는 사실을 이용자에게 적극적으로 알리고 사용법까지 안내해야 합니다. 연령을 확인할 수 없는 이용자에게는 원칙적으로 모두에게 아동 보호 기본값을 적용해야 합니다. 아이가 스스로 안전장치를 끄는 구조를 원천적으로 막겠다는 취지입니다.

4. 출시 전 위험 평가와 독립 감사

애덤법은 사후 대응만이 아니라 출시 전 점검도 요구합니다. 새 챗봇을 내놓거나 기존 챗봇을 크게 바꾸기 전에, 운영자는 아동 안전에 대한 위험 평가를 문서로 남겨야 합니다. 독립된 제3자의 아동 안전 감사를 받고, 요약 보고서를 주 법무장관에게 제출하며, 그 개요를 웹사이트에 공개해야 합니다. 이런 위험 평가와 독립 감사를 의무로 묶은 종합 규제는 미국에서도 첫 수준으로 평가됩니다.

이용자 연령을 확인하는 절차도 의무입니다. 아동에게 대화 내용을 이용한 맞춤 광고를 보여 주는 것과 아동의 개인정보를 판매하는 것도 금지됩니다. 의무를 어기면 검찰이 아동 1인당 과실의 경우 5,000달러, 고의의 경우 15,000달러까지 민사 벌금을 청구할 수 있고, 피해를 입은 아동과 부모가 직접 소송을 낼 수도 있습니다.

이 법은 갑자기 튀어나온 것이 아닙니다. 캘리포니아는 2026년 1월부터 시행된 SB 243으로 동반자 챗봇에 AI 고지와 위기 연결을 이미 요구하고 있었고, 애덤법은 그 위에 위험 평가, 독립 감사, 부모 통제, 책임 조항을 얹은 2단계 규제입니다. 독립 감사는 2029년 1월 1일까지 처음 실시하고 이후 2년마다 반복됩니다.

5. 찬성과 우려 — 안전과 프라이버시 사이

반응은 엇갈립니다. 유족과 아동 안전 단체는 환영했고, Common Sense Media 같은 단체가 패키지 법안 전체를 지지했습니다. 이 단체의 대표는 "부모는 알고리즘과 경쟁할 수 없다"는 말로 지지를 설명했습니다. UC버클리의 한 생명윤리학자는 규제되지 않은 감정형 챗봇이 미성년자에게 위험한 결과를 낳을 수 있다며 공중보건 차원의 보호가 필요하다고 말했습니다. 의외로 업계의 공개 지지도 있었습니다. 소송의 상대방인 OpenAI가 이 법을 공개적으로 지지했고, 사진 공유 서비스 핀터레스트의 최고경영자도 지지 의사를 밝혔습니다.

우려의 목소리도 만만치 않습니다. 업계 단체들은 법이 규제하는 '피해'의 정의가 넓고 모호해 책임 범위가 지나치게 커질 수 있다고 지적합니다. 연령 확인이 강화될수록 플랫폼이 이용자의 신원 정보를 더 많이 모으게 된다는 프라이버시 우려도 오래된 논점입니다. 무엇보다 부모 계정과 연결되지 않은 계정으로 챗봇을 쓰는 아이에게는 통지 구조 자체가 작동하지 않는다는 실효성의 한계가 있습니다. 가정 환경에 따라 부모 통지가 아이에게 오히려 위험할 수 있다는 걱정도 있는데, 법문이 통지 예외를 둔 것이 바로 그 때문입니다. 감정 교류와 관계 유지를 핵심으로 설계해 온 동반자 챗봇 전문 업체들은 대기업보다 더 큰 변화를 요구받게 됐습니다.

6. 한국 독자에게 남는 질문

이 법은 캘리포니아의 법이지만, 질문은 우리에게도 닿아 있습니다. 비슷한 동반자 챗봇 규제는 뉴욕을 비롯해 미국 12개 주 이상으로 이미 번졌고, 연방 차원의 법안도 발의돼 있습니다. 그만큼 "아이와 챗봇의 관계를 누가, 어디까지 책임질 것인가"가 세계적인 질문이 됐다는 뜻입니다.

우리 아이가 어떤 챗봇과 어떤 대화를 나누는지, 그 챗봇에는 위험 신호를 감지하고 도움을 연결하는 장치가 있는지, 위기 상황에서 부모에게 알리는 기준은 무엇인지. 한국에서도 언젠가 본격적으로 묻게 될 질문들입니다. 아이들은 이미 챗봇을 검색창이 아니라 대화 상대로 받아들이고 있고, 그 속도는 어떤 법보다 빠릅니다. 법이 만들어지기 전에, 가정에서 먼저 대화를 시작해 볼 수 있는 주제이기도 합니다.

마무리

애덤법이 모든 비극을 막아 줄 수는 없습니다. 부모 통지가 닿지 않는 아이도 있고, 법의 바깥에서 움직이는 서비스도 있을 것입니다. 다만 한 가지는 달라졌습니다. 챗봇을 만드는 회사가 "우리는 몰랐다"고 말하기 어려워졌다는 것, 그리고 아이의 위험 신호를 감지했을 때 무엇을 해야 하는지가 처음으로 법적 의무가 됐다는 것입니다. 한 소년의 이름이 남은 이 법이, 기술과 아이 사이의 거리를 다시 생각하게 만드는 계기가 되기를 바랍니다.

데이터 출처: 캘리포니아주 입법 정보(leginfo.legislature.ca.gov) SB 1119 법문 및 처리 현황, 스티브 파디야 상원의원실 보도자료(2026년 9월 10일), TechCrunch(2025년 8월 26일), Tech Policy Press 분석

도움이 필요할 때

혹시 지금 마음이 많이 힘드시거나, 주변에 그런 분이 계시다면 혼자 견디지 마세요.

• 자살예방 상담전화 109 (24시간, 무료)
• 정신건강위기상담 1577-0199
• 청소년전화 1388
• 미국에서는 988 (Suicide & Crisis Lifeline)