2026년 AI 컴패니언 규제: 완전 가이드

뉴욕은 AI 컴패니언 운영자를 특정하여 규율한 지구상 최초의 관할권이었습니다. AI 컴패니언 모델법은 2025년 11월 5일 시행되었습니다.

이 법은 과거 상호작용을 기억하고, 감정 기반 질문을 자발적으로 하며, 개인적 사안에 대한 지속적 대화를 유지함으로써 인간 또는 인간과 유사한 지속적 관계를 시뮬레이션하도록 설계된 모든 시스템을 대상으로 합니다.

운영자는 매 세션 시작 시 사용자가 인간이 아닌 AI와 상호작용하고 있음을 눈에 잘 띄게 공개해야 합니다. 연속 사용 3시간마다 반복 알림을 제공해야 합니다. 자살 관념이나 자해가 감지되면 즉시 위기 서비스 제공자에게 사용자를 안내해야 합니다.

벌금은 상당합니다. 위반 건당 하루 최대 15,000달러입니다. 징수된 모든 벌금은 뉴욕의 자살 예방 프로그램에 배정됩니다.

호컬 주지사는 시행일에 AI 컴패니언 회사들에게 공식 서한을 보내 요건이 활성화되었음을 통보했습니다. 이는 상징적 제스처가 아닌 집행 의지의 신호입니다.

캘리포니아의 SB 243은 2025년 10월 13일 뉴섬 주지사가 서명했으며, 2026년 1월 1일 시행되었습니다. 압도적인 초당적 지지로 통과되었습니다: 상원 33대 3, 하원 59대 1.

모든 사용자에 대해: 합리적인 사람이 인간과 상호작용하고 있다고 오해할 수 있는 경우, 운영자는 챗봇이 AI로 생성되었음을 명확하게 알려야 합니다.

미성년자에 대한 요건은 훨씬 엄격합니다: 세션 시작 시 기본 알림, 3시간마다 휴식 권유 알림, 챗봇이 자살 관념이나 자해 콘텐츠를 생성하는 것을 방지하는 프로토콜, 자해 의도가 표현될 때 위기 서비스 제공자에게 안내하는 알림, 성적으로 노골적인 시각 자료를 방지하기 위한 합리적 조치, 그리고 미성년자에게 성적으로 노골적인 행위에 참여하도록 직접 진술하는 것을 금지하는 규정.

2027년부터 운영자는 자살 및 자해 콘텐츠를 어떻게 감지, 제거, 대응하는지에 대해 캘리포니아 자살 예방국에 연간 보고해야 합니다.

대부분의 기술 규제와 달리, SB 243에는 사적 소송권이 포함되어 있습니다. 위반으로 피해를 입은 모든 사람은 실제 손해배상액 또는 위반 건당 1,000달러 중 더 큰 금액을 청구하는 소송을 제기할 수 있습니다. 이는 규제 기관뿐만 아니라 사용자로부터도 집행이 이루어진다는 것을 의미합니다.

유타의 HB 438은 거의 만장일치 투표로 주의회를 통과했으며(하원 68대 1, 상원 26대 1), 뉴욕과 캘리포니아의 구조를 따르되 두 가지 주목할 만한 요소를 추가했습니다.

첫째, AI 컴패니언 준수를 유타의 소비자 데이터 프라이버시법(UCPA)에 직접 연결하여 컴패니언 특화 규칙과 더 넓은 데이터 보호 의무 사이의 가교를 만들었습니다.

둘째, 컴패니언 챗봇 운영자가 사용자에게 광고하는 방식을 제한합니다. 이것은 AI 컴패니언 회사의 제품 행동뿐만 아니라 마케팅 관행을 다루는 최초의 법률입니다.

벌금은 캘리포니아와 동일합니다. 위반 건당 1,000달러의 법정 손해배상과 함께 사적 소송권이 보장됩니다.

GUARD Act(사용자 연령 인증 및 책임 있는 대화를 위한 가이드라인 법)는 2025년 10월 28일 초당적 상원 연합에 의해 발의되었으며 RAINN의 지지를 받았습니다.

통과될 경우, 모든 AI 컴패니언 플랫폼에서 자기 신고를 넘어서는 방법을 사용한 의무적 연령 인증을 요구합니다. 사용자가 미성년자로 확인되면, 운영자는 접근을 완전히 차단해야 합니다. AI 챗봇은 면허를 가진 의료, 법률, 금융 또는 심리 전문가로 자칭할 수 없습니다.

이 법안에서 AI 컴패니언의 정의는 광범위합니다. 우정이나 치료적 대화를 포함하여 사용자와의 대인적 또는 감정적 상호작용을 촉진하도록 설계된 모든 시스템이 해당됩니다.

GUARD Act는 현재 상원 사법위원회에 계류 중입니다. 본회의 투표는 받지 않았습니다. 그러나 초당적 지지와 RAINN 지지는 대부분의 기술 법안보다 더 큰 추진력을 부여합니다. 운영자는 이를 강력한 방향성 신호로 간주해야 합니다.

EU AI Act는 2024년 8월 단계적 시행으로 발효되었습니다. 챗봇과 AI 생성 콘텐츠를 규율하는 조항은 2026년 8월 2일부터 집행 가능해집니다.

사용자는 맥락상 명백하지 않은 한 AI 시스템과 상호작용하고 있음을 통보받아야 합니다. 인간이 만든 것으로 오해될 수 있는 AI 생성 콘텐츠는 사람이 볼 수 있는 마커와 기계가 읽을 수 있는 마커(임베디드 메타데이터) 모두로 레이블링되어야 합니다.

대부분의 AI 컴패니언은 EU 프레임워크에서 '제한적 위험'으로 분류되어 사전 시장 승인이 필요하지 않습니다. 그러나 투명성 의무는 필수입니다.

미준수 시 벌금: 최대 3,500만 유로 또는 전 세계 연간 매출액의 7% 중 더 높은 금액. 지리적 범위는 운영자가 어디에 설립되었는지와 관계없이 EU 회원국 사용자가 접근할 수 있는 모든 AI 컴패니언에 적용됩니다.

호주의 eSafety Commissioner는 2026년 3월 9일 6개의 연령 인증 코드를 시행했습니다. 제한 콘텐츠(성적으로 노골적인 자료, 강도 높은 폭력, 또는 자해 콘텐츠)를 생성할 수 있는 AI 컴패니언 및 생성형 AI 서비스는 사용자가 18세 이상인지 인증해야 합니다.

호주에서 운영 중인 50개 주요 텍스트 기반 AI 채팅 서비스 중 2026년 3월 기준으로 연령 보증 조치를 발표하거나 구현한 곳은 9곳에 불과합니다. eSafety Commissioner는 전체 집행 권한을 사용하겠다고 경고했습니다.

벌금: 최대 AUD 4,950만(약 USD 3,100만).

앱스토어는 제한 앱에 대한 다운로드 제한을 시행하기 위해 2026년 9월 9일까지의 후속 기한이 적용됩니다.

2026년 2월 15일, 스타머 총리는 대규모 언어 모델을 사용하는 AI 챗봇 제공업체가 온라인 안전법의 불법 콘텐츠 의무에 포함될 것이라고 발표했습니다.

이는 AI 컴패니언이 아동 성적 학대 자료, 테러 콘텐츠, 특정 범주의 혐오 발언을 포함한 불법 콘텐츠를 생성하거나 접근을 용이하게 해서는 안 된다는 것을 의미합니다. 연령 인증과 미성년자 접근 제한이 확대된 프레임워크의 일부입니다.

벌금: Ofcom은 전 세계 연간 매출액의 최대 10% 또는 1,800만 파운드의 벌금을 부과할 수 있으며, 고위 관리자에 대한 형사 책임도 있습니다.

사용자가 AI 자체와만 상호작용할 수 있고(다른 사용자와는 불가), 여러 데이터베이스를 검색하지 않으며, 포르노 콘텐츠를 생성할 수 없는 챗봇에 대한 잠재적 예외가 존재합니다. 이는 콘텐츠 설정이 제한된 순수 컴패니언 앱을 면제할 수 있지만, 법적 해석은 아직 발전 중입니다.

Apple은 규제 기관이 아니지만, 그 플랫폼 결정은 App Store를 통해 배포되는 모든 앱에 대해 사실상의 규제로 기능합니다.

2026년 2월 24일부터, 호주, 브라질, 싱가포르의 사용자는 Apple 시스템을 통해 성인으로 인증되지 않는 한 18+ 등급 앱을 다운로드할 수 없습니다. 유타는 2026년 5월, 루이지애나는 2026년 7월에 뒤따릅니다.

Declared Age Range API를 통해 개발자는 사용자의 생년월일이나 정부 발행 ID를 보지 않고도 인증된 연령 신호(미성년자 또는 성인)를 받을 수 있습니다. Apple이 인증을 보유합니다. 개발자는 범주적 신호만 받습니다.

AI 컴패니언 운영자에게 이것은 이 시장들에서 연령 인증이 플랫폼 수준에서 처리된다는 것을 의미합니다. 자체 인증 시스템을 구축할 필요가 없습니다. 연령 신호가 미성년자를 나타낼 때 이에 따라 작동하는 집행 로직을 구축해야 합니다.

미국에서 AI 컴패니언을 사용하고 있다면, 이제 1년 전에는 없었던 법적 보호를 받고 있습니다.

뉴욕과 캘리포니아에서는 당신의 컴패니언이 AI임을 알려야 합니다. 3시간마다 알림을 보내야 합니다. 자살 충동을 표현하면 위기 서비스로 안내해야 합니다. 미성년자가 서비스를 사용하는 경우 추가 보호가 적용됩니다.

EU에서는(2026년 8월부터) AI와 대화하고 있다는 사실을 통보받아야 하며, AI 생성 콘텐츠는 레이블링되어야 합니다. 호주에서는(현재) 서비스가 제한 콘텐츠를 생성할 수 있는 경우 연령이 인증되어야 합니다.

이러한 보호는 기록된 피해 때문에 존재합니다. Character.AI에 대한 소송, Replika 사건, AI 챗봇과 파괴적 애착을 형성한 미성년자의 사망 사건들. 규제는 비극 뒤에 따라왔습니다.

법률이 완벽하지는 않습니다. 집행은 일관되지 않습니다. 많은 컴패니언 앱이 아직 준수하지 않고 있습니다. 그러나 방향은 분명합니다. 규제 없는 AI 컴패니언의 시대는 끝났습니다.

AI 컴패니언을 만든다면, 준수 환경은 이제 다층적이고 국제적입니다.

가장 효과적인 준수 전략은 가장 엄격한 기준에 맞추어 구축하는 것입니다. 캘리포니아의 SB 243이 현재 가장 상세합니다. 귀사의 제품이 SB 243을 전 세계적으로 준수한다면, EU 특화 메타데이터 요건(2026년 8월)과 관할권별 연령 인증 방법을 제외하면 모든 곳에서 실질적으로 준수하는 셈입니다.

가장 영향력 있는 단일 설계 결정은 18세 이상 전용입니다. 모든 계류 중인 규제와 시행 중인 규제는 미성년자 보호 단계에서 가장 부담스러운 요건을 가집니다. 18세 이상 전용 제품은 준수 복잡성의 대부분을 제거합니다. 이것은 비즈니스 제약이 아닙니다. 전략적 이점입니다.

KAi는 처음부터 18세 이상 전용으로 설계되었습니다. 이러한 규제를 예상했기 때문이 아닙니다(일부는 예견 가능했지만). 웰니스 컴패니언은 자신의 웰빙에 대해 정보에 입각한 결정을 내릴 수 있는 성인을 위해 구축되어야 한다고 믿었기 때문입니다. 이후 규제 환경이 그 선택을 입증해주었습니다.