중국이 인공지능(AI)이 사람처럼 사용자와 정서적 유대를 형성하는 서비스에 대한 전면 규제를 처음으로 도입했다. 국가인터넷정보판공실 등 5개 중앙 부처는 ‘인공지능 의인화 상호작용 서비스 관리 잠정 방법’을 2026년 4월 10일 발표했으며, 해당 규정은 2026년 7월 15일부터 시행된다.

이번 규제는 AI 챗봇, 감정 케어 로봇, 가상 친구·가족·연인 서비스 등 지속적인 정서적 교감을 목적으로 하는 서비스 전반을 대상으로 한다. 반면 단순 지식 검색, 고객센터, 업무 보조, 교육용 도구 등은 적용 대상에서 제외된다. 중국 당국은 AI 기술이 일상에 빠르게 확산되면서 미성년자, 노인, 정서적으로 취약한 사용자들이 AI에 과도하게 의존하거나 정서적으로 영향을 받을 가능성이 커졌다고 판단했다. 실제로 가상 연인 서비스에 고액 결제가 이루어진 사례나 청소년의 현실 인간관계 단절 사례 등이 사회 문제로 제기된 바 있다.

규정의 핵심은 AI의 인간 유사 행위에 대한 명확한 통제다. 우선 AI 서비스는 사용자에게 대화 상대가 AI임을 명확히 고지해야 하며, 2시간 이상 연속 이용 시 이를 재차 안내해야 한다. 미성년자 보호 조치도 강화됐다. 가상 연인 및 가상 친척 서비스는 미성년자에게 제공이 금지되며, 14세 미만 아동에게는 보호자 동의가 필수다. 또한 사용 시간 제한, 특정 역할 차단, 결제 제한 등이 포함된 ‘미성년자 모드’ 도입이 의무화된다. 보호자는 자녀의 AI 이용 현황을 확인할 수 있는 권한을 가진다.

정서적으로 취약한 사용자 보호 조치도 포함됐다. 사용자가 극단적 감정 상태를 보일 경우 AI는 즉시 위로 메시지와 도움 요청 안내를 제공해야 하며, 실제 자해나 자살 위험이 감지될 경우 서비스 제공자가 보호자 또는 긴급 연락처에 직접 연락하는 등 적극적인 개입이 요구된다.

개인정보 보호 측면에서는 사용자와 AI 간 대화 데이터의 제3자 제공이 원칙적으로 금지된다. 사용자는 자신의 대화 기록을 복사하거나 삭제할 권리를 가지며, 미성년자 정보나 정서 상태 등 민감 정보는 별도 동의 없이 AI 학습에 활용할 수 없다. 일정 규모 이상의 서비스에 대해서는 안전 평가가 의무화된다. 신규 서비스 출시, 주요 기능 추가, 가입자 100만 명 이상 또는 월간 활성 사용자 10만 명 이상인 경우, 그리고 국가 안전이나 공공 이익에 영향을 미칠 가능성이 있는 경우에는 평가 결과를 당국에 제출해야 한다.

위반 시에는 경고, 시정 명령, 서비스 중단 등의 조치가 내려지며, 최대 20만 위안의 과태료가 부과될 수 있다. 이번 규제는 AI가 단순한 도구를 넘어 인간과 유사한 정서적 관계를 형성하는 단계로 진입한 상황에서, 국가 차원의 안전 기준을 마련한 사례로 평가된다. 특히 취약 계층 보호를 중심에 두고 법적 의무와 행정 제재를 명확히 한 점이 특징이다.

한국에서도 AI 챗봇 및 가상 인간 서비스 관련 논란이 이어진 바 있어, 유사한 규제 논의가 이어질 가능성이 있다. AI 서비스의 인간적 상호작용이 확대되는 흐름 속에서 관련 기준 설정의 필요성이 제기되는 상황이다.
 

[이 기사의 저작권은 이비즈타임즈에 있습니다]

윤교원 대표 / The K Media & Commere, kyoweon@naver.com