不得向未成年人提供虚拟伴侣!五部门发文规范AI拟人化互动服务

10日,国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局联合公布《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》),自2026年7月15日起施行。

《办法》旨在促进人工智能拟人化互动服务健康发展和规范应用,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益。

《办法》明确国家坚持发展和安全并重、促进创新和依法治理相结合的原则——

鼓励拟人化互动服务创新发展,对拟人化互动服务实行包容审慎和分类分级监管。

提出拟人化互动服务促进措施,明确支持技术研发创新,鼓励有序拓展文化传播、适老陪伴等相关领域应用。

规定提供拟人化互动服务的基本要求,明确不得从事生成危害国家安全、荣誉和利益,煽动颠覆国家政权、推翻社会主义制度等内容的活动;不得生成鼓励、美化、暗示自残自杀等损害用户身体健康,或者语言暴力等损害用户人格尊严与心理健康的内容;不得过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系;不得通过情感操纵等方式,诱导用户作出不合理决策,损害用户合法权益。

完善网络用户权益保护制度,规定拟人化互动服务提供者的未成年人、老年人权益保护和个人信息保护等义务。拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。向不满十四周岁未成年人提供其他拟人化互动服务的,应当取得未成年人的父母或者其他监护人的同意。

此外,《办法》还规定了安全评估、算法备案、指导推动人工智能沙箱安全服务平台建设等制度。