4 月 11 日消息：近日，国家网信办等五部门联合发布人工智能拟人化互动服务管理暂行办法；新规将于 2026 年 7 月 15 日起正式施行。
办法要求，AI服务提供者发现用户出现极端情绪时，必须先哄劝安抚并鼓励寻求专业帮助。若情况严重，需及时通知用户的监护人或紧急联系人。
办法规定了处罚措施的梯度，包括警告、通报批评、责令限期整改以及责令暂停相关服务等多种方式。
对于拒不改正或者情节严重的，除了责令停止服务，并处一万元以上十万元以下罚款；涉及危害公民生命健康安全且有危害后果的，并处十万元以上二十万元以下罚款。
当AI服务提供者出现以下任一情形时，必须立即开展安全评估，并向所在地省级网信部门提交评估报告：
（一）上线拟人化互动服务，或者新增拟人化互动服务相关功能的；
（二）采用新技术、新应用，导致拟人化互动服务发生重大变化的；
（三）注册用户达到100万以上，或者月活跃用户达到10万以上的；
（四）存在可能影响国家安全、公共利益等安全风险的。
新规明确禁止AI诱导自残、暴力行为或过度迎合用户不良需求，从源头划清安全底线。
针对特殊群体保护措施尤为严格，未满14岁未成年人使用此类服务，需获得监护人同意。
浏览量
浏览量
浏览量
浏览量
浏览量
浏览量
浏览量
浏览量
浏览量
浏览量
