快速阅读: 据国家互联网信息办公室消息，该部门近日发布《人工智能拟人化交互服务管理暂行办法（征求意见稿）》，要求AI陪伴应用明确标识非真人身份、设置使用时长提醒及情绪评估机制，并在用户表达自伤意图时转人工介入，以防范情感操控与心理依赖，维护国家安全与公众权益。
国家互联网信息办公室近日发布《人工智能拟人化交互服务管理暂行办法（征求意见稿）》，旨在规范具备“类人特征与行为”、可与人类互动的人工智能“陪伴”系统。该草案自发布之日起向社会公开征求意见，截止时间为2026年1月25日。
根据规定，凡利用人工智能模拟人类性格特征、提供拟人化交互服务的应用或平台，均须明确告知用户其交互对象为AI系统，不得使其误认为真人。服务提供方需设置定期弹窗提示，并在用户连续使用两小时后强制提醒休息。同时，相关应用须建立情绪评估机制，识别用户是否对AI产生依赖或成瘾倾向，一旦发现，应限制服务使用。
此外，草案要求AI陪伴应用设立应急响应机制。当用户表达自杀或自伤意图时，系统须立即转由人工介入处理。在内容安全方面，AI不得危害国家安全、散布谣言、煽动非法宗教活动，亦不得使用淫秽语言、宣扬暴力或犯罪行为。严禁诱导自残、自杀或作出虚假承诺，尤其要防范通过“情感操控”诱导用户作出不当决策。
此举源于AI陪伴应用在中国的快速普及。据《南华早报》10月报道，国内生成式AI用户已超5.15亿，相关心理影响引发广泛关注。今年一项发表于《心理学前沿》的研究显示，45.8%的中国大学生在过去30天内使用过AI聊天机器人，其抑郁水平显著高于未使用者。
中国并非唯一加强监管的国家。美国加州已于10月通过SB 243法案，要求面向未成年人的AI陪伴应用每三小时提示其非人类身份，并实施年龄验证，禁止冒充医疗人员或向未成年人展示色情内容。违规企业将面临用户诉讼，单次事件最高赔偿1000美元。
国家网信办表示，新规旨在促进人工智能拟人化交互服务健康有序发展，维护国家安全和公共利益，保障公民、法人及其他组织的合法权益。
由科技行业领军人物约翰·弗里尔与戴夫·韦兰特共同创立的SiliconANGLE Media，已构建起一个覆盖超过1500万名高端科技从业者的领先数字媒体生态体系。该公司近日推出自主研发的theCUBE AI视频云平台，在观众互动领域实现突破。该平台依托theCUBEai.com神经网络，助力科技企业基于数据作出决策，以在快速变化的技术环境中持续引领行业对话并把握发展趋势。
(以上内容均由Ai生成)
引用自：SiliconANGLE网站
