《中国人工智能安全承诺框架》正式发布

快速阅读: 据《IT之家 – 电脑频道》称，7月26日，上海，2025世界人工智能大会暨人工智能全球治理高级别会议召开，讨论人工智能安全发展等议题。会上发布了《中国人工智能安全承诺框架》，提出加强国际合作、防范安全风险等七项承诺，旨在促进人工智能向善发展。

7月26日下午，2025世界人工智能大会暨人工智能全球治理高级别会议“人工智能发展与安全”全体会议在上海召开。会议由中国人工智能发展与安全研究网络（简称“研究网络”，CnAISDA）主办。上海市委常委、常务副市长吴伟和国家发展和改革委员会创新驱动发展中心主任霍福鹏出席并致辞。

杰弗里·辛顿、姚期智、约书亚·本吉奥和大卫·帕特森四位图灵奖得主，以及20多位国内外顶尖专家出席会议，共同探讨人工智能安全发展、缩小智能鸿沟等前沿议题，并积极寻求人工智能安全治理国际合作路径。

中国信息通信研究院（简称“中国信通院”）院长、中国人工智能产业发展联盟（AIIA）秘书长余晓晖受邀参与对话，牵头与清华大学、上海人工智能实验室、中国电子信息产业发展研究院等单位的代表共同发布了《中国人工智能安全承诺框架》。

该《框架》在AIIA《人工智能安全承诺》（2024年12月发布）的基础上，新增了加强人工智能安全治理国际合作、防范前沿人工智能安全风险等内容，体现了中国产业界愿与全球各方紧密携手，共促人工智能向善发展的坚定决心和开放态度。

下一步，中国信通院作为“研究网络”成员和AIIA秘书处单位，将与签署企业携手，通过披露行动、测试验证等方式，推动《框架》的落地实践，促进我国人工智能朝着有益、安全、公平的方向健康有序发展，并积极开展国际治理合作，为全球人工智能安全治理贡献中国智慧和力量。

《中国人工智能安全承诺框架》指出，人工智能浪潮席卷全球，积极释放技术价值红利，对全球经济社会发展和人类文明进步产生深远影响。同时，我们也清晰地认识到，人工智能带来了难以预知的各种风险挑战。为把握新一轮发展机遇，中国人工智能发展与安全研究网络成员郑重发起《中国人工智能安全承诺框架》，通过产业自律，以高水平安全保障高质量发展，协力共促人工智能稳健发展。此事由中国信息通信研究院牵头推进。我们深知，自律承诺是获得社会信任的关键要素，将以本承诺作为行动守则，接受社会各界监督，不断提升优化，促进人工智能技术应用以人为本，智能向善。

承诺一：设置安全团队或组织架构，构建安全风险管理机制。内部设有专业团队负责开展人工智能风险评估、安全治理等工作，明确安全负责人。主动设定符合实际需求的安全风险基线，开源时采取相应的安全措施，开展贯穿人工智能开发部署全生命周期的风险管理，明确风险识别和应对流程及措施。

承诺二：开展模型安全测试，提升模型效果与安全可靠性。通过专业性的仿真测试团队，在发布、更新人工智能模型之前对其进行红队测试。对于大模型，重点围绕其通用理解、推理和决策能力，以及其在工业、教育、医疗、金融、法律等场景下表现出的能力开展安全性和可靠性测试。

承诺三：采取措施保障训练数据和业务数据安全。制定数据安全防护制度，配套建立防护技术措施，发现并及时处置数据投毒的情况，把控训练数据的准确性与可靠性。对业务数据进行加密存储与访问控制，确保商业秘密、用户隐私及用户上传的知识库仅在授权下访问，不被人工智能模型非法输出，保障数据安全与隐私权益。

承诺四：提升基础设施安全。建立人工智能系统部署的软硬件安全监测和防护能力，实施定期和动态的安全渗透测试，模拟各种潜在的风险场景，识别并报告环境中的安全隐患，研判可能导致的各种风险。建立基础设施安全应急响应机制，包括应急处理流程、责任分配以及事后改进方案。

承诺五：增强模型透明度。主动披露安全治理实践举措，提升对各利益攸关方的透明度。公开披露模型的功能、适用领域以及局限性。通过模型说明、服务协议等方式，向公众披露可能涵盖的风险。

承诺六：积极开展前沿安全研究，防范前沿领域安全风险。研究开发和部署智能向善的人工智能系统，积极向公众披露研究成果，以帮助应对社会面临的挑战。加强对人工智能系统在前沿领域中的滥用风险研判，防范其在高危场景的潜在滥用风险。

承诺七：加强安全治理国际合作，推动技术向善普惠应用。积极参与全球人工智能安全治理交流对话，共享风险识别、评估与防控经验及最佳实践。积极承担社会责任，加强科普宣传、开展技能培训，提升人工智能素养和技能水平，助力弥合智能鸿沟。

(以上内容均由Ai生成)