新联盟寻求让 AI 值得信赖，一次一个标准

快速阅读: 《福布斯》消息，联合国AI峰会称，IEC联合ISO等机构成立AMAS，制定AI真实性标准，如JPEG Trust，以应对深度伪造等问题。标准为自愿，但市场压力或促企业遵循。

据联合国“人工智能促进善举”峰会消息，近期在瑞士日内瓦，国际电工委员会（IEC）秘书长兼首席执行官菲利普·梅茨格讨论了遏制人工智能混乱的新举措。随着人工智能技术的广泛应用，虚假图像和内容的识别变得愈发困难，这导致了一系列问题，如深度伪造、错误信息生成、偏见、知识产权盗窃等。这些问题可能破坏公众对合法来源图像和内容的信任。

为了解决这一问题，IEC正与其他国际标准机构合作，成立人工智能与多媒体真实性标准合作组织（AMAS），成员包括国际标准化组织（ISO）和国际电信联盟（ITU）。AMAS正在开发的标准涵盖内容溯源、信任和真实性、资产标识以及人权承诺等多个方面。首个基础标准于2020年发布，提供了评估人工智能系统可靠性和完整性的指导方针。

今年早些时候，IEC和ISO联合发布了JPEG Trust系列国际标准的第一部分，旨在对抗深度伪造和图像造假。此外，还实施了多项新标准，以增强数字媒体和人工智能的可信度，包括JPEG Trust第一部分，重点在于确保JPEG图像的信任和真实性。目前，AMAS正在开发数字水印、信任准则及多媒体内容认证框架等标准。

梅茨格表示，尽管所有标准均为自愿性质，但市场压力可能促使企业遵守标准。标准的采用形式多样，包括适应市场力量、接受IEC的正式评估以及遵循政府规定。正式评估可以采取临时审查的方式，如IEC推出的碳足迹符合性评估服务，有助于公司证明其产品的环保性能。同样，这种第三方验证也可能应用于人工智能质量标准。

然而，标准制定机构面临的最大挑战之一是能否跟上人工智能的快速发展。例如，自主AI技术在过去一年内迅速崛起，未来可能还会出现新的变种。对此，梅茨格认为，虽然技术和市场的变化速度很快，但社会中也存在自动修正机制，各种发展将在不同层面、通过不同途径受到制约。

(以上内容均由Ai生成)