​上海市网信办重拳出击，54 款违规 AI 应用下架，3 家网站遭罚

快速阅读: 上海市网信办开展“AI滥用”专项执法行动，下架54款违规AI应用，首次对3家拒不整改网站立案处罚，推动AI健康发展。

上海市网信办近日开展了一项名为 “AI 滥用” 的专项执法行动,旨在整治生成式人工智能技术的违规行为。随着生成式人工智能的迅速发展,这项技术为各行各业带来了便利,但也伴随着滥用问题的凸显,如 AI 换脸、AI 变声等侵权现象。这些问题不仅威胁个人隐私权益,还可能对网络生态造成破坏。

在此次行动中,执法人员发现一些企业在开发和使用生成式人工智能时,未按照法律规定进行安全评估,也未采取必要的安全防护措施,导致这些技术被用于换脸、变声和伪造等侵权行为。这些行为可能产出违法内容,例如 “开盒”、“洗钱” 及生成低俗色情图片等。

专项行动的重点是整治 AI 滥用,以促进新兴产业的健康发展。为了加强管理,网信办指导属地应用商店下架了54款违规的生成式人工智能应用。此外,依据《人工智能生成合成内容标识办法》,专家团队为企业提供了实务解析,以解答相关疑难问题。

在处罚方面,网信办对26家此前被要求下线功能的生成式人工智能服务网站进行了回头检查,确保问题不再复发。对于3家拒不整改的网站, 首次 适用《生成式人工智能服务管理暂行办法》进行了立案处罚。同时, 首次 违规的企业也获得了免罚的机会,要求他们下线相关违法功能并指导其进行备案。

划重点: 🌟54款违规生成式人工智能应用被下架,专项行动加强监管。

🔍3家拒不整改的网站被立案处罚, 首次 适用相关管理办法。

🚀 企业合规意识明显增强,推动新技术健康发展。

(以上内容均由Ai生成)