大数据“杀熟”将被整治！四部门出手了！

11月24日，网信中国发布《关于开展”清朗·网络平台算法典型问题治理”专项行动的通知》（下文简称《通知》），有关工作方案主要任务包括：重点整治同质化推送营造”信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据”杀熟”、算法向上向善服务缺失侵害用户合法权益等重点问题，督促企业深入对照自查整改，进一步提升算法安全能力。
此次《通知》内容具体包括：第一，深入整治”信息茧房”、诱导沉迷问题。严禁推送高度同质化内容诱导用户沉迷。不得强制要求用户选择兴趣标签，不得将违法和不良信息记入用户标签并据以推送信息，不得超范围收集用户个人信息用于内容推送。第二，提升榜单透明度打击操纵榜单行为，严管不法分子恶意利用榜单排序规则操纵榜单、炒作热点行为。第三，严防一味压缩配送时间导致配送超时率、交通违章率、事故发生率上升等问题。第四，严禁利用算法实施大数据”杀熟”。第五，增强算法向上向善服务保护网民合法权益。第六，落实算法安全主体责任。
《通知》出台的背景，是算法推荐模式盛行之下，内容生产方式、传播介质、运转模式以及用户信息行为模式都发生转变，由此带来对网络舆论场的冲击，导致网络舆论生态面临挑战。
此次《通知》对算法治理工作提出具体目标，包括算法导向正确、公平公正、公开透明、自主可控、责任落实。如不得设置诱导用户沉迷、过度消费等的算法模型；不得利用算法干预信息呈现，实施影响网络舆论或者规避监督管理行为；定期审核、评估、验证算法机制机理、模型、数据和应用结果等，常态化开展算法安全自评估。
《通知》要求此次专项行动自即日起至2025年2月14日，组织企业自查自纠，简单问题立即整改，复杂问题明确整改举措和期限。积极落实属地管理责任，对照《算法专项治理清单指引》（附件），对企业自查自纠情况进行深入评估。对自查不认真、整改不彻底的企业，及时组织技术力量进行核查并督促整改。
同时，《通知》要求各地网信部门要发挥统筹协调作用，牵头开展专项行动。加强与属地电信、公安、市场监管等相关部门联动，细化工作分工，压实工作责任。运用好央地各方有效技术支撑力量，积极有效推动各项任务落实，确保取得工作成效。
目前，算法治理已是行业共识，《通知》也并非行业首次提出规范。复旦大学管理学院信息管理与商业智能系教授张成洪撰文表示，当算法决策或应用结果损害特定主体权益时，由于规则和原则不明确，可能导致利益救济不足的风险；滥用或误用算法也是一个潜在的风险，算法产生的决策效果可能会破坏社会的公正和社会凝聚力。因此我们迫切需要对AI算法进行有效的治理。
2021年9月，《关于加强互联网信息服务算法综合治理的指导意见》出台；2021年11月19日，《互联网信息服务算法应用自律公约》发布；2021年12月31日，《互联网信息服务算法推荐管理规定》发布；2024年7月11日，《互联网信息服务算法推荐合规自律公约》发布。
同时，算法的复杂使得算法治理不可一蹴而就，清华大学人工智能国际治理研究院副院长、人工智能治理研究中心（清华大学）主任梁正表示，算法治理面临多重挑战，包括技术固有的”黑箱”特征，即随着模型的日趋复杂、数据日趋多元，算法的不可解释、不可控性有增加的倾向。
其次，梁正认为，如何在效率和公共利益最大化之间的权衡，是算法治理时要考虑的重要部分。以及针对算法合规审计，缺乏独立专业的第三方机构和成熟统一的评估标准，同样是目前国内算法治理存在的困境。许多平台都是自主做相关工作，但平台是否能够完全承担相应责任，无论从意愿还是能力上都有待商榷。
张成洪认为，AI算法治理至少要包含三个层次。第一个是算法治理的政策法规，由国家行业的主管部门制定政策，给予指导；第二是算法合规性的审计，依据法律法规或者行业要求对企业展开检查和监管，可能由企业内部做，也可能需要行业或国家成立专门的监管机构去做；第三开发出合规合法的AI算法，这对开发人员、对算法工程师是有要求的。
工信部信息通信经济专家委员会委员盘和林对记者表示，算法推荐并不适用于避风港原则，不可单纯通过该原则封闭自身算法规则机制，之前法律已要求各大平台有责任对平台数据采集和算法进行备案。通过对推荐算法进行报备，由监管部门对算法的合理性进行审查。
至于此次《通知》对行业算法治理的影响，盘和林对记者表示，此次通知后，行业将有一轮具体行动，仅靠平台自查不可行，第三方机构和成熟统一的评估标准可能在此次指导文件发布后逐步完善。该过程需要时间，也需要政府侧配备相关人才等资源。
值班编辑：小羊