AI 换脸带货？京东、美团、拼多多等 8 家电商平台签订全国首份 AI 技术规范应用承诺书

快速阅读: 北京市消费者协会联合8家电商平台签署《促进 AI 技术规范应用承诺书》，针对 AI 合成技术滥用风险，提出六大措施，强化标识、审核和责任追溯，保障消费者权益。

感谢IT之家网友 Diixx 的线索投递! IT之家 12 月 4 日消息,据北京消协微信公众号消息,为应对 AI 合成技术滥用风险、规范电商直播行业秩序,近日,北京市消费者协会联合京东、美团、拼多多、唯品会、抖音、快手、小红书、微信直播等 8 家电商平台,正式签署全国首份《促进 AI 技术规范应用承诺书》。

据IT之家了解,该《承诺书》从技术标识、内容审核、责任追溯等关键环节入手,建立企业自律规范,提出六大具体举措,为 AI 技术在电商领域的应用划定“合规红线”,旨在压实平台企业主体责任,切实维护消费者合法权益。

近年来,AI 数字人直播、虚拟场景带货等新技术应用快速普及,在提升消费体验的同时,部分商家的违规操作也引发消费者广泛担忧。北京消协历时 3 个月开展专项调查,通过问卷调研、体验式调查、专家研讨等方式,锁定当前 AI 合成技术应用中侵害消费者权益的三大突出问题: 一是消费者知情权保障不足,“真假难辨”困扰普遍存在。

据 3162 份有效回收问卷调查数据显示,近九成的受访者呼吁“AI 生成内容需显著标识”,超七成接受虚拟背景但强调需有显著提示;超六成认为 AI 数字人“缺乏真情实感”,近三成担忧其“可能误导消费决策”。

二是合成技术滥用滋生消费风险,“虚假营销”问题凸显。

针对电商平台的 AI 数字人、AI 场景直播带货行为,北京消协通过“模拟消费者在直播间购物 + 线下比对实物”的方式,对 10 个 AI 数字人直播带货样本开展体验调查。调查发现:5 个样本未在直播界面标注“AI 生成”“拟真场景”等提示信息,5 个样本没有对体验人员的问题进行及时回应或互动;6 个样本存在未提示私下交易风险等问题。此外,部分网络直播中存在利用公众信任谋取不当利益的情况,近期网信部门也处置了一批利用 AI 换脸技术仿冒公众人物开展直播营销的网络账号。

三是平台审核机制存在短板,“风险防控”能力待提升。

经与专家研讨调研发现,当前部分电商平台尚未建立健全 AI 内容审核专项制度,对商家使用 AI 数字人、虚拟场景等技术缺乏有效管理规则和精准识别技术,导致消费者在购物过程中难以快速辨别信息真伪,增加了消费决策风险。

针对上述问题,《承诺书》以“标识透明、审核严格、责任可溯”为核心,提出六大具体措施,为 AI 技术在电商领域的合规应用划定“红线”。

坚守法律底线,明确合规边界。

严格遵守《中华人民共和国消费者权益保护法》《中华人民共和国电子商务法》《人工智能生成合成内容标识办法》等法律法规,要求平台及商家在应用 AI 生成合成技术时,必须以保障消费者合法权益为前提。

强化标识要求,保障知情权利。

要求商家和内容创作者在利用 AI 技术生成合成数字人主播、虚拟场景时,在显著位置清晰标注“AI 生成”或“拟真场景”等提示内容;鼓励使用平台提供的统一 AI 内容标识功能主动声明,严禁利用 AI 合成换脸技术仿冒名人明星带货。

技术监测与人工复核结合,阻断违规传播。

在内容审核与传播环节,采取措施对商家或内容创作者的直播内容、直播场景进行监测,一旦发现没有标识的疑似 AI 数字人或 AI 虚拟场景问题,将及时采取适当方式在发布内容周边添加显著的提示标识,经平台研判,确系存在违规行为的,将进一步采取屏蔽链接等措施。

提供工具支持,引导主动合规。

为商家及内容创作者提供便捷的 AI 标识工具和清晰的操作指引,引导其主动规范使用 AI 标识。

严打标识造假,维护制度公信。

坚决抵制恶意删除、篡改、伪造或隐匿 AI 内容标识的行为,对违规账号及内容依法依规严肃处理,维护 AI 制度的严肃性。

强化培训赋能,提升行业认知。

将 AI 内容标识要求纳入平台治理体系,对商家或内容创作者加强合规培训,提升平台内 AI 技术合规水平。

签订《承诺书》仅是规范 AI 技术应用的第一步。北京消协相关负责同志表示,下一步,消协组织将持续跟踪网络 AI 技术应用动态,组织志愿者体验直播间购物、追踪反馈实际感受,督促企业严格落实承诺内容。同时,通过线上线下多渠道开展消费教育活动,向广大消费者普及 AI 技术常识,提升消费者辨别虚假内容的能力与防范意识。通过多方协作、多维施策,构建“技术合规、平台履责、消费安心”的网络消费环境。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

(以上内容均由Ai生成)