TikTok助推虚假AI广告泛滥

快速阅读: 据欧盟方面消息，TikTok内置AI广告工具被曝生成大量虚假减肥广告，部分绕过审核机制并链接至仿冒网站，违反平台政策；欧盟委员麦格拉思强调，《人工智能法案》将强化监管，确保创新与用户安全的平衡。

在数字化时代，广告已成为全球主要社交媒体平台的核心收入来源，TikTok亦不例外。今年8月向爱尔兰公司注册办公室提交的文件显示，TikTok Technology Ltd明确表示，其商业模式高度依赖广告收入、平台增值服务及商品销售。

然而，对广告收入的深度依赖也带来风险。近期，大量虚假、有害甚至由人工智能生成的广告在平台上频现，部分已绕过现有审核机制。这些广告多涉及减肥类产品，例如宣称含GLP-1成分的贴剂——实际并不含该物质；另有产品声称可治疗“皮质醇腹部肥胖”或高压力引发的体重增加，却缺乏科学依据。

更值得警惕的是，此类广告常链接至仿冒网站，盗用合法商家内容以制造可信假象。多家爱尔兰正规药房网站已被克隆，用于误导消费者。

TikTok在其广告政策中强调，禁止“误导性、非真实和欺骗性”行为，并承诺打击可能影响健康决策、削弱公众对权威医疗信息信任的虚假内容。公司表示，将移除涉及重大疾病、公共卫生问题或可能导致严重人身伤害的健康 misinformation。

尽管如此，AI生成的违规广告仍广泛存在。值得注意的是，TikTok自身推出的“TikTok for Business”平台内嵌AI工具，可协助用户快速制作广告。其“Symphony创意工作室”基于生成式AI技术，能将商品信息转化为短视频广告，支持自定义虚拟形象、自动剪辑及多语种配音。

2024年夏季，TikTok宣布推出Symphony创意AI套件，称其“适合资源有限的中小企业”。当被问及是否可协助生成减肥补充剂广告时，该平台的虚拟助手予以肯定答复。这意味着，部分有害广告不仅在TikTok传播，甚至直接由其内置工具生成。

近期调查发现，该平台内嵌的AI内容生成工具被用于制作大量具有欺骗性、有害甚至欺诈性质的广告。这些广告在应用内生成并推广，部分内容明显违反平台自身的广告政策。

记者测试发现，仅需几分钟即可免费创建一则15秒的AI生成广告。视频中，一名AI合成女性声音宣称使用某类减肥补充剂可实现“平坦腹部”，并称“无需医生处方，这些产品尚未经过测试”。在整个制作过程中，TikTok系统未对该内容作出任何违规提示。

对此，TikTok方面表示，用户通过其AI工具“Symphony”生成的广告，在导出后仍须经过平台的内容审核与政策审查流程，包括广告合规性检查、搜索广告关键词审核，以及对AI生成虚拟形象和语音的规范使用评估。该公司强调，所有由Symphony生成的内容均会自动标注“AI生成”标识，并重申其政策明确禁止推广可能误导用户的虚假或夸大信息，尤其涉及减肥与增肌类产品。

然而，目前仍有部分类似广告绕过审核机制，在平台上发布或被不法分子导出至其他网络渠道传播。这些内容不仅推广未经证实的减肥方法，还存在冒充正规企业、引导用户访问欺诈性第三方网站等行为，对用户安全构成潜在风险。

对此，TikTok回应称已下架违反相关政策的内容，并将持续清理违规广告。欧盟负责民主、司法、法治与消费者保护事务的委员迈克尔·麦格拉思指出，《欧盟人工智能法案》已为社交媒体中的AI应用设定明确规则。他表示：“我们必须建立有效保障措施。近期提出的法案修正案旨在平衡创新与监管，确保既有框架得到切实执行。”

(以上内容均由Ai生成)