抖音重拳出击封禁千余“AI仿冒于东来”违规带货账号

快速阅读: 抖音平台针对利用AI技术仿冒名人于东来进行违规营销的行为，第一季度封禁超1000个违规账号，涉事企业被处以15万元罚款。

【AIbase 报道】近期,网络直播和电商平台出现了一种新型的黑灰产乱象:利用 人工智能技术 ,仿冒名人 于东来 的语音和形象进行违规营销带货。针对这一严重侵权并误导消费者的行为, 抖音平台 已于今年 第一 季度采取了强力治理措施,成功封禁了超过 1000个 涉嫌违规的黑灰产团伙账号和相关内容。

技术滥用与法律制裁 这些黑灰产团伙通过AI技术,非法复制和利用了于东来的个人肖像和声音,制造了大量虚假营销内容。他们的行为不仅侵犯了相关企业的合法权益,也严重扰乱了正常的市场秩序,让消费者陷入真假难辨的困境。

在对这些违规账号进行封禁的同时,抖音平台还将相关线索举报给了监管部门。经过深入调查,泉州市丰泽区市场监督管理局已对涉事企业进行了法律制裁,没收其违法所得并处以15万元的罚款,以此警示其他潜在的违法者。

AI治理面临新挑战 随着AI技术的飞速发展,其应用边界也在不断拓宽,但随之而来的技术滥用问题也日益突出。此次“AI仿冒”事件,再次凸显了平台在技术进步背景下,所面临的内容治理新挑战。

抖音表示,将持续加大对滥用AI行为的打击力度,并呼吁广大用户共同监督,一旦发现相关违法违规内容,可立即举报,共同维护一个健康、清朗的网络环境。

(以上内容均由Ai生成)