电商上演“魔法对轰”：卖家用AI假图骗下单，买家拿AI烂水果骗退款

快速阅读: 近日，电商平台出现买家用AI制作瑕疵图要求退款的现象，商家因退货成本高多选择退钱。此现象源于十年前买家用PS造假，现AI技术使鉴别更难。商家和买家滥用AI，导致信任危机，平台正探索技术与策略应对。

原创关注AI的机器之心机器之心报道机器之心编辑部 AI 作图,不止卖家在用,买家也在用。

最近,不少网友晒出了一个令人啼笑皆非的操作:为了从卖家那里占到一点便宜,一些买家会故意声称商品有瑕疵,并要求退款。但其实,瑕疵图是他们自己用 AI 做的,比如把好的榴莲做成腐烂掉的榴莲。

由于水果这种东西不方便退货验证(即使当时没坏,退回去也得坏了,而且运费很高),商家只能硬着头皮退钱。

还有些商品虽然可以退货验证,但由于客单价比较低,退货流程比较繁琐,一来二去还不如退钱成本低。所以这类商家在收到瑕疵反馈的时候,一般也会选择退钱或赔偿部分金额了事。

不过,商家也留了一手,会要求买家把瑕疵品剪坏,从而确保其失去使用价值。但就是留的这手,现在也被 AI 破解了。

我们从电商卖家口中了解到,其实这种骗术由来已久。大概在十年前,就有买家通过 PS 等工具在正常商品的照片上 P 上瑕疵。但以普通用户的 P 图水平,如果卖家放大图片仔细去看,大部分时候还是能是看出来的。但现在 AI 做的图,鉴别起来就没有那么容易了。

这看起来有点像一场「魔法打败魔法」的闹剧,因为如今的购物平台上,商家滥用 AI 的情况也屡见不鲜,导致大量买家收到货后发现「货不对板」。

商家们利用 AI 进行着各种形式的误导:凭空生成不存在的产品图,将普通商品过度美化;使用无法真实反映上身效果的虚拟模特来节省成本;甚至利用 AI 批量伪造看似真实的「买家秀」和图文并茂的好评。

而上述的部分买家除了贪小便宜,有的可能也隐藏着一种复杂的「报复性维权」心理。当一些买家自己曾遭遇过商家用精美的 AI 渲染图「货不对板」的欺骗后,可能会产生一种「以其人之道还治其人之身」的冲动。

出于好奇,我们用一些 AI 工具尝试了一下,发现给正常商品加上瑕疵真是动动嘴皮子就行。虽然 AI 工具在生成的时候会给图片加上水印,但是把水印裁掉也是很简单的事情。

不过,要想呈现商品被破坏的效果,对于模型来说还有一定难度。

针对这个问题,不少网友提出了一些解决方案,但这些方案似乎都有各自的局限性。

比如,有人认为,可以要求买家回传「瑕疵」商品的视频。这种方法是否有效其实不太好说,因为在经过若干次抽卡之后,很多视频生成工具也能生成效果非常不错的视频,这取决于买家选择的 AI 工具和为此付出的努力。

还有人认为,可以要求买家不同角度多拍几张照片。这个想法利用了当前 AI 生成技术的一大软肋:「多视图一致性」。然而,这顶多算是一个暂时的「补丁」,毕竟 AI 的技术迭代速度是以天来计算的。我们刚找到它的破绽,它可能明天就已修复。

还有建议强制要求在 App 内拍摄并上传,禁止使用相册。这能防止直接上传 AI 生成的成品,但防不住「物理外挂」——用两台手机互拍,这个所谓的限制就形同虚设了。

总结下来,单一的证据形式都极易被伪造。或许比较可行的方式是要求买家提供一条难以伪造、逻辑完整的证据链:包含「拆箱、剪裁、展示瑕疵」等关键步骤在内的、多角度、全过程实拍视频或连拍图片。

另外我们也尝试用「魔法打败魔法」:用 AI 鉴别 AI。其实市面上有很多 AI 鉴别器,但实测发现鉴别效果很像「抽卡」,大多数情况是它也「不确定」是不是 AI 生成的。

一个更具前瞻性的技术方案是引入「数字水印」与「内容溯源」技术。目前,科技界正在推动 C2PA 等行业技术标准,而像谷歌已经推出了名为 SynthID 的工具,它可以在 AI 生成的图片、视频和音频中直接嵌入肉眼无法察觉的数字水印。

这种技术就像是为 AI 内容内置的「数字身份证」,可以记录其生成和修改的关键信息。若未来能强制主流 AI 模型在生成内容时都加入此类标记,那么溯源和鉴别将变得容易得多。

归根结底,还是迅猛发展且缺少监管的 AI 降低了买卖双方的作假门槛。而依靠个人的力量是很难防范的,还可能会给商家售后和买家维权造成额外的成本。

这场信任危机可能会是一场持续的「攻防战」。

一方面,AI 生成技术在不断进化,让伪造的图片和视频越来越逼真;另一方面,AI 检测技术也在奋力追赶,试图通过分析图像的微观特征来识别伪造痕迹。这就像一场永不停歇的猫鼠游戏,考验着双方算法的迭代速度。

在这种背景下,平台方也在探索多种技术和策略组合。例如,通过强化证据链的完整性来提高伪造的难度,对那些通过 App 内相机即时拍摄、带有时间戳和地理位置等原始信息的照片赋予更高的证据权重。

淘宝此前还发布公告治理 AI 假图,严厉打击利用 AI 假图欺骗消费者、侵害原创品牌商家的违规行为。

同时,利用大数据分析建立用户信用模型,对行为异常的账户进行更严格的审查,也是一种常见的风险控制手段。当技术手段难以一锤定音时,引入独立的第三方鉴定服务,则提供了一种结合技术与人工的解决方案。

长远来看,行业内普遍认为,建立统一的、可追溯的数字内容标准至关重要。像 SynthID 这样的数字水印技术,如果能成为行业共识并广泛应用,无疑将为解决当前的信任困境提供最有效的技术路径。

最终,这场由技术引发的问题,或许仍需依靠更成熟、更统一的技术来寻找答案。

(以上内容均由Ai生成)

你可能还想读