OpenAI 的新图像生成器非常适合创建欺诈性文档

快速阅读: 据《未来主义》最新报道，近期，OpenAI推出的图像生成模型4o在生成逼真伪造文件方面表现出色，包括虚假收据、假处方等，可能引发文件造假风暴。尽管检测难度大，但这提醒人们不再轻信网上内容。

虚假收据、伪造处方、假护照，以及更多。近期，由OpenAI推出的图像生成4o模型在图像内生成文本方面表现突出，这在许多前辈模型中尤为困难。这也让它成为了制造伪造文件图像的强大工具，正如一些用户发现的那样。例如，Menlo风险投资公司的高级合伙人德迪·达斯（Deedy Das）发布了一张虚假收据的照片，这张收据是为旧金山一家著名牛排餐厅的一顿奢华餐点制作的，被TechCrunch发现。“你可以用4o生成假收据，”达斯写道，“太多现实世界的验证流程依赖于‘真实图片’作为证据。那个时代已经结束了。”

文件造假初探
乍一看，这张图片非常逼真，包含了详细的菜品清单、精确的小计，甚至还有小费的计算。另一位用户甚至通过添加逼真的滤镜和食物污渍进一步修饰了这张图片——如果你想这样做的话，这将是进行费用欺诈的绝佳方式。而这仅仅是个开端。

欺诈的升级
达斯还发现4o能够轻松生成像左洛复（一种受管制药物）这样的假处方。这一进展凸显了AI驱动图像生成器能力的提升。之前的模型常常在重现字母时出现问题，导致形状混乱并出现意想不到的搞笑短语。除了伪造昂贵餐食的费用之外，OpenAI越来越聪明的伪造文件能力可能还将开启伪造税务表格、银行支票、假身份证和出生证明的大门。

检测伪造文件风暴的可能性
我们能否检测到这场伪造文件的风暴仍有待观察。但鉴于当前AI公司的努力，情况并不乐观。附加元数据或水印等防护措施很容易被破解。即便在强大的AI驱动图像生成器问世之前，2015年的一项调查显示，85%的受访者承认为了获得更多赔偿而撒谎。由于缺乏内部控制和有缺陷的应付账款流程，这类欺诈案件中的许多都没有得到处理。换句话说，你不能再轻信网上的任何内容。

更多关于图像生成器的信息：
律师称吉卜力工作室可能对OpenAI采取法律行动

分享这篇文章

(以上内容均由Ai生成)