ChatGPT 现在可以生成足够逼真的假收据来欺骗企业

快速阅读: 《技术点》消息，研究显示，ChatGPT可伪造逼真收据，虽存小瑕疵，但经简单修图即可骗过雇主，成为诈骗新工具。OpenAI承认风险但未过度恐慌，同时看到其教育用途。

尴尬脸：当ChatGPT不被用来生成那些类似宫崎骏工作室（Studio Ghibli）风格的病毒式传播图片时，它还可以被用来伪造收据。这个AI对话机器人在理解和生成图像中的文字方面已经相当出色，聪明的用户发现它能够伪造收据。这些假收据可以轻松通过检查，被当作合法购买的证据。

直到最近，AI生成的图像一直存在一个明显的缺陷——文字混乱或毫无意义。许多模型已经解决了像模糊文字这样的问题，以至于这类问题不再出现。但是文字仍然是一个小问题。然而，这种情况正在迅速改变。例如，在ChatGPT 4.0模型的图像生成最新更新后，用户可以生成几乎格式完美的收据，包括商品清单，甚至看起来真实的标志。当然，它们仍然不是完全无懈可击的，可能会显得过于整齐，文字间距奇怪，甚至有数学错误。然而，小额收据通常不会受到仔细检查。在Photoshop中进行一些额外的修改，比如添加污渍，就可以轻松欺骗雇主。对于诈骗者来说，这种手段的收益显而易见。他们只需要花费几分钟使用ChatGPT和Photoshop，即使这种伎俩只偶尔成功，这也是一项低投入、高回报的计划。

目前，最有效的方法可能是将现有的收据提供给ChatGPT并修改价格或日期等细节。但随着技术的进步，完全编造的收据可能变得真假难辨。

相关故事：假RTX 4090显卡看起来真实，但隐藏着RTX 3090 GPU；ChatGPT图像工具“融化”了GPU；OpenAI获得40亿美元新资金。

你或许会认为这会在OpenAI总部引发警觉，但实际上，尽管公司承认了潜在的风险，但并未过度恐慌。该公司发言人向TechRadar表示，该公司持续追踪其平台内外的图像生成情况，使用内部工具验证AI创建的内容，并在发生使用政策违规时采取行动。

有趣的是，OpenAI也看到了这项能力带来的好处。发言人Taya Christianson向TechCrunch建议，假收据可以在受控环境中帮助人们学习如何记录支出或辨别欺诈行为。

不过，人们难免会质疑，这项能力是否能为社会带来净积极影响。

(以上内容均由Ai生成)