AI 生成的图像可以利用您的大脑运作方式——这就是它们欺骗您的原因以及如何发现它们
快速阅读: 据《今日日本》最新报道，弗吉尼亚大学心理学助理教授阿伦·鲁宾斯指出，AI生成图像利用人类视觉与思维局限，容易使人忽视错误。他建议通过直觉、线索查找、批判性思考及来源验证来辨别真假，强调放慢速度仔细观察的重要性。
当下观点：AI生成的图像如何利用你的思维方式——它们如何欺骗你及如何识别
今日上午05:54 JST
今日0评论
作者：阿伦·鲁宾斯
弗吉尼亚大学心理学助理教授
我在社交媒体上更喜欢浏览而不是发帖。像许多人一样，我每天结束时都会沉迷于刷屏，观看意大利祖母制作意大利面或者小侏儒河马嬉戏的视频。一段时间以来，我的动态中充斥着设计精美的迷你房屋，激发了我对极简主义天堂的向往。然而，我开始注意到一些AI生成的图像，它们包含明显的错误，比如无处可去的楼梯或者嵌套的水槽。然而，评论者很少指出这些错误，反而对其美学表示赞赏。
这些图像是明显由AI生成的，并不反映现实。难道人们没注意到吗？还是根本不在乎？
作为一名认知心理学家，我会猜测两者皆是。“是的”，人们确实没有注意到；“是的”，他们也并不在意。我的专长是研究人们如何处理和使用视觉信息。我主要研究人们如何从日常琐事（如寻找掉落的耳环）到放射科医生或搜救队执行的关键任务中，以视觉方式寻找物体和信息。
根据我对人们如何处理图像并注意——或不注意——细节的理解，这对我来说并不意外，人们没有意识到许多图像是由AI生成的。
### 检测AI生成图像的困难
与过去检测挑战类似，例如发现经过PS的图片或电影中的计算机生成图像相比，存在一个关键区别：照片编辑和CGI需要艺术家的有意设计，而AI图像则是通过在数据集上训练的算法生成的，通常没有人工监督。
缺乏监督可能导致不完美或不一致，感觉不自然，例如被称为“AI垃圾”的不真实的物理现象或帧与帧之间缺乏一致性。尽管有这些差异，研究表明人们很难区分真实图像和合成图像，无论来源如何。即使明确要求识别图像是真实的、合成的还是AI生成的，准确性接近随机水平，意味着人们的准确率仅略高于随机猜测。
但有一个关键区别：照片编辑和CGI需要艺术家的有意设计，而AI图像则是通过在数据集上训练的算法生成的，通常没有人工监督。缺乏监督可能导致不完美或不一致，感觉不自然，例如被称为“AI垃圾”的不真实的物理现象或帧与帧之间缺乏一致性。
在日常互动中，当你没有主动审视图像时，你检测合成内容的能力甚至可能更弱。
### 注意力决定你看什么，忽视什么
发现AI图像中的错误需要注意到小细节，但在随意滚动时，人类的视觉系统并非为此设计的。相反，在线时，人们会大致了解他们正在查看的内容，可能会忽略细微的不一致性。
视觉注意力就像一个变焦镜头：你需要广泛扫描以获得整体概览，但要关注细节需要集中精力。人类感知系统进化是为了快速评估环境中的任何威胁生存的因素，对突然变化敏感，例如快速移动的捕食者，牺牲了精度以提高检测速度。这种速度-准确性权衡允许快速、高效的处理，这帮助早期人类在自然环境中生存下来。但它与现代任务不匹配，例如滚动设备，在这些任务中，AI生成图像中的小错误或异常细节很容易被忽略。
人们也会错过他们没有主动关注或寻找的东西。心理学家称之为注意力盲视：专注于一项任务会导致你忽略其他细节，即使是明显的细节。在著名的隐形大猩猩研究中，要求参与者在视频中计数篮球传球的人未能注意到有人穿着大猩猩服在场景中间走过。同样地，当你专注于AI图像的整体内容，例如舒适的迷你房屋时，你不太可能注意到微妙的扭曲。
### 思考中的效率高于准确性
我们的认知限制不仅限于视觉感知。人类思维使用两种类型的处理：基于心理捷径的快速直觉思维，以及需要努力的缓慢分析性思维。当滚动时，我们的快速系统可能占主导地位，导致我们接受图像的表面价值。
加剧这一问题的是倾向于寻求证实自己信念的信息或拒绝违背自己信念的信息。这意味着AI生成的图像更容易逃过你的注意，当它们符合你的期望或世界观时。如果一个AI生成的篮球运动员做出不可能投篮的画面符合球迷的兴奋之情，他们可能会接受它，即使有些东西看起来夸张。
虽然这对小型房屋的美学不是什么大事，但这些问题变得令人担忧的是，当AI生成的图像可能被用来影响公众舆论时。例如，研究表明，人们倾向于认为图像与伴随的文字相关。即使图像没有提供实际证据，它们会让人们更有可能相信文字的主张为真。
加剧这一问题的是倾向于寻求证实自己信念的信息或拒绝违背自己信念的信息。这意味着AI生成的图像更容易逃过你的注意，当它们符合你的期望或世界观时。如果一个AI生成的篮球运动员做出不可能投篮的画面符合球迷的兴奋之情，他们可能会接受它，即使有些东西看起来夸张。误导性的真实或生成图像可以使虚假声明显得更可信，甚至导致人们对真实事件产生误记。AI生成的图像有能力以难以反驳的方式塑造意见和传播错误信息。
### 打败机器
虽然AI在检测AI方面变得更好，但人类也需要工具来做同样的事情。以下是方法：
1. **信任你的直觉**：如果有什么不对劲，那很可能确实有问题。你的大脑能出色地识别物体和面孔，即使在不同条件下。也许你经历过心理学家所说的诡异谷效应，并对某些类人面孔感到不安。这种体验表明人们可以检测到异常，即使他们无法完全解释哪里出了问题。
2. **寻找线索**：AI在某些元素上表现不佳：手部、文本、反射、照明不一致和不自然的纹理。如果一张图片看起来可疑，仔细检查一下。
3. **批判性思考**：有时，AI会生成超逼真的图像，其中包含不可能的情景。如果你看到政治人物随意惊喜咖啡师或名人吃混凝土，问问自己：这合理吗？如果不是，那很可能是假的。
4. **检查来源**：发布者是真人吗？反向图像搜索可以帮助追踪图片的来源。如果元数据丢失，可能是由AI生成的。
AI生成的图像越来越难被发现。在滚动时，大脑快速处理视觉内容，而非批判性地处理，这使得容易错过揭示伪造的细节。随着技术的进步，放慢速度，仔细观察并批判性思考。
—
阿伦·鲁宾斯是弗吉尼亚大学的心理学助理教授。
《对话》是一个独立且非盈利的新闻、分析和评论来源，由学术专家撰写。
外部链接：
https://theconversation.com/ai-generated-images-can-exploit-how-your-mind-works-heres-why-they-fool-you-and-how-to-spot-them-246867
©《对话》
©2025 GPlusMedia Inc.
新宿的梦想工作教学、领导和启发！
通过Jstyle实现你的梦想职业
立即申请
(以上内容均由Ai生成)
