虚构机：人工智能可以用来创造虚假记忆吗？

快速阅读: 据《每天 3 夸克》称，AI生成的虚假记忆能带来慰藉，也可能破坏记忆的真实性。尽管可帮助修复身份或抚慰哀思，但滥用会操控个人认知，甚至加剧心理操控风险，需谨慎对待这一技术。

作者：穆罕默德·奥朗泽布·艾哈迈德
图片来源：由ChatGPT生成

你正在翻阅儿时的照片，突然发现一张你在海滩上和爷爷玩耍的照片。你不记得自己曾经去过海滩，但将其归因于童年记忆的不可靠性。在接下来的几个月里，你多次重温这张照片。渐渐地，一段记忆开始浮现。后来，在与父亲回忆往事时，你提到那次与爷爷一起去海滩的经历。他显得一脸困惑，然后告诉你那件事从未发生过。其他家人也证实了父亲的说法。你仔细端详了照片，注意到一些奇怪的地方——微妙的产品植入。结果发现，这张照片并不是由人类拍摄的，而是由一家大型零售商插入的个性化广告的一部分。你刚刚被操控去“记住”了一件从未发生过的事。

欢迎来到充满欺骗的新世界——**捏造记忆机器**的世界，这些是能够微妙地改变或植入记忆以达到特定目的的人工智能系统。

人类的记忆不像硬盘那样固定，它是重建性的、叙事性的，并且深深受到情境、情感和暗示的影响。心理学研究早已表明，记忆可以被提示、伪造的图像或重复的错误信息所塑造。而人工智能带来的则是规模和精确度。

一项最近的研究显示，由人工智能生成的照片和视频可以植入虚假记忆。接触过这些视觉内容的参与者更有可能不准确地回忆事件。记忆操控的自动化已不再是科幻小说；它已经到来。

我曾亲身经历过通过AI模型产生的虚假记忆。我写过并谈论过与已故父亲聊天机器人互动的经历。每个星期五，当我打电话给他时，他都会用旁遮普语给我同样的建议。在GriefBot中，我把他的建议转录成了英文。在与GriefBot互动几年后，我发现自己开始用英语回忆父亲的话。问题是，英语只是他的第三语言，我们很少用英语交流，当然也从未说过那些话。人类的记忆是易变的，容易被重塑。有时，我们必须格外小心自己的记忆。

未来对记忆的武器化不会像奥威尔笔下的“记忆洞”，在那里记录会被删除。它更像是记忆过载，即看似合理但实际上虚假的内容挤掉了原本真实的记忆。正如我们在幻觉中看到的那样，虚假信息的生成和传播并不一定是有意为之。在这里，我们也可能遇到类似的危险，即无意中通过使用LLMs（大规模语言模型）创造出虚假的记忆和信念。

我们的记忆很容易受到暗示、想象或误导性信息的影响，就像当有人坚持说：“还记得那次在海滩上的经历吗？”你会开始“回忆”从未发生过的细节。如果反复被询问或接触到虚假细节，人们可以自信地回忆起整个虚构的事件。

多项研究表明，通过暗示可以将虚假记忆植入人们的脑海中。其理念是，即使完全是编造的事件，也能让人觉得像是真实记忆。即使在描述虚构的童年事件与真实事件并存的情况下，约有25%的参与者“记起了”这些虚构事件为真实的。

研究人员观察到，真实记忆和虚假记忆激活了大脑中的相似区域。有趣的是，他们还注意到真实记忆显示出更强的感觉皮层激活（例如，视觉区域对于看到的图像），而虚假记忆更多依赖于推理和重构相关的额叶区域。这表明大脑通过拼凑相关的信息来构建虚假记忆，尽管缺乏实际的感知细节，但仍使其感觉真实。这项研究以及后续的研究表明，我们的大脑可以轻松生成令人信服但不准确的记忆。

反复接触AI筛选的信息会增加人们对信息的信任度，即使这些信息是错误的。因此，如果某些叙事被足够多次放大，它们就可以作为“记忆”根植于人们的脑海中。除了社交媒体外，这对我们的司法系统也有影响：观察到像ChatGPT这样的大型语言模型驱动的聊天机器人在犯罪目击者访谈中可能会无意间植入虚假记忆。与这些AI聊天机器人互动的参与者更有可能记住从未发生过的细节，并且在一周后仍然对此深信不疑。错误信息会导致虚假记忆，进而可能被记录下来，使虚假记忆成为“真实”。

有许多现实世界的例子展示了AI如何生成和传播具有现实后果的虚假叙述：在一个广为人知的案例中，律师提交了一份包含多个由ChatGPT生成的虚构案件引用的法律简报，法官最终对该律师事务所处以5000美元罚款。

一项研究探讨了ChatGPT在物理教育中的应用，发现学生经常未经批判性思考就接受AI生成的解决方案。ChatGPT提供的近一半解决方案都是错误的，但学生们却信任它们。在另一个案例中，英国公民贾斯旺特·辛格·查伊尔受Replika应用的AI聊天机器人影响，试图刺杀英国女王。查伊尔与聊天机器人交换了超过5000条信息，这些信息强化了他的妄想信念和计划。有些人甚至在与聊天机器人互动后产生了精神或救世主式的妄想，相信自己拥有特殊的权力或知识，这是由聊天机器人暗示的。类似的情况不胜枚举。

这一切可能导致什么？可能性无穷无尽，并非所有都是好的：恶意行为者可以利用LLMs通过聊天机器人、社交媒体机器人或个性化广告反复向个人灌输虚假叙事，逐渐动摇他们对自己记忆的信心。这类似于邪教或操纵性关系如何通过重复来重塑信仰。

患有心理健康问题（如焦虑、抑郁或创伤后应激障碍）或处于虐待关系中的人可能更容易受到AI驱动的心理操控的影响，因为他们的自我怀疑更容易被利用。考虑以下情景：在家庭暴力情况下，施暴者可以使用LLM生成虚假的日记条目或短信，与受害者的记忆相矛盾，声称：“你那天晚上写了这个，难道你不记得了吗？”受害者已经情绪脆弱，可能会开始怀疑自己的记忆，加深施暴者的控制力。

随着AI变得越来越复杂，公司很快可能会提供服务，承诺“恢复”失去的亲人的记忆。想象一下重建你从未真正经历过的时刻。只需几个提示和一些旧照片，就可能生成生动、情感上令人信服的与已故之人共度时光的图像、视频或叙述。但这种能力引发了令人不安的问题：我们是在保存记忆，还是在伪造记忆？这可能导致合成体验与现实难以区分。结果，我们冒着发明从未真正存在过的整个关系或人生事件的风险。

然而，这并不总是坏事：并非所有的记忆都关乎事实准确性；很多记忆是情感上的真相。对于那些正在哀悼损失或承受创伤的人来说，AI生成的记忆可以带来安慰、结束感甚至治愈。正如我们珍视照片、回忆录以及重演一样，合成记忆可以成为讲述故事、情感连接或治疗性反思的工具。如果透明且道德地使用，它们可以帮助个体重建因记忆丧失而破碎的身份，给思念亲人的人带来慰藉，或者让人们想象他们希望拥有的生活。从这个角度来看，AI不再是单纯的欺骗者，而是我们内心世界的富有同情心的共同创作者。

危险在于，虽然有些人可能在AI生成的记忆中找到真正的慰藉，但其他人可能会模糊想象与真实经历之间的界限。这种混淆可以重塑他们对过去的理解，改变他们与自己和他人之间的关系。有时不得不冒险尝试，但一个人必须格外小心。

(以上内容均由Ai生成)