帕尔米·奥尔森（Parmy Olson）：人工智能让死者复活威胁到我们对现实的把握

快速阅读: 据《双城先锋出版社》最新报道，杰森·高文因妻子病重和自身患癌，决定借助AI技术为孩子留下会说话的虚拟父亲形象。尽管AI提供了与逝去亲人交流的新可能，但也引发了对混淆记忆、伦理及社会影响的担忧。这项技术虽仍处于边缘，但其正常化趋势明显，需设立边界以避免不健康依赖。

命运的残酷转折让杰森·高文做出了一个前所未有的育儿决定。2019年，他的妻子生下一对双胞胎男孩几天后，突发中风。医生说她只能活两到三年。高文和他的大儿子悲痛欲绝，但更糟糕的事情还在后面。几个月后，高文发现自己得了胃癌。面对可能留下三个孩子无人抚养的前景，他从观看电影《超人：钢铁之躯》中获得了灵感。在电影中，披风英雄走进孤独堡垒，与模拟的父亲形象对话。这种可能性给了他安慰，他和妻子可以为孩子们留下会说话的虚拟替身。“肯定已经有人想到这个主意了。”他回忆道。一次谷歌搜索将47岁的演员高文引向了大约10家提供基于个人数据——短信、视频和其他数字痕迹——训练AI模型以创建人物虚拟形象的公司。他作为测试者签约了一家名为“你，仅虚拟”的提供商。如今，他的9岁儿子偶尔会与他们称为罗博爸爸的聊天机器人交谈，这是一个听起来像高文本人的AI模拟。最近，当妻子提到收拾餐具时，罗博爸爸几乎在高文自己说完后也开了同样的玩笑。人工智能开始提供一种惊人的新选择：与逝去的人继续交流的机会。尽管目前只有少数人尝试过所谓的哀伤科技工具，这项技术预示着我们在处理失去亲人的方式上发生了深刻且令人不安的变化。这些工具带来的安慰代价可能是我们集体对现实与非现实把握的进一步削弱。

尽管人工智能发展迅速，数字化重生仍然罕见。“你，仅虚拟”首席执行官贾斯汀·哈里森表示，该公司约有1000名用户。另一家类似公司“十二月项目”报告称已有3664人尝试过其服务。在中国，通过一家名为“超级大脑”的AI公司，几千人使用不到30秒的音视频数据“数字化重生”了他们的亲人。但这些数字与ChatGPT每周3亿用户的数量相比显得微不足道。随着人工智能变得越来越便宜和先进，这些早期采用者可能预示着我们处理死亡方式的转变。这一想法并非完全前所未有。数百万人已经从聊天机器人Replika、Kindroid和Character.ai中寻求陪伴，被生成式人工智能最令人惊讶的能力之一所吸引：模拟共情。这些互动极具情感吸引力，以至于用户爱上了他们的AI伴侣，甚至在极端情况下，据说有人因此自杀。其他人则尝试与数字模拟的老年自我对话，以帮助规划未来，现在已有超过60000人使用了名为“未来你”的此类工具。当我们今天的大部分交流都是基于文本的，而AI又变得如此流利时，很容易理解其中的魅力。

如果高文的故事不能打动你，不妨问自己：如果用逝去朋友或亲人的语音训练，你会与数字化版本聊天吗？我很难抗拒这样的机会。但使用生成式AI来处理哀伤也触及了人类价值观中神圣不可侵犯的部分。不仅仅是可能混淆我们的记忆与“假”亲人的记忆：奶奶真的说过她喜欢南瓜派，还是只是她的虚拟形象？风险还包括同意问题：如果奶奶不喜欢这种方式被再现呢？不仅仅是关于短暂性或当我们将离开时，留给下一代用自己的声音填补公共讨论空间的想法。核心危险在于，哀伤科技可能会加速我们与当下日益疏离的现象，这一现象已被社交媒体对人类价值的量化指标以及假新闻和回声室的兴起所助长。现在，技术正侵入我们最私人体验的另一个角落，威胁到我们对终局的欣赏。

伦敦智库Theos高级研究员内森·姆拉丁表示，哀伤科技背叛了“我们对现实的根本承诺”。他认为，虽然人类一直保留死者的遗物——如照片和头发——但AI模拟跨越了一个存在主义的界限，因为它们是互动的，并且基于来自互联网各处的数据。姆拉丁在2024年的一项研究中还警告了利用哀悼者谋取利益的行为。“有些人会在这些应用上玩一段时间，但有些人则沉迷于此，继续与他们互动，仿佛那个人仍然存在。”

尽管哀伤科技仍处于边缘地位，但其正常化似乎是可以预见的。这意味着它需要一些护栏，比如设定时间限制，使AI复制品随着时间逐渐消失，以反映自然的哀伤过程。它们还可以受益于与人类顾问的整合，以防止不健康的依赖。高文正在应对这些界限。罗博爸爸不能讨论性话题，但对于如何处理未来关于关系和酒精的大话题对话，以及如果他的儿子对系统过于依恋会发生什么，家庭仍有疑问。目前，罗博爸爸对高文来说已经足够好了，即使这会导致对真实父亲和数字父亲的记忆混杂在一起。“老实说，人类的记忆本来就如此支离破碎。”他说，“对我来说最重要的是我知道我的AI模型的核心是我自己的本质。”但保存某人的本质也可能冒着根本性的风险。日本的“物哀”概念认为，事物之所以美丽——就像每年只绽放一周的樱花——正是因为它们不会永远存在。人为地延长我们的存在意味着我们不仅失去了对无常的欣赏，而且失去了更本质的东西：我们集体锚定于现实的纽带。试图通过技术软化死亡的边缘，我们可能会逐渐削弱面对生活本身的能力。

帕米·奥尔森是彭博社观点专栏的作者，专门报道科技领域。她曾是《华尔街日报》和福布斯的记者，著有《霸权：AI、ChatGPT和改变世界的竞赛》。

(以上内容均由Ai生成)