AI 让死者复活威胁到我们对现实的把握

快速阅读: 据《今日海湾》最新报道，杰森·高文因妻子重病和自身癌症，借助AI创造虚拟形象以陪伴孩子。尽管AI技术能模拟共情，带来慰藉，但也引发了混淆现实、伦理风险等问题。专家警告，悲痛技术可能导致人们对现实的认知削弱，需设立合理边界。

帕米·奥尔森，特稿新闻社命运的残酷转折，促使杰森·高文做出了一项育儿决定。2019年，他的妻子生下一对双胞胎男孩几天后，她中风了。医生说她只能活两到三年。高文和他最大的儿子深受打击，但更糟糕的事情还在后面。几个月后，高文发现自己患上了胃癌。面对可能让三个孩子失去父母的前景，他从观看《超人：钢铁之躯》这部电影中得到了灵感。电影中的超人走进自己的私人避难所，与模拟的父亲形象交谈。这种可能性给了他安慰，他和妻子可以留下与自己对话的虚拟副本给孩子们。“我想，肯定有人已经想出这个主意了。”他回忆道。一次谷歌搜索让47岁的演员高文找到了大约10家提供个人数据训练AI模型的公司——包括短信、视频和其他数字痕迹，以创建人的虚拟形象。他作为测试者注册了一家名为“仅虚拟你”的供应商，如今他的九岁儿子偶尔会与他们称为“机器人爸爸”的聊天机器人交谈，这是一种听起来像高文本人的AI模拟。最近，当妻子提到收拾餐具时，机器人爸爸几乎在高文说完后也开了同样的玩笑。人工智能开始提供了惊人的新提议：与逝去的人继续交流的机会。尽管目前只有少数人尝试过所谓的悲痛技术工具，这项技术预示着我们在处理损失的方式上发生了深刻而令人不安的变化。这些工具带来的安慰代价可能是我们对现实和非现实的集体认知进一步削弱。尽管人工智能正在迅猛发展，数字复活仍然罕见。“仅虚拟你”有大约1000名用户，据首席执行官贾斯汀·哈里森称。另一家类似公司“十二月计划”报告称已有3664人尝试过其服务。在中国，通过一家名为“超级大脑”的AI公司，数千人使用少至30秒的音视频数据“数字化复活”了他们的亲人。但这些数字与ChatGPT每周3亿用户的数量相比显得微不足道。然而，随着人工智能变得越来越便宜且更加复杂，这些早期采用者可能预示着我们处理死亡方式的改变。这一想法并非完全前所未有。数百万人已经从聊天机器人如Replika、Kindroid和Character.ai中寻求陪伴，被生成式人工智能最令人惊讶的能力之一所吸引：模拟共情。这些互动如此具有情感吸引力，以至于一些用户爱上了他们的AI伴侣，甚至有人因此自杀。其他人则尝试与自己未来的数字模拟进行对话，以帮助规划未来，目前已有超过60,000人使用一种名为“未来你”的工具。当你看到今天大部分交流都是基于文本，并且AI变得如此流利时，很容易理解其中的魅力。如果高文的故事没有打动你，问问自己：如果有一个经过他们语音训练的已故朋友或亲人的数字化版本，你会与它聊天吗？我会很难抗拒这样的机会。但利用生成式AI来处理悲伤也触及了我们人类价值观中神圣不可侵犯的部分。不仅仅是可能混淆我们的记忆与一个“假”的亲人的记忆：奶奶真的说过她喜欢南瓜派，还是只是她的虚拟形象？风险还包括同意问题：如果奶奶不愿意以这种方式被再现呢？这不仅仅关乎短暂性或当我们去世后，为下一代留出空间，让他们用自己的声音占据公共讨论。核心危险在于悲痛技术如何加速我们与现实的疏离，这一现象已经被社交媒体量化的人类价值指标和假新闻及回声室的兴起所助长。现在，技术正侵入我们最私密体验的另一个角落，威胁到我们对终局的欣赏。伦敦智库Theos的高级研究员内森·姆拉丁表示，悲痛技术背叛了我们对现实的根本承诺。他认为，虽然人类一直保留死者的遗物——如照片和头发——但AI模拟跨越了一个存在主义的界限，因为它们是互动的，并且基于来自互联网各个角落的数据。姆拉丁在2024年的一项研究中还警告说，有些人在这些应用程序上停留一段时间，但有些人则沉迷于此，并继续互动，仿佛那个人仍然存在。尽管悲痛技术仍然是边缘化的，但它的正常化似乎是可以预见的。这意味着它需要护栏，比如随着时间推移AI复制品逐渐消失，以反映自然的哀悼过程。它们也可以受益于与人类顾问整合，以防止不健康的依赖。高文正在应对这些边界。机器人爸爸不能讨论争议话题，但对于它将来如何处理关于关系和酒精等重大话题的对话，以及如果他的儿子对系统过于依恋，家庭仍有疑问。目前，机器人爸爸对高文来说已经足够好了，即使它确实导致了对真实父亲和数字父亲回忆的混杂。“老实说，人类的记忆本来就很零散。”他说，“对我来说最重要的是我知道我的AI模型以我的本质为核心。”但保存某人的本质也冒着根本性的风险。日本的“物哀”概念认为，事物之所以美丽，是因为它们不会永远存在——就像每年只绽放一周的樱花。人为延长我们的存在意味着我们不仅失去了对短暂性的欣赏，而且失去了更本质的东西：我们对现实的共同锚点。试图通过技术来软化死亡的边缘，可能会逐渐削弱我们面对生活的勇气。

(以上内容均由Ai生成)