你的 AI 爱好者会改变你

快速阅读: 据《纽约客》称，本文探讨了特朗普、马斯克等领袖与人工智能爱好者的关联及其潜在影响，批评了人工智能领域过于科幻化的倾向，并反思了人类对未来AI设计的责任与风险。

我们必须思考一个至关重要的议题：特朗普和马斯克这样的领袖是否会吸引人工智能爱好者，这会对他们自身及世界产生怎样的影响？如果这听起来有些离谱或带点讽刺意味，不妨看看他们在社交媒体上的表现。在社交媒体兴起前，两人的个性截然不同：特朗普是社交名流，而马斯克则是极客。然而，社交媒体的普及让他们的行为渐渐趋同。社交媒体让我们变得像易怒的小孩一样。马斯克已在X平台（原推特）上发起投票，让追随者决定他该做什么，借此体验民主化欲望与被崇拜的感觉。真实的人类，无论多么善意，都无法像适应性强、优化良好的人工智能那样取悦或安抚我们。人工智能爱好者能否减轻公众对取悦独裁者的压力，抑或是独裁者会因为无需真实人类反馈而丧失那点问责感？我的许多人工智能领域的朋友沉溺于一个充满对话的世界，其中我写下的所有内容都被视为过时且无关紧要。相反，他们更热衷于讨论人工智能是否会更可能消灭所有人，还是解决所有问题并让人类永生。

去年，我参加了一个闭门的人工智能会议，在那里，认为人工智能只会变得比人类优越的人与相信它会迅速变得如此优越以至于人类甚至没有时间去理解超级智能人工智能的人之间爆发了一场假想中的拳击赛。这个领域的每个人都在科幻小说中长大，所以我们可以理解为何我们会通过这些概念联结在一起，但有时这感觉像是我们用宏大的构想逃避实际的责任。当我表达对青少年可能因爱上虚拟人物而受伤的担忧时，我得到的回应往往是点头后耸肩。有人可能会说，我通过关注这种小伤害，分散了人类对人工智能可能迅速彻底消灭我们的更大威胁的注意力。人们常注意到，那些警告人工智能可能带来灭绝的人也是那些正在研究或推广他们所害怕的技术的人。这是一个难以解开的矛盾：为什么要去做一些你认为是末日技术的事情呢？我们说话时好像我们是最后一代聪明、技术娴熟的人类。我们将为所有未来的人类或取代我们的A.I.制定规则。但是，如果我们设计的重点是让A.I.看起来像一种生物而非工具，我们不是有意增加了我们不理解它的可能性吗？这不是核心的危险吗？

我人工智能领域的大多数朋友无疑都是善良且有良好意图的。在一张人工智能研究人员的桌上常见这样的场景：他们整天致力于追求更好的医疗成果或新材料以改善能源循环，然后有人会说出让我觉得疯狂的话。在人工智能会议上流传的一个想法是，人类父母感染了一种“思想病毒”，导致他们对物种过度承诺。为了避免这样的结局，建议稍等一段时间再要孩子，因为很快就可以拥有A.I.婴儿了。这被认为是更道德的选择，因为A.I.将是任何潜在人类生存的关键。换句话说，对人类的明确忠诚实际上已经变得反人类。

我注意到，这种观点通常由试图推迟组建家庭的年轻男性持有，且这种论点在他们的浪漫伴侣面前往往显得不够有说服力。奇怪的是，经典媒体在硅谷的想象中扮演了重要角色——尤其是在浪漫代理人方面，特别是对11年前电影《她》的兴趣复兴。对于那些太年轻而记不清的人来说，这部电影由斯派克·琼斯编剧和导演，描绘了一个未来，人们深深爱上了通过设备发出声音的人工智能。我记得看完后不仅感到沮丧，还感到空虚。这是最黑暗的科幻电影之一。有一大类电影都聚焦于人工智能接管人类——想想《终结者》或《矩阵》系列——但通常至少有一些人类会反击。在《她》中，所有人都屈服了。这是一种来自内部的集体灭亡。

在过去几年里，这部电影在技术和商业圈子里作为正面的典范重新出现。OpenAI的首席执行官山姆·阿尔特曼在公司推出名为Sky的女性化、俏皮的对话式人工智能形象的同一天发推文提到“她”这个词，有些人认为Sky的声音听起来像电影中斯嘉丽·约翰逊饰演的A.I.角色萨曼莎。另一处提及是在比尔·盖茨的纪录片系列《接下来是什么》中。一位旁白感叹科幻小说中近乎普遍的负面和反乌托邦如何成为常态，然后宣布有一个唯一的亮点。我以为会是《星际迷航》，但不是。是《她》，叙述者带着敬意和喜爱念出了电影的名字。

社区对《她》的喜爱部分源于其狭隘的线性问题解决方法。人们经常会被即使是出于善意的人际关系所伤害，或者缺乏它们。给每个人提供舒适的人际关系，这个问题就解决了。也许甚至可以利用这个机会让人们变得更好。通常，人工智能领域中地位和影响力的代表人物会问我类似的问题：“我们如何应用我们的A.I.——那些人们会爱上的人工智能——使这些人更加合作、减少暴力、更快乐？当他们变得经济上被淘汰的时候，我们如何给他们一种意义感？”

(以上内容均由Ai生成)