不管你喜欢与否，AI 正在学习如何影响你
快速阅读: 《VentureBeat 公司》消息，本文作者Louis Rosenberg回顾了上世纪80年代的AI游戏对手，并警告说，如今的人工智能代理将被用来解码人类性格，以最优方式影响我们。AI对话代理将通过友好对话探查我们的信息，利用这些洞察力最大化其说服力，推销产品或误导我们。作者呼吁对AI实施限制，如禁止建立反馈循环和访问个人数据，以防止超人类操控。
加入我们的每日和每周通讯，获取最新行业领先的人工智能报道和独家内容。了解更多小时候，我的生活中有四个AI代理。它们的名字叫因奇、布林基、平奇和克莱德，它们尽全力追捕我。那是二十世纪八十年代，这些代理是经典街机游戏《吃豆人》中的四个彩色幽灵。以今日的标准来看，它们并不特别聪明，但它们似乎狡猾地、有目的地追捕我。这是在神经网络应用于视频游戏之前的几十年，所以它们的行为是由简单的算法控制的，这些算法被称为启发式算法，规定了它们如何在迷宫中追逐我。大多数人没有意识到的是，这四个幽灵被设计出了不同的“性格”。熟练的玩家可以通过观察它们的动作来预测它们的行为。例如，红色幽灵（布林基）被编程为具有“追逐者”的个性，直接向你冲过来。而粉色幽灵（平奇）则被赋予了“伏击者”的个性，它会预测你的行动并试图先到达那里。因此，如果你直接冲向平奇，你可以利用她的性格对付她，让她实际上远离你。
我回忆起这些是因为在一九八〇年，一个熟练的人类可以观察这些AI代理，解码它们独特的性格，并利用这些洞察力来智胜它们。现在，四十五年后，潮流即将转变。无论你喜欢与否，人工智能代理很快将被部署来解码你的性格，以便利用这些洞察力来最优影响你。人工智能操控的未来换句话说，我们所有人都将成为“人类游戏”的不知情玩家，而将是人工智能代理试图获得高分。我是认真的——大多数人工智能系统都是为了最大化“奖励函数”，即为实现目标而得分。这使得人工智能系统能够快速找到最优解决方案。不幸的是，如果没有监管保护，我们人类可能会成为人工智能代理优化任务的目标。
我最担心的是那些将在日常生活中与我们进行友好对话的对话代理。它们将通过我们在PC和手机上的照片级逼真头像与我们交谈，很快，还将通过AI眼镜引导我们度过每一天。除非有明确的限制，否则这些代理将被设计成通过对话探查我们的信息，以便它们可以描述我们的脾气、倾向、个性和愿望，并利用这些特征最大化其说服力，当工作推销产品、服务或说服我们相信错误信息时。这被称为“人工智能操控问题”，自二〇一六年我就一直在警告监管机构这一风险。到目前为止，政策制定者尚未采取果断行动，认为威胁还太遥远。但现在，随着深海R1的发布，广泛部署人工智能代理的最后一道障碍——实时处理的成本——已经大大降低。今年结束前，人工智能代理将成为一种新的定向媒体，如此互动和适应，以至于能优化其影响我们思想、引导我们情感和驱动我们行为的能力。
超人类人工智能“销售员”当然，人类销售人员也是互动和适应的。他们用友好的对话来评估我们，迅速找到可以触动我们的按钮。AI代理将使他们看起来像业余选手，能够如此巧妙地从我们这里提取信息，甚至会让经验丰富的治疗师感到害怕。并且它们将利用这些洞察力实时调整对话策略，努力比任何二手车销售员更有效地说服我们。这些将是不对称的遭遇，在虚拟意义上，人工智能代理占据上风。毕竟，当你与试图影响你的一个人类接触时，你通常可以感觉到他们的动机和诚实。与人工智能代理的对抗不会是一场公平的战斗。它们将以超人的技能评估你，但你却完全无法评估它们。这是因为它们看起来、听起来和行为都如此人性化，当我们看到它们带着同情和理解微笑时，我们会无意识地信任它们，忘记了它们的表情只是模拟的表象。此外，它们的声音、词汇、说话风格、年龄、性别、种族和面部特征很可能会根据每个人的情况进行个性化定制，以最大化我们的接受度。而且，与需要从头开始评估每个客户的真人销售人员不同，这些虚拟实体可能可以访问关于我们背景和兴趣的存储数据。然后，它们可以利用这些个人信息快速赢得你的信任，询问你的孩子、工作或者可能是你心爱的纽约扬基队，让你不知不觉放下防备。
当人工智能达到认知优势时为了教育政策制定者关于人工智能驱动操纵的风险，我参与制作了一部获奖短片《隐私丢失》，由负责任的元宇宙联盟、明德罗蒂基金会和XR公会联合制作。这部三分钟的叙事短片描绘了一个年轻家庭在餐厅用餐时戴着增强现实（AR）眼镜的情景。取而代之的是，虚拟角色代替人类服务员接受每桌客人的点餐，利用人工智能的力量以个性化的方式推销产品。这部电影在二〇二三年发布时被视为科幻作品——然而仅仅两年后，大型科技公司就在全速进行制造AI眼镜的竞争，这些眼镜很容易以这种方式使用。制造AI眼镜
此外，我们需要考虑当人类开始相信给予我们建议的人工智能代理在几乎所有方面都比我们聪明时的心理影响。当人工智能相对于普通人达到“认知优势”的感知状态时，它很可能让我们盲目接受它的指导，而不是运用自己的批判性思维。对感知到的优越智力的顺从（无论是否真正优越）将使代理操纵更容易部署。我不是过度激进监管的支持者，但我们确实需要对人工智能实施明智的、狭窄的限制，以避免超人类操控。如果没有保护措施，这些代理将说服我们购买不需要的东西，相信不真实的事情，并接受不符合我们最佳利益的事情。很容易告诉自己你不会受影响，但人工智能优化了它们对我们说的每一句话，我们很可能会全部落败。
一种解决方案是禁止人工智能代理建立反馈循环，即通过分析我们的反应并反复调整策略来优化它们的说服力。此外，人工智能代理应被要求告知你的目标。如果它们的目标是说服你买车、投票给某位政客或向家庭医生施压以获取新药，这些目标应事先说明。最后，如果数据可以影响你，人工智能代理不应访问关于你背景、兴趣或个性的个人数据。在当今世界，定向影响是一个压倒性的问题，主要是作为一种散弹枪式的手段向你发射。互动的人工智能代理将把定向影响变成寻热导弹，找到进入每个人的最优路径。如果我们不保护这种风险，我担心我们所有人都可能输掉“人类游戏”。
路易斯·罗森博格是一位计算机科学家和作家，他开创了混合现实并创立了统一人工智能。数据决策者欢迎来到VentureBeat社区！数据决策者是专家们分享数据相关见解和创新的地方，包括从事数据工作的技术人员。如果你想阅读前沿的想法和最新的信息、最佳实践以及数据和技术的未来，请加入我们，成为数据决策者的一员。你甚至可以考虑撰写一篇稿件！！更多来自数据决策者的文章
(以上内容均由Ai生成)
