Signal 总裁警告大肆宣传的代理 AI 机器人威胁用户隐私

快速阅读: 《商业内幕》消息，信号公司总裁梅雷迪思·惠塔克在SXSW 2025大会上警告，代理型人工智能因需访问大量用户数据，带来了严重的安全和隐私风险。她指出，这类人工智能在执行任务时会接触用户的浏览器、信用卡信息、日历及通讯内容，可能导致数据泄露和隐私侵犯。惠塔克强调，这威胁到了应用程序和操作系统间的边界，使个人隐私面临风险。

信号公司总裁梅雷迪思·惠塔克表示，代理型人工智能对用户构成了严重的安全风险。代理型人工智能是指那些无需人类干预就能推理并执行任务的机器人。但是让机器人代替用户完成任务意味着要赋予它访问大量数据的权限，惠塔克说。

梅雷迪思·惠塔克对代理型人工智能持怀疑态度——即那些无需人类输入即可完成任务或做出决策的人工智能代理。尽管一些科技巨头夸耀代理型人工智能有多有用，并推出了供用户试用的人工智能代理，但惠塔克在周五于奥斯汀举行的SXSW 2025大会和节日上警告了这些自主代理所带来的隐私风险。“我认为我们正面临着真正的危险，”惠塔克说，“部分原因是我们在把这些系统的控制权交出去的同时，它们需要访问我们的数据。”

惠塔克是负责运营以端到端加密著称的信号应用的非营利组织信号技术基金会的总裁。一种人工智能代理被宣传成“魔法精灵机器人”，它可以提前多步思考并完成任务，这样一来“你的大脑就可以放在罐子里，而你根本不用自己动手”，惠塔克说。

例如，她说代理型人工智能可以完成查找音乐会、预订门票以及打开像信号这样的应用来与朋友分享门票详情等任务。但在这一过程中的每一步，人工智能代理都会访问用户可能希望保密的数据。“它需要访问我们的浏览器，并能操作这一点。它需要我们的信用卡信息来支付门票。它需要访问我们的日历，了解我们正在做什么，见什么人。它需要访问信号应用来打开并发送消息给朋友们，”她说。

“它需要能够在整个系统中运行，具有类似root权限的东西，访问每一个数据库，可能是在明文状态下，因为没有模型可以加密这些数据。”惠塔克补充说，足够强大的人工智能代理几乎肯定会通过将其数据发送到云端服务器来处理这些数据。

“因此，安全性与隐私方面存在严重问题，困扰着关于代理型人工智能的这种炒作，这最终威胁到了应用程序层和操作系统层之间的界限，通过整合所有这些独立服务，混淆它们的数据，并破坏你的信号消息的隐私，”她说。

惠塔克并不是唯一担心代理型人工智能带来风险的人。加拿大研究科学家、被誉为人工智能领域先驱的约书亚·本吉奥在1月于达沃斯世界经济论坛上接受《商业内幕》采访时也发出了类似的警告。“如果我们拥有代理，那么所有灾难性的场景都有可能发生，无论是通用人工智能还是超级智能，”本吉奥说，他指的是机器达到人类水平推理能力的门槛。

“我们可以推进我们对安全且有能力的人工智能的研究，但我们必须承认风险，科学地理解这些风险来自何处，然后进行技术投资，使其在为时已晚之前实现，而不是建造一些可能摧毁我们的东西，”本吉奥说。

“如果我们拥有代理，那么所有灾难性的场景都有可能发生，无论是通用人工智能还是超级智能，”本吉奥说，他指的是机器达到人类水平推理能力的门槛。

(以上内容均由Ai生成)