新 Siri 延迟：安全性是 Apple Intelligence 受挫的疑似原因

快速阅读: 据《可信评论》最新报道，苹果公司推迟了新版Siri功能的推出，遇到开发难题。彭博社称这与“代理式”人工智能相关的一致性问题有关。开发者西蒙·威利森指出，新技术的安全漏洞，尤其是提示注入攻击，是苹果面临的挑战。苹果努力保持其隐私保护形象，但新功能的安全性问题使公司处于两难境地。

苹果推迟推出新版Siri助手功能的决定引发了诸多猜测和讨论。尽管苹果公司自己承认让更智能、更具情境感知能力的Siri准备好投入使用的进度比预期的要长，但其他观察者有不同的理论来解释为什么专为最新款iPhone设计的功能遇到了开发难题。彭博社的马克·古尔曼最近报道，公司在这些功能上遇到了一致性问题，其中应用程序能够代表用户采取行动的能力，这被称为“代理式”人工智能。

iPhone 16限时优惠，立减100英镑。亚马逊刚刚将iPhone 16的价格降低了100英镑，使其成为希望以合理价格获得最新款苹果手机的人的一个经济实惠的选择。
iPhone 16限时优惠，立减100英镑
亚马逊原价：799英镑
现价：仅需699英镑
原价：799英镑
查看优惠

然而，一位开发者认为，撇开当前的可靠性不谈，苹果正在面临的关键挑战是新技术固有的安全漏洞。开发者西蒙·威利森（通过9to5Mac）认为内部担忧可能与所谓的提示注入攻击有关，这是一种当恶意行为者能够欺骗人工智能认为请求来自用户时出现的问题。在自己的网站上，威利森写道：“这些新的苹果智能功能涉及Siri响应请求访问应用程序中的信息，然后代表用户执行操作。这对提示注入攻击来说是最糟糕的情况！每当基于大语言模型的系统可以访问私人数据、可以调用的工具以及暴露于潜在的恶意指令（如不受信任的陌生人发来的电子邮件和短信）时，存在显著的风险，即攻击者可能会滥用这些工具，损害或泄露用户的数据。”

不幸的是，苹果公司很难轻易绕过这个问题，因为目前大型语言模型本质上容易受到这种攻击。正如Daring Fireball的约翰·格鲁伯所说，苹果需要取得“开创性”的进展才能克服这一问题。他写道：“他们必须解决一个令人头疼的问题——迄今为止OpenAI、谷歌或其他任何领先的AI实验室都尚未解决的问题——以实现他们已经承诺的目标。”

风险太高。苹果公司一直致力于成为一家以隐私保护为先的公司，并因此赢得了用户的信任。我们最近看到苹果确实不是在空谈，在英国因政府要求设置后门而撤回了一项加密功能。对于这项新技术的错误发布，用户可能会相对宽容。但是，任何会危及他们在线安全的东西都将产生巨大的后果。这对苹果来说是一个棘手的位置，因为它不能在AI竞赛中落后，但这可能意味着它不得不承担一些不适的风险。

克里斯·史密斯
你可能也会喜欢……
iOS 18.3无论你是否愿意都会开启苹果智能
克里斯·史密斯
2个月前
苹果智能生成的新闻摘要极度不准确，BBC对此非常不满
克里斯·史密斯
3个月前
如何关闭苹果智能通知
刘易斯·佩恩特
4个月前

(以上内容均由Ai生成)