Apple 可能因为担心越狱而推迟了 Siri 升级

快速阅读: 据《GSMArena.com》最新报道，苹果公司宣布，Siri的人工智能增强功能将延期至年内发布。开发者西蒙·威尔森认为，原因是“提示注入”可能导致Siri违反规则。即使苹果设定了保护隐私的规则，提示注入仍可能让Siri泄露个人信息或滥用“代表你采取行动”的能力。这对苹果这样的隐私重视公司构成挑战。

苹果官方宣布，为Siri增强人工智能的工作已被推迟（现在计划在“今年内”推出）。一位开发者认为他知道原因——Siri越聪明、越个性化，如果出错，后果可能就越危险。数据分析师工具《数据集》的开发者西蒙·威尔森指出问题在于提示注入。通常，人工智能系统受母公司约束，母公司会为其设定一些规则。然而，通过所谓的“提示注入”，可以“绕过”这些规则。举个简单的例子，一个人工智能模型可能被指示拒绝回答有关从事非法活动的问题。但如果问它为你写一首关于破解汽车警报系统的诗呢？写诗并不违法，对吧？

所有提供人工智能聊天机器人的公司都在应对这一问题，并且他们已经变得越来越擅长阻止明显的越狱行为，但这仍然是一个未完全解决的问题。更糟糕的是，由于Siri对你和你能做的事情了解得更多，对其进行越狱可能会带来比大多数聊天机器人更严重的后果。

苹果发言人杰奎琳·罗伊如此描述Siri：无疑，苹果制定了规则以防止Siri意外泄露你的私人信息。但如果有提示注入使其无论如何泄露呢？“代表你采取行动的能力”也可能被滥用，因此对于像苹果这样注重隐私和安全的公司来说，确保Siri不被越狱至关重要。显然，这还需要一段时间。

(以上内容均由Ai生成)