AI 并没有真正“学习”，了解原因将帮助您更负责任地使用它
快速阅读: 据《海峡时报》称，像ChatGPT这样的人工智能系统并不真正“学习”，而是通过大量数据的数学模式进行训练。这类系统擅长处理语言任务，但在常识知识方面表现不佳。它们在训练完成后便不再学习，除非进行重新训练。了解这一点有助于用户更有效地利用AI，将其作为助手而非知识库。AI开发者正探索新方法，如连接互联网和个性化回应，但仍需用户主动验证和指导。
如果我们告诉你，像ChatGPT这样的人工智能（AI）系统其实并不真正“学习”，你会感到惊讶吗？我们与很多人交流时，他们听到这个都会感到非常惊讶。即使AI系统本身也常常自信地告诉你，它们是学习系统。许多报告甚至学术论文也这么说。但这是因为一个误解——或者说我们对AI中的“学习”有着更为宽松的理解。然而，更精确地理解AI系统何时以及如何学习（或不学习），会使你成为一个更高效和负责任的AI用户。AI实际上并不“学习”——至少不像人类那样。围绕AI的许多误解源于使用了对人类有意义的词汇，如“学习”。我们知道人类是如何学习的，因为我们一直在学习。我们有经验；我们做了一些失败的事情；我们遇到新事物；我们读到令人惊讶的内容；因此我们记住，我们更新或改变做事的方式。这并不是AI系统学习的方式。主要有两个不同之处。首先，AI系统不会从具体的经历中学习，从而像人类一样理解事物。相反，它们通过编码大量数据中的模式来学习——仅依赖数学方法。这发生在训练过程中，当它们被构建出来时。以大型语言模型为例，比如GPT-4，这是驱动ChatGPT的技术。简而言之，它通过编码词语（实际上是标记）之间的数学关系来学习，目的是预测哪些文本与其他文本相关联。这些关系是从海量数据中提取并在计算密集型的训练阶段中编码的。这种“学习”方式显然与人类的学习方式大不相同。这在某些方面是有缺点的，因为AI经常难以处理人类自然通过生活就学会的简单常识知识。但AI训练也非常强大，因为大型语言模型已经“阅读”了远超人类所能理解规模的文本。这就是为什么这些系统在基于语言的任务上如此有用，如写作、总结、编程或对话。这些系统虽然不像我们那样学习，但以巨大的规模进行学习，使它们在擅长的领域成为全能选手。一旦训练完成，学习也就停止了。大多数人们使用的AI系统，如ChatGPT，在构建后也不会继续学习。可以说，AI系统根本不学习——训练只是它们构建的方式，而不是它们工作的方式。GPT中的“P”字面意思是“预训练”。从技术角度看，像ChatGPT这样的AI系统只在开发期间参与“训练时间学习”，而不在“运行时间学习”。确实存在一些系统可以在运行时学习，例如Netflix算法推荐你看什么。一旦完成，就结束了，正如俗语所说。“预训练”意味着大型语言模型总是固定在某个时间点。对其训练数据的任何更新都需要高昂的重新训练成本，或者至少是所谓的微调以进行较小的调整。这意味着ChatGPT不会根据你的提示持续学习。而且，开箱即用的大型语言模型不会记住任何内容。它只会在单个聊天会话中保存信息。关闭窗口或开始新的会话，每次都是全新的开始。对此有一些解决办法，比如存储关于用户的信息，但这是在应用程序层面实现的；AI模型本身不会学习，直到重新训练才会改变。（稍后会有更多）关于这一点更多信息科技公司正在转向“合成数据”来训练AI模型——但隐藏着成本微软为何承认AI让我们变得愚蠢？这对用户意味着什么？首先，了解你从AI助手那里得到的是什么。从文本数据中学习意味着像ChatGPT这样的系统是语言模型，而不是知识模型。尽管通过数学训练过程编码了大量的知识，但当被问及知识问题时，这些模型并不总是可靠的。它们真正的强项在于处理语言。不要惊讶于它们的回答包含过时的信息，因为它们是被冻结在某个时间点的，或者ChatGPT不会记住你告诉它的任何事实。好消息是，AI开发者已经提出了一些聪明的解决办法。例如，一些版本的ChatGPT现在连接到了互联网。为了提供更及时的信息，它们可能会执行网络搜索并将结果插入你的提示中，然后再生成回复。另一个解决办法是AI系统现在可以记住关于你的事情以个性化其回应。但这是一种技巧。不是大型语言模型本身实时学习或自我更新。关于你的信息存储在一个单独的数据库中，并且每次插入提示时都以一种不可见的方式插入。但这仍然意味着你无法纠正模型的错误（或教它一个事实）。这将使它为其他用户纠正答案。模型可以在一定程度上个性化，但它仍然不能实时学习。理解AI如何（或不）学习的用户会投入更多精力发展有效的提示策略，并将AI视为一个需要检查的助手。让AI辅助你。但确保你逐条提示并学习。Kai Riemer是悉尼大学信息技术和组织学教授，Sandra Peter是同一机构的悉尼高管课程主任。本文首次发表于《对话》杂志。关于这一话题的更多信息生活体验：我让AI接管我的生活一周新加坡标志性研究揭示AI模型中的种族、文化和性别偏见加入ST的电报频道获取最新新闻推送。AI/人工智能科技与研究职场生活感谢分享！
(以上内容均由Ai生成)
