在我们问 AI 能做什么之前，让我们先问问我们谈论的是什么样的 AI

快速阅读: 据《独立澳大利亚》最新报道，保罗·巴德指出，AI并非万能，需明确其类型与适用场景。生成式AI具概率性，不等于真理。应关注问题本质，选择合适工具。

我们不断追问AI能做什么，但真正的危险在于在不了解它是什么的情况下就使用它。保罗·巴德写道。关于人工智能力量的新闻头条层出不穷。从经济生产力激增的承诺到大规模失业的恐惧，AI被吹捧为救世主和威胁。但在所有喧嚣之中，一个关键问题却常常被忽视：我们究竟在谈论哪种AI？对大多数人来说，“AI”现在意味着生成式AI——像ChatGPT、Gemini、Claude等可以生成类似人类文本、图像甚至代码的系统。但生成式AI只是更广泛领域的一个分支，而且它是最不确定性的分支之一。这在处理医疗、司法、教育或能源等关键决策时尤为重要。我之前在讨论DeepSeek时曾提到过这些发展。生成式意味着非确定性生成式AI模型本质上是概率性的。这就是为什么它们可以写诗、生成食谱或模拟辩论，但也为什么它们有时会虚构事实或自相矛盾。这些系统并不真正理解任何东西。它们根据大量数据集中的模式生成输出，而没有真正的理解和意识。这不是一个缺陷——而是其架构的决定性特征。

DeepSeek为中国的人工智能发展带来突破

在中国以极低预算开发的DeepSeek R1发布后，在人工智能界引起了巨大震动。与基于规则的专家系统或计算机视觉算法相比，这些系统的确定性和透明度更为突出。一个专家系统可能基于逻辑推理来诊断医学症状。一个视觉算法可以非常可靠地判断一个物体是汽车还是树。这些系统并不花哨，但它们通常更适合关键应用。因此，当有人提出“AI”作为解决方案时，首先要问的问题应该是：这是哪种AI？我们是在寻找模式识别？不确定性下的推理？自然语言生成？还是其他什么？第二个问题是：它的优势和局限性是什么？一旦我们确定了方法，就必须面对它的能力以及盲点。例如，生成式AI擅长模仿。它可以模仿语气，提出合理的论点，并总结大量内容。但它不是搜索引擎、计算器或真理来源。除非这些事实明确地构建在其训练中，或者通过外部数据库访问，否则它没有事实基础。这是我亲身观察到的情况，我所了解的一家组织正在开发自己的AI系统，他们以现有工具为基础。他们并没有采用通用模型，而是打造了一个定制化的AI，专门针对他们的运营。他们向系统输入内部报告、数据、合同、行业统计数据、公开研究等，旨在创建一个真正理解他们工作的系统。这是一个庞大且不断发展的项目，需要持续的优化。在这个过程中，他们发现了自己文档中的空白，并意识到需要补充更多细节。有趣的是，他们还发现，在这一过程中学到了很多关于自己组织的知识——他们的优势、弱点，以及他们自身系统中嵌入的假设。这是一次具有启发性和严谨性的练习，不仅仅是训练AI，更是更好地理解自身的内部复杂性。

进步与危险：平衡技术的双重性

随着社会对技术的依赖日益增加，有必要全面看待数字世界的优点和缺点。与此同时，更加传统的符号AI系统在需要明确规则、可追溯性和可重复性的领域表现出色。但它们缺乏灵活性。它们不会即兴发挥。它们并不是为了处理模糊性而设计的。政策制定者和技术高管经常将这些截然不同的系统混为一谈，统称为“AI”，导致过度承诺和误用。应该首先提出的问题在谈到方法或工具之前，我们应该提出一个更根本的问题：什么让你确信任何形式的AI在这里是正确的答案？我们在教育领域已经看到这种情况，AI突然被宣传为解决教师短缺或学生不投入的良方，而缺乏深入分析，是否真正的问题是社会性的，而不是技术性的。或者在执法领域，预测模型被使用，却没有考虑到训练数据中的偏见。在这种情况下，AI并没有解决问题，反而加剧或掩盖了问题。事实上，AI的魅力部分可能在于它的模糊性。它给人一种创新的表象，而不必承受制度变革的不适。但如果我们使用错误类型的AI，或者在根本不需要AI的地方使用AI，我们不仅会浪费资源，还会以进步的名义固化既有问题。

结语

AI不是魔法。它是一组工具——有些是概率性的，有些是确定性的——需要明确的理解、上下文和批判性评估。问“AI能做什么？”是错误的起点。我们应该从问：“我们要解决什么问题？我们是否足够了解这个问题，以至于能够选择合适的工具？”在这一点成为默认做法之前，围绕AI的公众辩论将继续在乌托邦式的炒作和反乌托邦式的恐惧之间摇摆，而很少涉及这些系统实际运作的方式。

保罗·巴德是独立澳大利亚的专栏作家，也是保罗·巴德咨询公司的管理合伙人，这是一家独立的电信研究和咨询机构。你可以在推特上关注保罗@PaulBudde。

本作品采用知识共享署名-非商业性-禁止演绎3.0澳大利亚许可协议。支持独立新闻报道订阅IA。

AI能耗需求重新审视能源基础设施
DeepSeek为中国的人工智能发展带来突破
朴实无华的电子表格即将变得更加智能
AI圣诞音乐是对节日精神的无情牟利
用AI对抗“大众人”的影响
商业媒体科技人工智能
AI生成式AI ChatGPT Gemini Claude Deepseek 算法保罗·巴德辩论分享文章

(以上内容均由Ai生成)