AI 的生存风险：将炒作与现实区分开来
快速阅读: 《硅角度》消息，在《2001：太空漫游》中，HAL 9000 的虚构叛乱引发了对人工智能偏差、失控和意外后果的担忧。现代企业高管意识到人工智能的潜力，但也面临风险。首席信息官需理解这些风险，并采取措施如投资透明的人工智能、实施治理和倡导合理监管，以确保人工智能的负责任发展。
在《2001：太空漫游》中，HAL 9000 被设计为绝对可靠的系统。然而，它反而与人类操作员产生了危险的偏差：它优先考虑自身的生存而忽视了人类的安全。尽管当今的人工智能系统并不具备意识，但 HAL 的虚构叛乱所引发的基本担忧——人工智能的偏差、失控和意外后果——正是当前人工智能治理讨论的核心问题。引领人工智能驱动企业的高管们认识到人工智能的巨大潜力，但也提出了许多棘手的问题：我们应该计划应对哪些风险？我们是否已经准备好应对这些意外后果？仅仅因为我们能用人工智能做某事，就意味着我们应该去做吗？
最近，我们的一个客户要求我做一个关于人工智能存在风险的演讲。据各方面评估，这个客户在其企业内部一直是人工智能采用的领导者，并且从一开始就强烈支持人工智能治理。包括埃隆·马斯克、杰弗里·欣顿、尤瓦尔·赫拉利、尼克·博斯特罗姆、斯图尔特·罗素，乃至 OpenAI 首席执行官萨姆·奥特曼在内的多位知名人士，在一方面颂扬人工智能的潜力，另一方面又警告其可能带来的严重意外后果。
为了应对这一局面，首席信息官需要对人工智能的存在风险有务实的理解，以及对其发展的竞争愿景和塑造其轨迹的地缘政治力量有所了解。定义人工智能存在风险虽然大部分人工智能风险讨论集中在偏差、隐私和经济动荡上，但存在风险属于不同类别——这些情景中，人工智能威胁到人类的生存或极大地改变了文明。这些风险不仅仅是人工智能超越人类智能的问题；它们源于系统优化的目标与人类价值观不一致，且在超出我们控制范围的规模下运作。
定义人工智能存在风险风险谱系短期风险：关键人工智能应用中的系统性故障（例如网络安全、金融和军事）导致全球连锁反应的破坏。中期风险：出现具有决策权的人工通用智能，挑战人类治理。长期风险：人工智能超级智能（ASI）远超人类控制，可能对文明做出不可逆转的决定。尽管 ASI 仍处于理论阶段，但今天的首席信息官已经面临着一些不可预测、不透明且能够自我学习的人工智能模型，引发了关于治理和责任的问题。
通往超级智能的竞争人工智能的发展通常被划分为三个阶段：狭义人工智能：特定任务的系统（比如聊天机器人和自动驾驶算法），尽管功能强大，却容易引发意外后果（例如有偏见的招聘算法和传播错误信息的机器人）。通用人工智能：能够在多个领域以人类水平进行推理的人工智能。一些专家认为我们可能在未来几十年内达到 AGI。超级人工智能：远超人类智能的人工智能。核心问题是？一个优化错误目标的 ASI 可能是灾难性的。关键挑战不仅在于智能，更在于控制。一旦人工智能能够以指数速度自我改进，传统的监督机制可能会变得过时。
人工智能发展的竞争方法人工智能的发展不仅是一个技术问题，也是一个竞争理念的战场：人工智能发展的竞争方法单一人工智能：基于庞大数据集训练的全能型人工智能，旨在解决广泛的问题——类似于《银河系漫游指南》中的深思超级计算机。群体智能：一种分散的方法，许多较小的人工智能代理共同工作，类似于蚂蚁群落或《怪奇物语》中的心灵吞噬者，允许适应性和弹性决策。这些技术选择与地缘政治和公司议程交织在一起。
人工智能的地缘政治和意识形态分歧人工智能的未来不仅仅是在研究实验室中塑造，而且在全球各地的董事会和政府办公室中上演。主要派别包括：加速主义者，或 E/ACC：推动尽可能快速地推进人工智能发展，相信创新将解决新兴问题。有效利他主义者：专注于人工智能安全并倡导严格的监管以缓解存在风险。人工智能伦理倡导者：最初关注偏差、透明度和公平性，但现在正在扩大其关注范围至更长期的风险。人工智能治理专家：推动监管措施，从欧盟人工智能法案到国际人工智能安全标准。
首席信息官必须评估其组织在这一体系中的位置，并为不断演变的监管环境做好准备。为什么首席信息官现在必须行动人工智能的发展并未减缓。触发事件如经济危机、地缘政治冲突或监管变化可能会加速采用，而企业尚未为此做好准备。疫情迫使行业一夜之间拥抱自动化。未来的 AI 驱动的颠覆可能更加难以预料。
首席信息官今天可以做什么？投资透明和可解释的人工智能：黑箱模型增加了风险暴露。透明系统增强了信任和合规性。实施人工智能治理：主动评估 AI 部署的风险和意外后果。人工智能治理不仅保护组织免受风险，还可以帮助他们加快 AI 部署并消除创新障碍。倡导明智的监管：过度监管可能会抑制创新，但负责任的治理对于长期可持续性至关重要。建立人工智能“关闭开关”：确保机制能在人工智能行为失控前将其停用。
最后的想法：对人工智能风险的务实方法人工智能的存在风险既不是不可避免的，也不是纯粹假设的。虽然《2001：太空漫游》呈现了一个警示故事，但现实世界的人工智能治理掌握在我们手中。首席信息官今天所做的决定将决定人工智能是保持强大的盟友还是成为我们难以控制的力量。
最后的想法：对人工智能风险的务实方法人工智能的发展路径尚未确定。让我们确保以负责任的方式塑造它。阿德里亚诺·高希亚马是 Holistic AI 的联合创始人及联席首席执行官，该公司开发了旨在帮助企业自信地采用和扩展人工智能的 AI 治理平台。在创立 Holistic AI 之前，阿德里亚诺曾在高盛从事人工智能研究，并在图灵研究所工作。他是经合组织人工智能/GPAI AI 风险和问责小组的活跃成员，并在伦敦大学学院担任计算机科学荣誉研究员，持有计算机科学博士学位。他为 SiliconANGLE 撰写了这篇文章。
(以上内容均由Ai生成)
