NASA工程师谈为何企业需建立与航天技术同等可信的AI系统
快速阅读: 前NASA工程师强调，信任对于AI技术的发展至关重要。预计2027年50%企业将部署AI代理，但需确保安全可靠。学习航天工程经验，建立透明、持续、自主的信任机制，推动AI健康发展。
在我担任NASA航天飞机项目工程师时，信任至关重要。每个螺栓、每行代码、每个系统都必须经过仔细验证和测试，否则航天飞机将无法离开发射台。宇航员完成任务后，会到办公室感谢成千上万的工程师将他们安全送回家——这体现了我们系统中信任和安全的重要性。
尽管有“快速行动，打破常规”的口号，技术行业也不应例外。新技术在加速增长之前，需要建立信任。
据预测，到2027年，约50%的企业将部署AI代理，而麦肯锡的一份报告预计，到2030年，高达30%的工作可能由AI代理完成。我交谈过的许多网络安全领导者都在寻求尽快引入AI以推动业务发展，但他们也认识到，这些集成必须安全可靠地进行，并设置适当的防护措施。
要实现AI的潜力，商业领袖必须信任AI。这不会自然而然发生。安全领导者应该从航空航天工程中学到教训，在流程初期就建立信任，否则可能会错失AI带来的业务增长机会。
信任与增长之间的关系并非理论。我亲身经历过这一点。
基于信任创办企业
NASA的航天飞机项目结束后，我创立了我的第一家公司：一个供专业人士和学生展示和分享其技能和能力的平台。这是一个简单的想法，但要求客户对我们充满信任。我们很快发现，大学不会与我们合作，直到我们证明能够安全处理敏感的学生数据。这意味着通过多种途径提供保证，包括获得干净的SOC 2认证，回答冗长的安全问卷，以及通过繁琐的手动过程完成各种合规认证。
这段经历塑造了Drata的成立，我和我的联合创始人致力于构建公司间的信任层。通过帮助GRC领导者及其公司向客户、合作伙伴和审计师展示其安全态势，我们减少了摩擦，加速了增长。我们从每年100万美元到1亿美元的经常性收入仅用了几年时间，这证明了企业看到了价值，开始逐渐将GRC团队视为业务推动者而非成本中心。这转化为实际成果——我们看到有180亿美元的安全影响收入，这些收入来自使用我们的SafeBase信任中心的安全团队。
现在，随着AI的发展，风险更高。
当前的合规框架和法规——如SOC 2、ISO 27001和GDPR——旨在保护数据隐私和安全，而不是为生成文本、做出决策或自主行动的AI系统设计。
得益于加州新颁布的AI安全标准等立法，监管机构正在逐步跟上步伐。然而，仅仅等待新的规则和法规是不够的——尤其是在企业依赖新AI技术保持领先的情况下。
你不会发射未经测试的火箭
在很多方面，这一时刻让我想起了在NASA的工作。作为一名航空航天工程师，我从未“在生产环境中测试”。每次航天任务都是精心策划的操作。
在不了解和承认风险的情况下部署AI，就像发射未经测试的火箭：损害可能是即时且灾难性的。正如一次失败的太空任务会降低人们对NASA的信任，AI使用中的失误，若未充分了解风险或未设置防护措施，也会降低消费者对组织的信任。
我们现在需要一个新的信任操作系统。为了实现信任的运营化，领导者应创建一个：
透明的程序。
在航空航天工程中，详尽的文档不是官僚主义，而是问责的力量。同样，AI和信任也需要可追溯性——从政策到控制再到证据和认证。
持续的过程。
就像NASA全天候监控其任务一样，企业必须将信任视为一个持续和不断的过程，而不仅仅是某个时间点的复选框。例如，控制措施需要持续监控，以便审计准备成为一种常态，而不仅仅是一场临时冲刺。
自主的系统。
如今的火箭发动机可以通过嵌入式计算机、传感器和控制回路自主管理操作，无需飞行员或地面人员在飞行中途直接调整阀门。随着AI在日常业务中的普及，我们的信任计划也必须如此。如果人类、代理和自动化工作流要进行交易，它们必须能够自主、确定地验证信任，且没有模糊性。
回想我的航天岁月，最让我印象深刻的是不仅有太空任务的复杂性，还有它们之间的相互依赖。数以万计的部件，由不同的团队制造，必须完美地协同工作。每个团队都相信其他团队能够高效完成任务，决策过程透明，确保整个组织的信息畅通。换句话说，信任是将整个航天飞机项目凝聚在一起的关键因素。这一点同样适用于当今的人工智能，尤其是在我们进入代理人工智能这一新兴时代时。我们正在转向一种新的商业模式，数百乃至数千个代理、人类和系统之间不断互动，产生数以万计的接触点。这些工具强大，机会广阔，但前提是我们在每一次互动中都能赢得并维持信任。建立透明、持续、自主的信任文化的公司，将引领下一轮创新浪潮。
人工智能的未来已经初现端倪。问题很简单：你是否会基于信任来构建它？
《财富》评论文章所表达的观点仅代表作者个人，不一定反映《财富》杂志的意见和信念。
《财富》全球论坛将于2025年10月26日至27日在利雅得举行，届时首席执行官和全球领导者将聚集一堂，参加这场塑造商业未来的重要活动。
申请邀请函。
(以上内容均由Ai生成)
