航天工程师谈为何企业需像信赖航天科技一样信任AI
快速阅读: 前NASA工程师强调信任在AI部署中的重要性，指出AI需先建立信任才能加速增长。预计2027年50%企业将部署AI，2030年30%工作或由AI完成。企业需借鉴航天工程经验，确保AI安全可靠。
当我作为NASA航天飞机计划的航空航天工程师工作时，信任是任务的关键。每个螺栓、每行代码、每个系统都必须经过仔细验证和测试，否则航天飞机将无法离开发射台。宇航员完成任务后，会走进办公室感谢数千名工程师安全地将他们送回家与家人团聚——这充分体现了信任和安全在我们系统中的重要性。
尽管有“快速行动、打破常规”的口号，技术领域也应如此。新技术需要先建立信任，才能加速增长。预计到2027年，约50%的企业将部署AI代理，而麦肯锡的一份报告预测，到2030年，多达30%的工作可能由AI代理完成。我与许多网络安全领导者交谈时发现，他们希望尽快引入AI以推动业务发展，但也认识到这些集成必须安全可靠地进行，并设置适当的防护措施。
要实现AI的潜力，企业领导者必须信任AI。这不会自行发生。安全领导者必须从一开始就借鉴航空航天工程的经验，将信任融入流程中，否则可能会错失AI带来的业务增长机会。
信任与增长的关系并非理论上的。我亲身经历过这一点。
### 基于信任创办企业
NASA的航天飞机计划结束后，我创立了我的第一家公司：一个供专业人士和学生展示和分享其技能和能力的平台。这是一个简单的想法，但要求客户必须信任我们。我们很快发现，大学不会与我们合作，直到我们证明能够安全地处理敏感的学生数据。这意味着通过多种途径提供保证，包括获得干净的SOC 2认证、回答冗长的安全问卷，并完成各种合规认证，这些过程非常繁琐。
这段经历塑造了Drata的成立。我和我的联合创始人致力于构建企业之间的信任层。通过帮助GRC领导者及其公司向客户、合作伙伴和审计师展示其安全状况，我们减少了摩擦，加速了增长。公司从每年100万美元的经常性收入迅速增长到1亿美元，仅用了几年时间，这证明了企业看到了价值，逐渐开始将GRC团队视为业务推动者而非成本中心。这带来了实实在在的结果——使用我们的SafeBase信任中心，安全团队已经影响了180亿美元的收入。
如今，随着AI的发展，利害关系更高。
### 当前的合规框架和法规
目前的合规框架和法规（如SOC 2、ISO 27001和GDPR）旨在保护数据隐私和安全，而不是用于生成文本、做出决策或自主行动的AI系统。得益于加州新颁布的AI安全标准等立法，监管机构正在逐步跟上步伐。但仅仅等待新的规则和法规是不够的，尤其是在企业依赖新AI技术保持竞争优势的情况下。
### 不会发射未经测试的火箭
在很多方面，这一刻让我想起了在NASA的工作。作为一名航空航天工程师，我从未“在生产环境中测试”。每次航天任务都是精心策划的操作。
在不了解和承认风险的情况下部署AI，就像发射未经测试的火箭一样：损害可能是立即且灾难性的。正如一次失败的太空任务会降低人们对NASA的信任，AI使用不当也会降低消费者对组织的信任。
我们现在需要一个新的信任操作系统。为了将信任操作化，领导者应创建一个：
– **透明**的程序。在航空航天工程中，详尽的文档不是官僚主义，而是问责的工具。同样，AI和信任也需要可追溯性——从政策到控制再到证据和认证。
– **持续**的程序。正如NASA全天候监控其任务，企业必须将信任视为一个持续的过程，而不仅仅是一个时间点的检查事项。例如，控制措施需要持续监控，使审计准备成为一种常态，而不是最后一刻的冲刺。
– **自主**的程序。现代火箭发动机可以通过嵌入式计算机、传感器和控制回路自主管理运行，无需飞行员或地面人员直接调整阀门。随着AI在日常业务中的普及，我们的信任程序也必须如此。如果人类、代理和自动化工作流要进行交易，它们必须能够自主、确定且无歧义地验证信任。
当我回顾我的航空航天岁月时，最让我印象深刻的是不仅有太空任务的复杂性，还有它们之间的相互依赖。数以万计的组件由不同的团队制造，必须完美地协同工作。每个团队都相信其他团队能够有效完成自己的工作，所有决策都有记录，以确保组织内部的透明度。换句话说，信任是将整个航天飞机项目凝聚在一起的关键。同样的道理也适用于今天的AI，尤其是在我们进入代理AI这一新兴时代之际。我们正在转向一种新的业务方式，未来将有数百乃至数千个代理、人类和系统不断相互作用，产生数万个接触点。这些工具强大，机遇广阔，但前提是我们在每次互动中都能赢得并维持信任。那些建立起透明、持续、自主信任文化的公司将引领下一轮创新浪潮。
AI的未来已经初见端倪。问题很简单：你是否会基于信任来构建它？
《财富》评论文章所表达的观点仅代表作者个人，不一定反映《财富》杂志的意见和信念。
《财富》全球论坛将于2025年10月26日至27日在利雅得举行。届时，CEO和全球领导者将齐聚一堂，参加这一动态且仅限邀请的活动，共同塑造商业的未来。
申请邀请。
(以上内容均由Ai生成)
