Kong 将 API 专业知识引入 AI 治理管理

快速阅读: 《硅角度》消息，孔戈公司发布升级版AI网关，通过自动化RAG技术和向量数据库提升AI安全性和效率，助力企业优化AI治理和API管理。

随着企业对改善人工智能治理的需求不断增长，API专业公司孔戈股份有限公司（Kong Inc.）发布了增强版的孔戈AI网关。AI网关充当大型语言模型的检索引擎，并提供管理整个AI治理生命周期的基础设施。3.10版本通过完全自动化的检索增强生成（RAG）技术，进一步推动了这项技术的发展，这是一种利用上下文数据优化AI结果的方法。“我们不再需要开发人员构建这些RAG管道了，”孔戈联合创始人兼首席技术官马可·帕拉迪诺表示。“网关会查询向量数据库，添加相关数据，然后将数据发送给模型。换句话说，RAG默认开启，这一点很重要，因为幻觉可能是使用AI的主要问题之一。我们希望能尽量减少幻觉，从而提升应用程序的响应质量。”

帕拉迪诺与TheCUBE的约翰·弗瑞尔就今天的发布会进行了讨论，探讨了为何AI网关可能成为全球管理AI和API最全面的平台以及AI治理的重要性。（*以下为披露信息）

**AI网关如何解决大型语言模型的安全问题**

孔戈最近为其API服务套件筹集了1.75亿美元资金。该公司将其在API领域的经验引入AI领域，实现RAG自动化的同时也为用户提供更高的向量数据库安全性。新版AI网关从模型中清除个人身份信息（PII）数据，确保符合监管规定。“AI无法保守秘密，”帕拉迪诺说。“这个新版本……允许我们实施一项全面策略，移除所有发送至模型的所有团队、应用及使用AI代理的PII数据。同时，我们会在返回时重新插入这些PII数据，以确保最终用户体验不受影响。”

向量数据库对AI应用的新阶段以及代理AI至关重要，后者已成为今年企业界热议的话题。据帕拉迪诺介绍，代理本质上是虚拟员工，是自动化业务流程的新方向。“我们正步入AI的新纪元——定制代理的时代，”帕拉迪诺解释道。“例如，我们的一个客户是一家世界500强顶级制药公司。他们正在生产环境中部署我们的AI网关。当一种新药即将上市时，他们能够将记录临床试验所需时间缩短50%；而当一种新药上市时，他们能够将记录新药文档所需时间缩短50%。”

除了借助自动化RAG提升模型准确性并提供更高安全性外，孔戈还将API技术引入讨论。帕拉迪诺指出，全球约80%的互联网流量为API，这一比例将持续上升。API的普及给那些无法集中管理其应用程序访问的组织带来了挑战。“一个组织快速行动、创新并构建新应用程序的能力，取决于它们了解自身拥有的API能力，”他说。“如果没有一个中央API存储库……管理所有这些技术，组织将陷入孤岛式运作。因此，与我们合作的客户是那些认识到连接层战略重要性的客户，因为它能让我们的执行更加高效。”

以下是TheCUBE对孔戈的马可·帕拉迪诺的完整视频采访：

（*披露：孔戈股份有限公司赞助了TheCUBE的这一部分。孔戈及其赞助商不对TheCUBE或SiliconANGLE的内容具有编辑控制权。）

照片来源：SiliconANGLE

来自SiliconANGLE联合创始人约翰·弗瑞尔的一条消息：

您的支持对我们非常重要，它帮助我们保持内容免费。只需点击一下即可支持我们提供免费、深入且相关的内容的使命。

加入我们的YouTube社区
加入包括超过15,000名#CubeAlumni专家的社区，其中包括亚马逊CEO安迪·贾西、戴尔科技创始人兼CEO迈克尔·戴尔、英特尔CEO帕特·格尔辛格等众多名人和专家。

“**TheCUBE是行业的重要合作伙伴。你们真的是我们活动的一部分，我们非常感谢你们的到来，我知道人们也欣赏你们创造的内容。**”
——安迪·贾西

(以上内容均由Ai生成)