FICO 首席行政官 Scott Zoldi：创新有助于实施 AI

快速阅读: 《信息周刊》消息，费科首席分析官佐尔迪领导团队25年，强调AI应用需解决实际业务问题。他拥有独立软件团队，确保创新快速落地，同时减轻CTO负担，推动AI解决方案高效实施与部署。

费科首席分析官斯科特·佐尔迪在汉普顿国家信贷公司（HNC）和费科（两家公司已合并）工作了25年，期间负责领导HNC的分析和人工智能相关工作。费科在消费领域以信用评分著称，而费科平台则帮助企业更好地了解客户，从而提供高度个性化的客户体验。“从费科的角度来看，确保我们以负责任的方式继续开发人工智能至关重要，”佐尔迪说道。“如今关于生成式人工智能有很多炒作，但我们一直致力于有效地将其应用于实际场景，从而实现所谓的‘人工智能黄金时代’，即部署切实有效且能解决业务问题的技术。”

尽管当今的人工智能平台使模型治理和高效部署变得更加容易，并提供了更大的模型开发控制能力，但组织仍然需要选择最适合用例的人工智能技术。佐尔迪指出，很多模型产生的幻觉以及不道德的行为都源于构建这些模型的数据。“我看到包括费科在内的公司正在为特定领域的问题构建自己的数据集，这些问题我们希望通过生成式人工智能来解决。”他还提到，“我们也在构建自己的基础模型，这几乎已经超出了几乎所有组织的能力范围。”

“我想我们大家都看过关于这些拥有数十亿参数和数千个GPU的巨大模型的报道，但实际上，仅仅使用一个GPU就能取得很大的进展，”佐尔迪说。“我们去年才构建了首个聚焦型模型。我们一直在展示如何在特定领域的具体问题上使用小型模型，其表现与市场上购买的大型语言模型一样出色，随后我们将其投入实际应用。”

“如果你构建了一个模型并产生了输出结果，它可能是幻觉也可能是真实的结果，除非你知道正确答案，否则你无法判断，这就是问题的关键所在。”佐尔迪说，“我们在生产语言模型的同时也会生成人工智能信任评分，因为它们都是基于相同的数据构建的。[信任评分算法]理解大型语言模型的功能。它们理解知识锚点——即模型训练所依据的知识库——因此当用户提问时，它会检查提示、回答内容，并给出一个信任评分，显示模型的回答与知识锚点的契合程度。”

“这非常强大，因为它意味着那些只能承担较小硬件规模的组织也能构建较小的模型，并以较低的成本部署它，其性能与大型语言模型相当，同时在模型开发和实际生产中的推理成本也大幅降低。”

“我坚信监管与创新是相辅相成的，但其他人正在思考如何在非明确指导的情况下适当开发他们的AI应用，”佐尔迪说道。创新本质上是一种挑战声明，例如‘这种创新应该是什么样子？’以便我可以达成商业目标，获得预测结果，并拥有可解释的模型，同时确保人工智能符合伦理。这意味着更好的模型。

“我们去年构建了首个聚焦模型。我们一直在展示，针对特定领域问题的小型模型的表现与市面上可获得的大型语言模型一样出色，并将其投入实际应用，”佐尔迪说。“这意味着我要找到将人工智能最高效地嵌入到我的软件中的方法。我们在费科平台上探索独特的软件架构设计，以实现这些技术的高效执行。”

一段时间以前，佐尔迪和他的团队希望为费科平台增加审计功能。为了实现这一点，他们使用了人工智能区块链。“人工智能区块链编码了模型的开发过程、需要监控的内容以及何时提取模型。从创新的角度来看，这些都是在我们实现实际应用时需要纳入的关键概念，因此创新的一大重点就在于实际应用。它关乎于合理利用生成式人工智能来解决业务中受益最大的具体问题。我们当然也在尝试像自主型人工智能等其他概念，看看这是否是我们未来有吸引力的发展方向。”

费科构建的审计能力可以追踪平台上做出的每一个决策、哪些决策或配置发生了变化、由谁更改了它们、为什么发生变化、何时发生变化。“这是关于软件及其组件如何变化、策略如何调整以及该模型如何运作的问题。其中最重要的一点是确保在AI或机器学习模型部署到平台时，所有步骤都能被审计，以便了解由谁更改模型或策略、是谁做出了那个决定、在部署前是否经过测试以及支持解决方案的数据是什么。对我们来说，这种验证应记录在区块链中，以确保这些配置的不可篡改记录。”

费科在开发和执行模型时使用人工智能区块链，并记录下每个决策。“可观察性是当今AI平台的一个重要概念。当我们开发模型时，我们有一条区块链用于解释模型的开发过程，以便满足治理和监管要求。在同一区块链上，还包含了实时监控AI模型所需的一切内容，如果没有可观察性这一核心理念，这是不可能实现的。”

“运营化创新实际上源于组织构建和部署决策解决方案所依托的软件正在随着软件和云计算的进步而改变，所以25年、20年或10年前的做法并不是今天最有效的方式。这改变了我们必须如何进行实际应用，改变了我们部署的方式，甚至改变了我们看待基本数据的方式。”

为什么佐尔迪有自己的软件开发团队
大多数软件开发组织隶属于CIO或CTO，费科也不例外，尽管佐尔迪也有自己的软件开发团队并与费科的CTO合作。“如果费科的创新要实现实际应用，必须要有短期的部署计划。我们的软件开发团队确保我们能提出正确的软件架构设计来部署，因为我们需要合适的吞吐量和延迟，”佐尔迪说。“我们的首席技术官比尔·韦德和我都在花大量时间研究新型软件架构设计，以确保所有价值都能被实际应用。”

一个专门的软件团队已经向佐尔迪汇报工作近17年，其中一个好处是允许佐尔迪探索他想要如何进行实际应用，从而向首席技术官和平台团队提出建议，确保新想法能够负责任地落地实施。“如果我想采用这些聚焦的语言模型之一，并了解部署和推理的最有效方式，我不需要依赖另一个团队。这让我能够快速创新，因为我的团队开发的所有内容都需要被实际应用并能够部署。这样，我不仅仅带来了一个有趣的算法、商业案例及软件代码，我还带来了明确的操作参数。这让我能够确保我基本上有能力优先分配适合AI解决方案的软件人才。这一点很重要，因为我可能需要展望三到五年后的情况，并需要知道我们需要什么。”

另一个好处是首席技术官和更大的软件组织不需要成为AI专家。“我认为大多数高性能的AI机器学习研究团队，比如我领导的这个团队，确实需要具备软件这一部分，这样他们才能有一定的控制权，并不会陷入某种优先级队列中等待一些软件关注，”佐尔迪说。“除非这些人专门从事AI、机器学习和MLOps，否则体验会不尽如人意。这就是为什么费科采取这种方式以及职责分离的原因。”

(以上内容均由Ai生成)