什么是 AI 洗涤?
快速阅读: 《IT 专业人员》消息,人工智能“漂绿”在科技行业日益普遍,指公司夸大AI应用以获利。这增加了辨别真正AI技术的难度,并带来了经济、合规及信任等多方面风险。监管机构正逐步介入,未来可能出台更严格的AI营销指南以遏制此现象。
人工智能漂绿正成为科技行业中的普遍问题。这指的是公司随意将自身产品或服务标榜为“人工智能驱动”,通常是为了借助技术热潮获利,但实际上这些产品或服务对生成式人工智能乃至更广义的人工智能的运用要么微乎其微,要么完全不存在。希望将自家产品与热门新兴技术挂钩以吸引市场目光并非新鲜事,但这确实让辨别哪些产品和服务真正利用了新兴技术变得更加困难。
这一趋势与可持续发展领域中出现的误导性“绿色洗绿”行为有着相似之处。IT服务提供商Park Place Technologies首席技术官克里斯·卡雷罗指出:“就像某些公司可能夸大自己的环保努力一样,AI漂绿涉及夸大某项解决方案中AI的角色和能力。简而言之,这是一种营销手段,制造出技术进步的假象。”
近年来,这种“漂绿”现象在AI领域尤为普遍——据分析公司高德纳统计,他们已经发布了超过70份提及此现象的报告。正如可信科技欧洲/英国总经理贾斯廷·夏洛克所说,这几乎就像校园里的同伴压力:如果你不谈AI,你可能显得落后了。这导致一系列被宣传为AI驱动的工具涌现,但实际上,它们仅仅是简单的自动化或基于规则的系统,并未使用复杂的人工智能模型来处理数据。
注册即可免费获取我们2025年未来焦点报告副本——这份报告基于700多位高管的指导,是关于AI、网络安全及其他IT挑战的权威指南。请向我发送来自其他未来品牌或赞助商的信息和优惠。
AI漂绿带来的风险
企业在考虑投资所谓的“AI驱动”解决方案时,必须确保做好尽职调查,因为如果该方案不如所宣称的那样先进,则可能会面临多方面的损害。此类投资不仅可能给公司造成经济损失,还无法达成提升生产力或效率等预期目标。此外,在受监管行业中,AI有助于防止欺诈或合规违规,若投入不当,则可能导致公司在自认为已受保护的领域变得脆弱,因数据泄露或服务故障而面临品牌或声誉受损,“进而招致罚款、客户信任流失以及市场份额下降”,高德纳杰出副总裁分析师伯恩·埃利奥特表示。
供应链方面存在一个问题,一些新型生成式AI方法需要特殊网络安全措施,但若供应商对其AI相关内容表述模糊不清,买家会默认存在适当的防护措施。然而一旦该产品成为另一款产品的组成部分,保障措施可能被忽略,因为不同类型的AI使用情况并不明确。埃利奥特进一步强调,领导者还需考虑提示注入等风险,称这可能是一个严重问题。若缺乏供应商透明度,买家无法保证采取任何步骤减轻此威胁。
最终,AI漂绿破坏了公众对技术潜力的信任。夏洛克指出,当由于这种做法不可避免地引发围绕AI产品的泡沫破裂时,这将激发怀疑情绪并对合法的AI解决方案产生抗拒心理。“这种受损的信任阻碍了能够带来巨大好处的AI技术采纳,从而减缓整个商业环境的进步与创新。”
如何识别AI漂绿
在当前热潮下识别AI漂绿是一项挑战,尤其是在缺乏普遍接受定义且围绕AI没有明确法规的情况下。这种模糊性为公司滥用AI标签提供了肥沃土壤,而不兑现承诺。为了应对这一局面,企业需要保持警觉并提出关键问题,卡雷罗说。
首先,他说企业必须优先考虑实质而非流行语:“超越营销宣传,深入探究解决方案中AI的实际应用方式。它是推动核心功能和决策流程的关键组件,还是仅仅是一些重新包装为‘轻量级AI’的自动化或增强分析?仔细考察组织是否真的在其流程和业务中实施了AI,或者这只是现有分析和机器学习技术的重新包装。”
其次,他建议要求提供AI影响的具体证据。“要求案例研究、性能指标以及通过解决方案实现的可量化改进。真正的AI应用应该带来比传统分析或自动化更为显著且可验证的结果。如果供应商难以提供清晰的AI影响证据,这便是一个危险信号。”
监管领域的进展
尽管目前状况有点像“狂野西部”,但企业并非独自面对这一新领域。虽然进展可能比我们期望的要慢,但政府和监管机构已经开始打击误导性的AI声明。被发现进行AI漂绿的公司将面临罚款、法律诉讼及声誉受损。例如,去年投资公司德尔菲亚和全球预测因对其使用AI作出误导性声明而遭美国证券交易委员会(SEC)处罚。
此外,针对AI的特定法规很可能会出台,这意味着企业将不得不遵守更严格的标准,并对其虚假声明承担更多责任。“特别是近期英国和欧盟监管机构开始更加关注误导性AI声明,”夏洛克说。“随着AI不断发展,监管机构可能会引入更清晰的AI营销指南。就像我们看到的数据隐私法如GDPR一样,针对AI的特定法规很可能会出台,以确保企业负责任且准确地推广AI。这将有助于阻止公司进行AI漂绿,并为客户提供更多透明度。”
(以上内容均由Ai生成)