IBM探索解决AI“幻觉”问题的新方法

快速阅读: AI模型常表现自信却易编造事实，称为“幻觉”。OpenAI研究表明，问题源于评估方式而非代码缺陷。IBM提出Larimar系统，通过可编辑记忆实时修正错误，以减少幻觉现象。

AI模型通常表现出自信，但这种自信可能具有误导性。事实上，这些系统有时会以可信的方式编造事实，这一问题被称为“幻觉”。尽管模型的准确性随着时间的推移有所提高，但这个问题并未消失。有趣的是，根据OpenAI的新研究，问题可能并非源自有缺陷的代码，而是AI进展的评估方式。奖励准确答案的基准测试同样倾向于奖励自信的猜测，即使这些猜测是错误的。

因此，这促使模型给出答案，而不是承认它们不知道某些事情，专家认为这造成了错误的激励。具体来说，科技巨头IBM的Ayhan Sebin将此比作人类绩效指标，表示如果系统奖励猜测，那么模型就会猜测。另一位IBM专家Kate Soule则认为这是一个“校准问题”。目前，AI系统被推动总是给出答案，这导致了更多的幻觉。但如果模型过于频繁地说“我不知道”，也会降低其实用性。

因此，研究人员相信需要更好的评分方法，让模型学会何时回答，何时保持沉默，具体情况具体分析。为此，IBM正在探索解决方案，例如名为Larimar的新系统，该系统赋予模型可编辑的记忆，以便实时学习和修正事实。Larimar允许AI更新特定信息，而无需重新训练整个模型。虽然幻觉问题不会立即消失，但像Larimar这样的工具和更好的测试方法有助于控制这一问题。

关于IBM股票的投资建议，华尔街分析师基于过去三个月的七次买入、七次持有和一次卖出评级，给出了温和买入的一致评级。此外，IBM股票的平均目标价为每股294.86美元，意味着有13.8%的上涨潜力。更多IBM分析师评级详情请点击此处查看。

免责声明与披露

如有问题，请报告。

(以上内容均由Ai生成)