OpenAI 的最新模型比以前的模型更容易产生幻觉

快速阅读: 据《WebPro新闻》称，OpenAI最新模型在减少“幻觉现象”方面不如预期，表现更差。谷歌和苹果均承认无法完全解决该问题。分析人士警告，生成式AI可能进入“幻灭的低谷”，因无法满足过高的市场期待。

在最新的推理模型开发中，**OpenAI**遭遇了一些难题，尤其是在处理“幻觉现象”方面，公司发现很难弄清为何这些模型出现这种现象的频率更高。**O3**和**O4-Mini**是OpenAI目前最先进的两款人工智能模型，但遗憾的是，尽管许多新模型在减少幻觉现象上有所进步，这两款却反其道而行之，表现比之前的版本更差。

在一份技术报告中，OpenAI提到，部分原因是新模型整体生成的陈述或主张数量更多，这导致它们在正确回答问题的同时，也犯了更多错误。幻觉现象已成为行业的一大挑战，这是一个没有简单解决办法的问题，同时也在一定程度上削弱了对人工智能产业数十亿美元投资的价值。

谷歌首席执行官**桑达尔·皮查伊**曾在2023年中期公开表示，所有人工智能模型都会产生幻觉现象，而这一问题至今仍无彻底解决方案。“是的，”皮查伊承认，“幻觉现象是预料之中的事，而且领域内无人能够完全解决它。所有模型都存在这个问题。”

谈及解决该问题的努力时，皮查伊提到这是团队热烈讨论的话题，并表示他们将持续取得进展。同样，苹果首席执行官**蒂姆·库克**在被问及对苹果智能助手能否避免此类问题的信心时，也坦言不会声称人工智能不会产生幻觉。“不是100%。但我认为我们已尽力而为，包括深入思考我们在使用技术方面的准备情况。”库克回答道，“所以我很自信它会非常高质量。但说实话，这还不到100%。我绝不会声称它是100%的。”

分析师们日益担忧

分析人士越来越关注生成式人工智能的能力，其中幻觉现象尤为突出。加特纳公司的分析师**阿尔温·钱德拉塞卡兰**警告称，由于过度炒作、高昂成本以及看似无法解决的幻觉问题，组织即将进入“幻灭的低谷”。

“人们对生成式人工智能的期望和炒作都非常高，”钱德拉塞卡兰说道，“所以这不是技术本身不好，而是它无法满足企业因过去12到18个月市场上巨大炒作而抱有的过高期待。”

“我仍然相信生成式人工智能的长期影响将是相当显著的，但我们可能在某种程度上高估了它短期内的实际能力。”钱德拉塞卡兰补充道。

他特别指出，“尚未找到有效的幻觉解决方案”。随着OpenAI最新模型的幻觉现象变得更为严重而非改善，钱德拉塞卡兰的警告或许会被证明是非常准确的。

(以上内容均由Ai生成)