AI创造力背后的秘密成分揭晓

快速阅读: Kamb和Ganguli研究发现，扩散模型通过局部性注意力机制展现创造力，类似人类神经机制，为理解人类和AI创造力提供新视角。

研究结果显示，Kamb 的假设得到了支持。“只要施加局部性，创造力就自动出现了；它完全自然地从动态中产生出来。”他说。他发现，扩散模型在去噪过程中受限的注意力机制——迫使模型专注于局部区域，无论这些区域最终如何融入最终产品——正是这种机制赋予了模型创造力。扩散模型中出现的多余手指现象也是模型过度关注局部像素生成而缺乏整体背景的直接产物。

接受采访的专家普遍认为，尽管 Kamb 和 Ganguli 的论文揭示了扩散模型创造力背后的机制，但仍有许多未知之处。例如，大型语言模型和其他人工智能系统也表现出创造力，但它们并不依赖局部性和等变性。

“我认为这是故事的重要组成部分，”Biroli 说，“但这不是全部。”

研究人员首次证明，扩散模型的创造力可以被视为去噪过程本身的副产品，可以用数学方式形式化并以前所未有的高精度预测。这几乎就像神经科学家将一群人类艺术家放入 MRI 机器，并发现一种可以用方程描述的共同神经机制一样。

这种与神经科学的类比可能不仅仅是比喻：Kamb 和 Ganguli 的工作也可能为人类思维的黑箱提供见解。“人类和人工智能的创造力可能没有那么不同，”佐治亚理工学院和 IBM 研究所的机器学习研究员 Benjamin Hoover 说，“我们根据自己的经历、梦想、所见所闻或欲望来组装事物。人工智能也是如此，它根据所见和任务要求来组装构建模块。”根据这种观点，无论是人类还是人工智能的创造力，都可能根植于对世界的不完整理解：我们都在尽力填补知识空白，偶尔会创造出既新颖又有价值的东西。或许这就是我们所说的创造力。

(以上内容均由Ai生成)