OpenAI联合创始人:AI行业需回归研究阶段
快速阅读: OpenAI联合创始人苏茨克韦尔认为AI行业需回归研究,挑战规模扩张传统观,指出数据与算力已达瓶颈,未来应聚焦如何提高模型泛化能力。
OpenAI联合创始人伊利亚·苏茨克韦尔认为,人工智能行业的潮流需要重新转向研究阶段。在周二发布的《德瓦尔凯什播客》节目中,这位被视为现代人工智能先驱的人物挑战了规模扩张可能是AI进步关键的传统观点。
科技公司已经投入数百亿美元用于购买GPU和建设数据中心,以提高其AI工具(无论是大型语言模型还是图像生成模型)的能力。普遍的看法是,拥有的计算资源越多或训练数据越多,AI工具就越智能。苏茨克韦尔在采访中表示,过去大约五年间,这一“配方”确实取得了显著成果。这种方法对公司而言也更为高效,因为它提供了一种简单且“风险极低”的投资途径,相比之下,将资金投入到可能无果而终的研究中显得更加冒险。
然而,苏茨克韦尔目前领导的Safe Superintelligence Inc.认为,这种模式正在逐渐失去动力。数据是有限的,而且组织已经掌握了大量的计算能力。他提到:“真的有人相信,虽然现在的规模已经很大,但如果再扩大100倍,一切都会完全不同吗?当然会有所不同,但我认为仅仅扩大100倍并不会带来彻底的变革。因此,我们又回到了研究时代,只不过这次是拥有大型计算机的研究。”
苏茨克韦尔并未否认计算资源的重要性,他指出计算仍然是研究的基础,也是在所有主要组织都遵循相同范式的情况下,成为行业“重要差异化因素”之一。不过,他认为,研究将是发现有效利用这些计算资源方法的关键。他还指出,一个需要更多研究的领域是如何让模型像人类一样通过少量信息或例子进行学习——即实现更好的泛化能力。“我认为最根本的问题在于,这些模型的泛化能力远不如人类,这显而易见,似乎是一个非常基本的问题。”他说。
(以上内容均由Ai生成)