图灵奖得主理查德·萨顿：对AI的恐惧被夸大，去中心化协作实现AI与人类繁荣

快速阅读: 2024年图灵奖得主理查德·萨顿在外滩大会上表示，AI的恐惧被夸大，人类繁荣需通过去中心化协作实现，强调经验时代的重要性及持续学习与元学习技术的发展。

2024年图灵奖得主、“强化学习之父”理查德·萨顿(Richard Sutton)。

9月11日上午,2025 Inclusion·外滩大会在上海黄浦世博园区开幕。2024年图灵奖得主、“强化学习之父”理查德·萨顿(Richard Sutton)在开幕式上针对AI带来偏见、失业甚至人类灭绝的担忧表示,这种对人工智能的恐惧被夸大了。人工智能和人类繁荣将来自去中心化协作,“协作并非总能实现,却是世间一切美好事物的源泉,我们必须寻求协作、支持协作,并致力将协作制度化。” 被誉为“AI教父”的计算机科学家、诺贝尔奖得主杰弗里·辛顿(Geoffrey Hinton)曾预测,随着企业用人工智能取代工人,AI将引发失业率上升与企业利润激增。尽管目前裁员尚未激增,但越来越多的证据表明,人工智能正在压缩入门级岗位。

对于AI带来偏见、失业甚至人类灭绝的担忧,萨顿则认为,这种对人工智能的恐惧被夸大了,并且是被某些从中获利的组织和个人煽动起来的。他以经济社会的运行为例,只有当每个人有不同的目标和能力,经济才能运行得最好。同样,不同目标的智能体可以通过去中心化的协作实现双赢。“人类最卓越的超能力,就在于比其他任何动物都更擅长协作。人类最伟大的成功在协作本身。”萨顿表示,人工智能和人类繁荣将来自去中心化协作。“协作并非总能实现,却是世间一切美好事物的源泉,我们必须寻求协作、支持协作,并致力将协作制度化。” 萨顿表示,今天大多数机器学习的目标是把人类已有的知识转移到静态、缺乏自主学习能力的AI 上。但人类数据红利正逼近极限,“我们逐渐达到人类数据的极限,现有的方法不能生成新的知识,不适合持续学习,而持续学习对智能的效用至关重要。”他认为,人类正进入“经验时代”,需要由智能体与世界直接交互生成的一种新数据源,这正是人类和其他动物的学习方式,是近期AlphaProof在国际数学奥林匹克斩获银牌的路径。

“经验”是指观察、行动和奖励,这三种信号在智能体与世界之间来回传递。“知识来自于经验,可以从经验中学习。一个智能体的智能程度取决于它能预测并控制自身输入信号的程度。经验是一切智能的核心与基础。”他表示,强化学习带领我们进入了新的经验时代,但要释放全部潜力,还需要两项目前尚不成熟的技术——持续学习(continual learning)和元学习(meta-learning)技术。

萨顿将宇宙的历史分为四个时代:粒子时代、恒星时代、复制者时代和设计时代。他认为人类的独特之处在于“把设计推向极致”,创造出能自己设计的事物。人类至少是催化剂,是助产士,更是开启宇宙第四大时代“设计时代”的先驱。他认为人类终将真正理解智能,并借助技术创造智能。当前人类的智力水平很快将会被超级人工智能或超级智能增强的人类远远超越,权力和资源会流向最聪明的智能体。

(以上内容均由Ai生成)