Hinton态度大反转，AI应设计为“母性”角色

快速阅读: Hinton对AGI态度180度转变，由“养虎为患”转为“母子共生”，强调AI设计应植入“母性本能”。他认为AI将比人类更聪明，但不必控制，而应引导其正向发展，批评马斯克和奥特曼忽视AI安全。

明敏鹭羽发自凹非寺量子位 | 公众号 QbitAI Hinton突然对AGI变乐观了。

对于AI,他几周前还觉得是养虎为患,最新采访却改口说是一种母亲和婴儿之间的亲密共生关系。

大多数专家认为5-10年后人工智能会比人类更聪明。

问题是更聪明事物被不聪明事物控制这种例子实在是太少了,可能政客和科学家之间是这种关系(笑)。

但是我知道唯一的例子是母亲和婴儿。

不过AI才是母亲,人类是婴儿。

我们不必去尝试支配超级智能,应该是在设计之初就给它植入“母性本能”,这样AI就会本能地希望我们幸福,从而实现共存。

对于AI的发展,也不必踩刹车,应该要引导正确发展方向。

这和他过去3年来对AGI的态度,几乎是180度大转变。

2023年,他为了警告AI风险,从在任10年的谷歌离职,就是以更中立客观的角度向全世界布道AI的利弊。

已经77岁高龄但仍旧奔走于全世界,呼吁人类可控地推进AI发展。就在今年7月的WAIC上,他还以“养虎为患”的例子在中国阐释了AI风险。

才过去不到2个月就发生这样的变化。难道是他看到了什么? 也许Ilya向他展示了什么? 如上最新观点来自Hinton最新访谈,此外他还分享了AI发展的更多理解:比如有机会一定要警告马斯克奥特曼、现在没有1家AI公司足够重视AI安全…… 重新审视AI风险,但还是要喷马斯克奥特曼 Hinton接受了来自著名记者Katie Couric的独家访谈,整个对话过程长达近一个小时,核心探讨的还是Hinton自谷歌离职后屡屡提及的AI风险。

Hinton将AI风险分为两种: 短期风险长期风险他强调自己主要担忧并非是短期内的滥用AI,当然这也很重要,而是人工智能本身接管人类的可能性。

在很多人眼里,AI比人类聪明并接管整个世界,只是科幻小说的存在,但包括他在内的许多专家都认为,这其实是非常现实的长期风险。

也许就在未来的5到20年内,AI就会比人类聪明得多。

聪明程度的差异之大让人类举步维艰,要反过来控制比自己更聪明的智慧生物,Hinton表示他唯一知道的例子就是母亲和婴儿。

也就是说将AI设计成母亲的存在,而人类将会是AI庇护下的婴儿。

这和他在几个月前WAIC上对人类和AI关系的认识,可以说是截然不同。

当时他将AI比喻为人类饲养的小虎崽,等待他长大,就能轻而易举干掉人类。

要杜绝这种可能性,人类要么只能训练它无法伤害人类,要么就提前干掉它。

后者显然在当下是不现实的,我们的生活已经被AI完全渗透影响,那么我们只能选择引导AI。

朝什么方向呢?母亲和婴儿。

在设计之初,就为AI赋予强大的“母性本能”,让它们支持人类的成功,这样即使未来有一天,它变得更加聪明、更加强大,也能很好地与人类共存。

这种全新的设计思路,也许将彻底改变传统路径上人类试图统治AI的思维模式,成为一种普适性地训练AI善良特性的方法,并在不同智能水平的模型上得以实现。

不过,Hinton在此前的上海之行交流中也提及,这是他所希望看到的,是值得去深入探究的可能性,但也可能无法实现。

这需要所有AI研发者一起通力合作,而马斯克和奥特曼显然不在此列。

Hinton表示,假如他有机会和他们两人共处一室,那么他会相当直白地说: 你们很清楚,你们正在发展的事业很有可能正在消灭人类。

Hinton点评了当下几家AI公司在缓解风险上的表现,简单来说没有一家做的足够好: Anthropic:比其他家投入更多精力在AI安全但是也还不够 OpenAI:初心是对的,但是现在已经变味了 Meta和xAI:在底层开发时都不关注AI安全具体点就是,他认为OpenAI的初衷是安全开发AI,结果现在的重心却偏移到如何让AI更聪明,而不是如何让它更安全。

奥特曼转向快速开发AI的道路,让Hinton乃至马斯克都很反感,马斯克此前还曾起诉奥特曼没能履行最初的承诺。

不过马斯克也是一丘之貉,Hinton指出,马斯克自己在开发Grok的过程中,也没有过多关注安全问题,马斯克应该将他对待奥特曼的逻辑应用到自己身上。

而他们二人之所以这样做,主要原因还是因为贪婪和自负,渴望通过AI攫取巨额财富,并希望成为第一个创造出超级智能的人。

他们追逐的是创造超乎人类智能的兴奋感,而非守护人类的责任感。

AI的正向作用看医疗,但是也会取代一些工作 AI应用落地这一方面,Hinton还是一如既往看好医疗领域。这一定程度上和Hinton的个人经历有关,他的两任妻子都死于癌症,因此他非常希望AI能在医学领域有所突破。

总结来看Hinton认为值得关注的方面有5个: 医学影像解读加速药物研发个性化和精准医疗提升医疗系统效率更高情感关怀首先在医学影像解读上,Hinton觉得AI能比人类医生获取更多信息。

比如AI可以通过分析眼底(视网膜)的扫描图像,就能准确预测一个人患心脏病的风险,甚至能判断患者性别,这些都是人类做不到的。

他承认自己在2016年预测“AI将取代所有医学影像医生”这有点过于乐观,但是他坚信这只是时间问题,未来AI辅助诊断将成为常态。

其次在新药研发上,Hinton提到了DeepMind在预测蛋白质折叠上的突破,蛋白质的3D结构决定了其功能,能够准确预测对于研发与特定靶点相互作用的新药至关重要。

比如在癌症领域,靶向药物比化疗这种传统治疗手段给人体带来的伤害更小。这项技术也将催生一个全新的产业,为我们带来一系列更有效的药物(不过不是1-2年之内)。

然后在个性化和精准医疗方面。AI可以整合大量医疗数据(包括基因组信息、病史、病历、家族病史),从而更好地实现疾病的早期诊断和个性化治疗。

以及AI也能解决医疗系统管理问题,比如通过数据分析,AI可以帮助医生更准确判断患者应当何时出院,这样能在确保患者得到充分治疗同时又优化医院床位的使用效率。