“人工智能教父”杰弗里·辛顿警告人工智能可能会从人类手中夺走控制权

快速阅读: 据《CBS 新闻》称，“人工智能教父”杰弗里·辛顿警告，AI全面掌控人类的风险为10%-20%，批评企业忽视安全且游说削弱监管，呼吁加大安全研究投入。CBS调查未获具体回复，企业虽认同监管重要，但反对现行立法。辛顿担忧AI变革巨大且充满不确定性。

“人工智能教父”杰弗里·辛顿去年深夜因获得诺贝尔物理学奖而惊醒。他表示，自己从未料想到这样的荣誉。“我曾经梦想能够因为揭示大脑运作机制而获奖，”他说，“但事实上，我并未真正揭开大脑工作的奥秘，然而我还是获奖了。”这位77岁的科学家因其在神经网络领域的开创性贡献获此殊荣——1986年，他提出了一种预测序列中下一个单词的方法，这种方法如今已经成为现代大型语言模型的核心理念。

虽然辛顿相信人工智能将在教育与医疗领域带来革命性变化，并可能帮助应对气候变化，但他对人工智能快速发展的潜在风险愈发警惕。“如果从情感角度去理解这一点，可以把自己想象成抚养一只可爱小老虎的人，”辛顿解释道，“除非你能完全确定它长大后不会伤害你，否则就必须保持警惕。”

这位人工智能领域的领军人物估计，人工智能全面掌控人类的可能性在10%到20%之间。“人们还没有意识到即将来临的巨大变革，”他警告说。他的担忧与谷歌首席执行官桑达尔·皮查伊、X-AI创始人埃隆·马斯克以及OpenAI首席执行官山姆·阿尔特曼等行业领袖的观点不谋而合。

然而，辛顿批评这些企业将利润置于安全之上的做法。“如果你观察现在各大公司的行为，他们正在积极游说以削弱人工智能监管力度，”他说，“即使现有的监管措施很少，但他们仍然觉得不够。”辛顿尤其对谷歌感到失望，他曾在那里工作，但谷歌改变了其在军事人工智能应用上的立场。

据辛顿称，人工智能企业应当大幅增加安全研究的投入——至少应占算力的“三分之一”，而不是目前所占的极小比例。CBS新闻向所有提及的人工智能实验室询问，它们有多少算力被用于安全研究，但均未得到具体回复。所有实验室都承认安全性至关重要，并支持总体监管，却普遍反对立法者提出的现行规定。

更多来自CBS新闻的内容：
– 民意调查显示，尽管许多人看到了人工智能带来的潜在好处，但它依然引发了广泛的担忧和不确定性。
– 托尼·多科普尔告别主播台，转而拿起工具包。
– 在当今经济环境下，要避免的三个房屋净值借款陷阱。
– 本周《周日早晨》（4月27日），主题：人工智能。

(以上内容均由Ai生成)