Hinton 表示，AI 系统现在可能会犯错误，但很快就会变得更聪明

快速阅读: 据《多伦多星报》称，多伦多，杰弗里·辛顿称AI在推理方面持续进步，但面对复杂问题仍会出错。他警告AI可能超越人类，引发失业、偏见等问题，需加强监管。

多伦多：如果你因为人工智能的错误而认为它永远无法超越人类，那么这项技术的先驱者表示，请再仔细想想。
周三，杰弗里·辛顿表示，人工智能在推理方面持续进步，并已达到许多专家在2025年所预期的技能水平。
但他也指出，每当这项技术出问题时，人们总是急于下结论，认为人工智能并不理解所提出的问题。
文章继续写道：“最近的研究表明，你给它一个简单的问题，它很可能回答正确。你给它一个稍微困难一点的问题，耗时更长，但最终也会回答正确。”这位刚刚获得诺贝尔奖的科学家说道。
“但如果你给它一个更困难的问题……它就会完全答错，人们就以此为例说：‘哦，它根本不会推理。’”
他认为，人工智能可以解决简单、直接的问题，但在面对更复杂的问题时，也会像人类一样出错。
虽然改进技术使其不再被复杂问题困扰将是一个挑战，但他表示这更像是一个障碍，而不是无法克服的难题。
他说，当这个问题被克服后，人类将有很多令人担忧的事情。
“我们将拥有非常聪明的人工智能助手……我们不再需要普通帮助，”他说。
“但还有一个问题是，这些系统在比我们更聪明之后，是否还需要我们。”
文章继续写道：当人工智能变得比我们更聪明时，他表示，这将表现为技术想出一些“你从未想过的方法”并做些事情。
“如果你和它们就任何事情争论，它们总能赢。”他说。
尽管赢得争论似乎微不足道，但辛顿对这项技术的潜在风险有多个担忧，远不止于此。
除了对人类存在的威胁外，他担心这项技术可能导致失业、偏见和歧视、回音室效应、假新闻以及自主致命武器和生物武器。
应对这些问题需要巨大的公众压力来制定有力的法规，以限制科技公司，他表示这些公司会反对任何监管措施。
他将这种情况比作气候变化。
“显然，大型石油公司不相信监管，公众需要被说服存在气候变化，这样他们才能向另一方的政客施压，让他们采取行动，”他说。“我认为情况是一样的。”
文章继续写道：他的言论是在多伦多科技周的一个小组讨论会上发表的，与会者包括尼克·弗罗斯特，他是辛顿的一位弟子，也是新兴AI公司Cohere的联合创始人。
他们的讨论是在多伦多大学举行的，辛顿是该校的荣休教授，弗罗斯特曾是他的学生。
尽管他们在人工智能方面持有不同看法，但他们仍然保持密切联系。例如，辛顿认为人工智能构成生存威胁，而弗罗斯特并不确定。
虽然他们都同意这项技术将颠覆就业市场，但他们对此的看法不同。
弗罗斯特表示，支撑人工智能系统的大型语言模型（LLMs）将自动化每个人坐在电脑前完成的20%到30%的工作。
“危险在于当它们完成80%的时候，”辛顿说。
“我认为这就是我们的分歧，”弗罗斯特回答道。“我认为存在极限，我认为我们现在在工作、家庭和个人生活中所做的许多工作，大型语言模型是无法做到的。”
加拿大通讯社于2025年6月25日首次发表了这篇报道。

(以上内容均由Ai生成)