AI

层次推理模型HRM实现AI推理速度百倍提升

发布时间:2025年9月2日    来源:szf
层次推理模型HRM实现AI推理速度百倍提升

快速阅读: 新加坡初创公司Sapient Intelligence推出创新AI架构HRM,通过层次化设计在复杂推理任务中超越大型语言模型,数据需求和模型规模更低,推理速度提升100倍。

新加坡初创公司 Sapient Intelligence 最近推出了一种创新的人工智能架构,名为 “层次推理模型”(HRM)。该模型在复杂推理任务中能够与现有的大型语言模型(LLMs)相媲美,甚至在某些情况下表现更佳,且其数据需求和模型规模均远低于传统模型。HRM 的设计理念源自人类大脑,旨在通过不同的思维系统实现高效推理。

当前的 LLMs 在解决复杂问题时,通常依赖于链式思维(CoT)方法,通过生成一系列文本步骤来进行推理。虽然这一方法在一定程度上提升了模型的推理能力,但也存在明显的不足。研究人员指出,链式思维依赖于人为定义的步骤,一旦出现错误,可能导致整个推理过程的失败。因此,Sapient Intelligence 的研究团队提出了一种新方式,即 “潜在推理”。该方式使得模型能够在内部抽象的空间中进行推理,而不是仅仅依赖于文本生成。

HRM 由两个相互作用的模块构成:一个是高层模块,负责缓慢而抽象的规划;另一个是低层模块,进行快速而详细的计算。这种层次化的设计使 HRM 在进行深度推理时,无需依赖大量的输入数据。测试结果表明,HRM 在处理如抽象推理和复杂数独等高难度任务时,取得了优异的成绩,展现了其在复杂任务中的强大能力。

除了准确性,HRM 还在推理速度方面表现出色。根据 Sapient Intelligence 的创始人王冠的介绍,HRM 在执行特定复杂推理任务时,能够实现 “任务完成时间的100倍提速”。这意味着 HRM 能够在边缘设备上快速进行强大的推理计算,显著降低企业的时间和成本。

展望未来,Sapient Intelligence 正在努力将 HRM 发展为一种更通用的推理解决方案,计划将其应用于医疗、气候预测和机器人等多个领域。这一发展标志着,未来 AI 的成功之道,可能并不在于简单地扩大模型规模,而是借鉴人类大脑的结构,开发出更智能、更高效的推理架构。

划重点: 🚀 HRM 通过新型层次化架构,在复杂推理任务中超越大型语言模型,且需要更少的数据。

🔍 HRM 模型结合高层和低层模块,提升了推理速度和效率。

💼 未来 AI 可能更多地借鉴人类大脑的设计,而非单纯依赖于规模扩大。

(以上内容均由Ai生成)

你可能还想读

韩半导体出口创纪录,AI芯片繁荣掩盖改革风险

韩半导体出口创纪录,AI芯片繁荣掩盖改革风险

快速阅读: 韩国今年半导体出口预计超1650亿美元,前九月已达1197亿美元,同比增长17%,占总出口23%。增长因人工智能服务器需求和内存价格上涨,在全球经济放缓中展现韧性。 据韩国贸易、工业和资源部本周消息,今年韩国半导体出口预计将达到 […]

发布时间:2025年10月24日
纽约消防局启用AI摄像头,提前预警森林火灾

纽约消防局启用AI摄像头,提前预警森林火灾

快速阅读: 纽约市消防局推出太阳能驱动、AI支持的烟雾检测摄像头,可在火势蔓延前及时发现火灾,计划扩展至五个行政区,增强早期预警能力,保护高风险区域安全。 纽约市消防局(FDNY)的灌木火灾特遣队最近推出了最新的太阳能驱动、人工智能支持的烟 […]

发布时间:2025年10月24日
谷歌云TPU助力Anthropic扩大Claude训练规模

谷歌云TPU助力Anthropic扩大Claude训练规模

快速阅读: Anthropic与Google深化合作,扩大计算能力,支持Claude满足快速增长的客户需求,巩固行业领先位置。 Anthropic 和 Google 有着长期的合作关系,此次合作的进一步扩展将帮助我们继续扩大所需的计算能力, […]

发布时间:2025年10月24日
中兴呼吁重耦合计算与网络,推动AI可持续发展

中兴呼吁重耦合计算与网络,推动AI可持续发展

快速阅读: 中兴通讯CEO徐子阳呼吁电信与计算行业重新耦合,以适应AI需求增长,提出AI Core战略,展示多款支持AI的产品,强调可持续发展与成本控制,与泰国AIS合作提升网络效率。 近年来,电信和计算行业纷纷采取解耦策略,通过技术与产品 […]

发布时间:2025年10月24日
微软推出新AI角色Mico,赋予Copilot虚拟助手新面貌

微软推出新AI角色Mico,赋予Copilot虚拟助手新面貌

快速阅读: 微软推出新AI角色Mico,作为Copilot虚拟助手的化身,旨在为AI聊天机器人增添个性,同时保持友好而不谄媚的形象,通过表情和动作响应用户情绪,目前仅限美国用户使用。 近三十年前令微软Office用户感到厌烦的动画纸夹Cli […]

发布时间:2025年10月24日
英特尔Q3营收137亿美元,同比增长3%成功扭亏为盈

英特尔Q3营收137亿美元,同比增长3%成功扭亏为盈

快速阅读: 英特尔公布2025年第三季度财报,营收137亿美元,同比增长3%,毛利率达38.2%。各业务部门表现不一,CCG营收增长5%,DCAI和代工业务略有下降。期间获多笔重大投资,推进技术创新和市场扩展。 感谢IT之家网友HH_KK、 […]

发布时间:2025年10月24日
微软推出AI伴侣Mico,致敬经典Clippy大眼夹

微软推出AI伴侣Mico,致敬经典Clippy大眼夹

快速阅读: 微软推出AI聊天机器人Mico,具有表情丰富的头像,能倾听互动并根据用户操作变换颜色。首次在美国、加拿大和英国推出,支持“Learn Live”模式,旨在加深人际联系。 10 月 24 日消息,北京时间今天凌晨,微软推出了一款名 […]

发布时间:2025年10月24日
英特尔107制程产能紧张,AI PC出货预期不变

英特尔107制程产能紧张,AI PC出货预期不变

快速阅读: 英特尔在2025Q3财报电话会议中宣布,Intel 10/7制程节点供应紧张,尽管第三季度晶圆交付量超出预期,仍无法满足客户需求。英特尔计划利用现有库存并引导客户转向其他产品,预计2026年一季度供应更紧。同时,英特尔维持年底前 […]

发布时间:2025年10月24日