英伟达领跑AI芯片市场,台积电成关键角色
快速阅读: 英伟达因AI硬件优势成为科技市场领头羊,高通宣布挑战AI芯片生产。专家讨论AI硬件重要性及未来发展方向,强调散热、定制化和低功耗设计。
在波兰克拉科夫拍摄的一张多重曝光照片中,可以看到手机屏幕上显示了微芯片和英伟达的标志(图片由 Jakub Porzycki/NurPhoto 通过 Getty Images 提供)。
随着人工智能快速重塑各行业,我们有必要探讨:推动这些变革的核心框架是什么?它们需要怎样的支持才能运作?
从根本上说,这些系统需要计算能力。它们需要特定类型的计算资源,因此也需要特定的硬件。虽然我们在会议和活动中经常讨论这些系统的数字能力,但社区也有责任更好地理解AI模型的实际物理“大脑”。我们的大脑由生物“灰质”构成,而它们的大脑则是由硅制成的。
GeeksforGeeks 解释了AI硬件的作用:
“AI处理器的并行处理能力加速了神经网络操作,使得聊天机器人和生成式AI等应用更加高效。如果使用通用处理器,如CPU甚至早期的AI芯片进行训练,将花费更长时间和更高成本。因此,要保持在研究和部署的最前沿是不可能的。”
除此之外,各种先进的逻辑门设计、计算共置和复杂的工程设计使开发人员能够将越来越多的功能集成到大型语言模型系统中。
市场反应
英伟达在过去一年内超越苹果和微软,成为美国科技市场的领头羊,这并非偶然。该公司在AI硬件革命中处于领先地位。最近,高通宣布计划挑战AI芯片生产的领先者,其股价随之上涨11%。
专家观点
我最近听了一场由福布斯白帽 Randall Forbes 主持的小组讨论,四位有经验的创新者就芯片设计、瓶颈、机遇及未来预测进行了深入交流。
Lane 提出了一个非常有用的问题:鉴于区块链技术同样需要大量的计算资源,创新者如何利用区块链时代的教训来发展AI基础设施?
Rajiv Khemani 的公司 Auradine 以低电压运行芯片,从而实现节能效果。“功率是电压平方的函数,还有电容和开关等因素。”他解释说,“我们以接近阈值电压的方式运行这些芯片。通常AI芯片运行在0.75伏左右,而我们将其降至0.3伏以下,从而获得显著的节能效果。然而,这样做面临产量、可靠性和频率下降等问题,只能通过定制电路设计来解决。”
Faraj Aalaei 认为半导体发展的主要问题在于设计周期过长且成本高昂。“曾经有大约200家初创公司在设计芯片,现在每年只有个位数。”他说,“我们的目标是缩短这一时间并使之平民化。我们正在开发自己的基础模型,并结合软件开发能力,类似于软件行业的做法。”
Seshu Madhavapeddy 强调了散热问题的重要性:“对于芯片而言,散热是一个关键问题。我们必须找到有效的方法来解决这个问题,以确保芯片的性能和寿命。”
若没有高效的散热手段,就无法在数据中心实现如此高性能运行。他指出:“这个问题不仅存在于数据中心,也出现在边缘计算领域。任何消费设备都有一定的性能水平,这往往取决于能从设备中排出多少热量。”这一问题促使公司内部开展了解决散热问题的研究。
Madhavapeddy透露:“我们发现了一个将新思维引入边缘设备和数据中心设备冷却的重大机会。”他补充说:“我们公司成员都来自硅基和半导体行业背景,亲眼见证了这个行业如何彻底改变了创新速度以及制造工艺和技术。”
他总结道:“我们的公司正在带来新的思维方式,创造极具颠覆性的技术,以改善边缘计算和数据中心的冷却效果。”
Dinesh Maheshwari,多家公司的顾问及Groq前首席技术官,认为计算模式已经过时,利益相关者需要减少开销并提高内存带宽。
谈到这些建议的背景,小组讨论了市场推广、接受度、需求与供应,以及Nvidia在这个领域的主导地位。“当你回顾芯片行业,Nvidia刚成立时,已经有公司在做图形芯片,Intel依然是行业的领导者。Nvidia找到了创造这种不连续性的方法。自2015年以来我一直在关注Nvidia,这一切并非偶然。他们对于GPU的潜力及其未来有着明确的思路,并投入了大量资金。他们有勇气坚持下去,直到达到现在的成就。但我认为Nvidia在训练领域的主导地位很难被撼动,因此我不建议初创公司试图取代他们。”Aalaei说道。
展望未来,Lane询问每位小组成员对摩尔定律的看法,该定律自1970年代提出,预测电路中的晶体管数量每年将翻一番。
Aalaei表示:“我在这一行工作了超过40年,这意味着我是从幼儿园开始的。”他提到了变化的持久性:“我一直认为,无论我在哪个领域,‘这就是终结’。然而,总会有创新发生。”他认为,未来在于更加灵活多样的定制芯片,减少开销需求。“我认为人们需要更快地开发芯片,因此当它们最定制化、低功耗且更直接时,这将是未来的方向。”
Maheshwari提到:“摩尔定律的放缓将通过其他计算单元,如光学计算来弥补。摩尔定律是一种推动固定架构或封装模式的蛮力方法,现在它迫使我们从其他维度进行创新,而创新的空间是足够的。”
Madhavapeddy则认为:“摩尔定律并没有放缓,因为每两年你仍然可以在相同的晶片面积内集成两倍数量的晶体管。但是,改变的是你不再获得功率效率。现在,你可以集成两倍数量的晶体管,但它们消耗的功率也增加了两倍,这在过去是不存在的情况。”
他探讨了一些解决方法:“如何确保能够持续提供更高的性能?通过在通用解决方案上的创新,使得额外产生的热量得到有效散发,而不牺牲密度。”
Khemani补充道:“我们已经标准化了芯片接口,以扩大规模,构建更大、更复杂的芯片,应对我们所面临的一些挑战。冷却也是另一个方面,众所周知,我们已经从通用计算转向加速计算,针对特定应用的加速是未来的方向,软件也需要相应调整以充分利用这些技术。”
这一切展示了人们在幕后对于硬件及其他领域即将迎来的又一个突破性年份的思考。敬请期待。
(以上内容均由Ai生成)