AI 的未来是……模拟？新贵获得 $100M 以更少的汁液推动类似 GPU 的大脑
快速阅读: 《The Register》消息，恩创（EnCharge）是一家AI芯片创业公司，声称其模拟人工智能加速器在功耗远低于传统桌面GPU的情况下，仍能与其匹敌。该公司开发了一种新型内存计算架构，用模拟电容器取代晶体管，号称每瓦性能比数字加速器高20倍。恩创的芯片源于普林斯顿大学的研究，并获得了多方支持。公司计划今年晚些时候推出首批量产芯片，适用于移动设备、PC和工作站。
采访AI芯片创业公司恩创（EnCharge）声称其模拟人工智能加速器在功耗仅为传统桌面GPU一小部分的情况下，可以与其匹敌。至少在理论上是这样。现在到了困难的部分：在现实世界中证明这一点。该公司宣称已开发了一种用于AI推理的新型内存计算架构，用模拟电容器取代了传统的晶体管，从而实现了比数字加速器（如GPU）高出20倍的每瓦性能优势。恩创首席执行官纳文·韦尔马（Naveen Verma）表示，恩创的推理芯片在仅1瓦功率下就能以8位精度提供150TOPS的人工智能计算。将其功率提升到4.5瓦时，韦尔马声称它可以与桌面GPU相媲美，但功耗仅为后者的百分之一。这至少是他们的宣传点。然而，这并非纯粹理论。恩创的芯片源自韦尔马在普林斯顿大学实验室的研发成果，并得到了美国国防高级研究计划局（DARPA）和台湾芯片制造巨头台积电的支持。韦尔马告诉我们，该企业已经制作出了几个测试芯片来证明这种架构可行。“我们正在构建的产品实际上是基于我研究实验室的基本技术，”他说。“我们有机会从根本上审视AI计算面临的挑战。”
在老虎全球、RTX等机构的1亿美元新B轮融资支持下，恩创计划在今年晚些时候推出首批用于移动设备、PC和工作站的量产芯片。韦尔马表示，真正的区别在于芯片处理计算的方式和位置。目前绝大多数生成式AI计算都是通过大量的乘积累加单元（MAC）完成的。在传统架构中，这些单元由数十亿个晶体管门构成，最终由于数字表示方式为二进制的一和零，这些单元操作的是离散值。韦尔马认为，通过使用连续值而非离散值，这种方法可以得到改进，并变得更加高效和精确。因此，恩创的MACs是由模拟电容器构建的，这些电容器可以根据其电荷水平代表任意连续信号值。而且因为电容器基本上只是由两块导体隔着介电材料组成，它们可以很容易地利用现有的CMOS技术蚀刻到硅片上，韦尔马说。
恩创设计的第二个要素是模拟计算在内存中进行。内存内计算并不是新概念。多年来，一些公司一直在努力将基于这一概念的AI加速器商业化。这个概念背后的思路是，通过嵌入计算（通常是一堆数学电路）到内存中，矩阵可以在原地计算，而不是必须移动数据。在恩创的设计中，模拟电容器现在负责执行这项计算，通过累加电荷完成。“当你驱动任何一个这些电容器时，耦合的电容线输出基本上会达到信号的平均值，”他说。“平均值是一种累积。它归一化为平均项的数量。”
实现这一目标用了八年的时间进行研究和开发，不仅包括开发内存内的模拟矩阵累加单元，还包括所有使它们可编程所需的其他组件。“我们认识到，当你有了这些基本的技术突破时，你还需要建立一个完整的架构，并构建所有的软件，”韦尔马说。谈到可编程性，恩创的芯片支持从卷积神经网络到大型语言模型和扩散模型背后的变压器架构的各种AI工作负载。作为一种推理芯片，其设计取决于目标工作负载。对于某些工作负载，内存容量和带宽可能对性能的影响比原始计算能力更大。例如，大型语言模型往往严重依赖于内存，内存容量和带宽通常对感知性能的影响大于其能产生的TOPS数量。因此，韦尔马表示，针对这些类型工作负载的恩创芯片可能会减少计算面积，以便为更大的内存总线腾出空间。作为一种推理芯片，其设计取决于目标工作负载。对于某些工作负载，内存容量和带宽可能对性能的影响比原始计算能力更大。
另一方面，对于像扩散模型这样的不太依赖内存的工作负载，你可能需要更多的计算能力来更快地生成图像。目前，恩创坚持使用M.2或PCIe扩展卡，以方便采用。我们之前已经看到过以这种形式封装的低功耗加速器，比如谷歌的Coral TPU和海洛的NPUs。从长远来看，这项技术可以适应更大、更高功耗的应用场景，韦尔马说。“从根本上讲，能够扩展到75瓦的PCIe卡等应用的能力是存在的。”预计首批量产的恩创芯片将在今年晚些时候生产出来，但他指出，在初创企业将其芯片集成到客户的设计中并建立软件管道之前，还需要一段时间才能广泛应用。
(以上内容均由Ai生成)
