Nvidia 的新工具让在计算机上运行 AI 变得轻而易举

快速阅读: 据《CNET 公司》称，英伟达推出NIM微服务工具，让RTX显卡用户可在本地设备部署AI模型，适用于多种场景且成本更低。同时，英伟达应用新增Project G-Assist AI助手，帮助优化游戏性能及解答游戏相关问题。

英伟达在周二的一篇博文中宣布，推出了一套新的AI工具，名为“英伟达NIM微服务”。这套工具能够让拥有RTX显卡（包括近期发布的50系列）的用户，在自己的设备上更轻松地部署AI模型。这些模型可用于文本、图像和代码生成，以及其他应用场景，如语音处理、PDF提取和计算机视觉。其目标是尽可能简化操作流程。

举例来说，如果你拥有一台搭载RTX显卡的设备，只需下载相应的NIM应用程序即可运行所需模型。例如，想要转录课堂讲座？只需下载Parakeet应用即可；如果录制的歌曲人声模糊不清，下载StudioVoice应用便可解决问题。这些本地AI模型还预计能够在即将推出的英伟达DGX专业AI电脑系列上运行。

本地运行AI模型的一大优势在于长期来看可以节省成本。当你使用像OpenAI的ChatGPT或Google的Gemini这样的云服务时，生成内容前可能会遇到一些限制。对于大多数普通任务，这些限制并不会触发，但在某些情况下，成本可能会显著增加。而本地模型则对可生成的内容类型限制较少，且数据保留在设备上，这对处理敏感材料尤其有用。

截至目前，英伟达尚未对置评请求作出回应。作为人工智能领域的领军企业，英伟达的芯片为众多顶级AI模型的发展提供了支持，其中包括OpenAI、Google和DeepSeek等公司的模型。由于几乎所有主要科技公司都依赖英伟达的硬件来推动AI进步，这使得该公司的市值一度飙升至历史新高，去年甚至突破了3万亿美元大关，尽管目前有所回落，但仍保持在约2.8万亿美元。

然而，通过数千英里之外的服务器运行所有AI服务并非易事。因此，许多公司开始尝试在设备上本地化实现部分AI功能。例如，iPhone 16和Google Pixel 9无需借助云端GPU集群即可生成图像、编辑照片或总结文本，从而提升了操作速度和效率。PlayStation 5 Pro也利用AI技术提高了图像质量和性能，而有传闻称Nintendo Switch 2也将采用类似的技术。像英伟达、AMD和高通这样的芯片制造商正在努力开发能够处理更多AI任务的新硬件，以继续吸引大型科技公司的投资。

尽管与NIM无关，英伟达也为游戏玩家带来了新消息。在英伟达应用中新增了一个名为Project G-Assist的实验性AI助手。G-Assist可以帮助你更好地优化应用程序和游戏，允许实时诊断并提供性能优化建议。因此，如果你希望从《刺客信条：影子》中榨取出每一分性能，G-Assist将会是一个得力助手。此外，G-Assist还配备了一个Google Gemini插件，这意味着如果你有关于《Apex Legends》最佳角色选择或《Diablo 4》玩法技巧的问题，都可以当场获得答案。

(以上内容均由Ai生成)