高通发布新款骁龙芯片,每秒支持220个令牌处理
快速阅读: 高通高级副总裁杜加·马拉迪透露,Snapdragon 8 Elite Gen 5 使用3B参数小型语言模型时,每秒支持220个令牌,成为最快移动SoC。
在与高通技术规划、边缘解决方案和数据中心的高级副总裁兼总经理杜加·马拉迪的对话中,他告诉我,Snapdragon 8 Elite Gen 5 在使用 3B 参数的小型语言模型时,每秒可支持高达 220 个令牌。这些数据使得 Snapdragon 8 Elite Gen 5 成为目前运行推理模型最快的移动 SoC,相比之下其他已公布的数据。
(以上内容均由Ai生成)