谁需要大型 AI 模型?

发布时间:2025年7月9日    来源:szf
谁需要大型 AI 模型?

快速阅读: 据《福布斯》最新报道,Cerebras CEO称AI快速演变,小型模型虽成本低,但代码生成等任务仍需大模型。Cerebras推出支持131K上下文的Qwen3-235B,速度比GPU快30倍,成本仅为1/10。

Cerebras Systems 首席执行官兼创始人安德鲁·费尔德曼表示,人工智能世界正在迅速演变,尤其是在 DeepSeek 及其追随者推出之后。许多人得出结论认为,企业并不真正需要 OpenAI、Meta 和 Google 所宣传的大型昂贵 AI 模型,而是转而关注较小的模型,例如拥有 24 亿参数的 DeepSeek V2-Lite,或者拥有 170 亿参数的 Llama 4 Scout 和 Maverick,这些模型可以在较低成本下提供不错的准确性。然而,结果发现,对于程序员来说并非如此,或者说那些能够并将会取代许多程序员的模型。同样,小型化理念也不适用于推理或代理 AI,这是下一个大趋势。

AI 代码生成器需要能够处理更宽上下文窗口的大模型,可以容纳大约 10 万行代码。支持代理 AI 和推理 AI 的专家混合(MOE)模型也很大。但这些庞大的模型通常非常昂贵,在现代 GPU 上每百万输出标记的成本约为 10 到 15 美元。这就是新型 AI 架构进入 GPU 领域的机会。

Cerebras Systems 推出基于 Qwen3-235B 的大型人工智能

Cerebras Systems(Cambrian-AI Research 的合作伙伴)已宣布支持大型 Qwen3-235B,支持 131,000 个上下文长度(约 200 至 300 页文本),是之前可用量的四倍。在巴黎的 RAISE 峰会上,Cerebras 引用了阿里巴巴的 Qwen3-235B,该模型使用高度高效的专家混合架构,实现了卓越的计算效率。但真正的新闻是,Cerebras 只需每百万输入标记和每百万输出标记 0.60 美元即可运行该模型,仅为同类封闭源代码模型成本的十分之一。虽然许多人认为 Cerebras 的晶圆级引擎价格昂贵,但这些数据颠覆了这种看法。

代理是一个经常需要非常大模型的应用场景。Cerebras 我经常被问到的一个问题是,如果 Cerebras 这么快,为什么他们没有更多的客户?一个原因是他们之前并未支持大上下文窗口和更大的模型。例如,寻求开发代码的人不希望将问题分解成小片段以适应 32KB 的上下文。现在,这个销售障碍已经消失了。

“我们看到开发者对具有长上下文的前沿模型有巨大的需求,特别是用于代码生成,”Cerebras Systems 首席执行官兼创始人安德鲁·费尔德曼表示。“Cerebras 上的 Qwen3-235B 是我们第一个能与 Claude 4 和 DeepSeek R1 等前沿模型相媲美的模型。并且拥有完整的 131K 上下文,开发者现在可以在生产级编码应用中使用 Cerebras,并在不到一秒内获得答案,而不是在 GPU 上等待几分钟。”

Cerebras 不仅快 30 倍,而且比 GPU 便宜 92%。

Cerebras Systems 将其上下文长度支持从 32K 扩展到了 131K 个标记——这是 Qwen3-235B 支持的最大值。这种扩展直接影响模型在大型代码库和复杂文档上的推理能力。虽然 32K 的上下文足以满足简单的代码生成用例,但 131K 的上下文使模型能够同时处理数十个文件和数万行代码,从而实现生产级应用程序的开发。

当运行 Qwen3-235B 时,Cerebras 的成本仅为 GPU 的 15 至 100 倍。

Qwen3-235B 在需要深度逻辑推理、高级数学和代码生成的任务中表现出色,因为它能够在“思考模式”(用于高复杂度任务)和“非思考模式”(用于高效的一般对话)之间切换。131K 的上下文长度使模型能够处理大型代码库(数万行代码),并支持代码重构、文档编写和错误检测等任务。

Cerebras 还宣布进一步扩展其生态系统,得到了亚马逊 AWS 的支持,以及 DataRobot、Docker、Cline 和 Notion 的支持。AWS 的加入意义重大。

Cerebras 已将 AWS 加入其云产品组合中。

这将走向何方?

大型 AI 一直在不断缩小并优化,性能、模型大小和价格都有数量级的提升。这一趋势无疑将继续,但会不断被能力、准确性、智能性和跨模态的全新功能的增加所抵消。因此,如果你想使用去年的 AI,你已经很好了,因为它的价格还在下降。

但如果你想使用最新的功能和特性,你需要最大的模型和最长的输入上下文长度。

这就是 AI 的阴阳两面。

(以上内容均由Ai生成)

关键词: Ai大型模型

你可能还想读

本周科技大事件:谷歌发布Pixel 10,Gamescom揭晓重磅游戏

本周科技大事件:谷歌发布Pixel 10,Gamescom揭晓重磅游戏

快速阅读: 谷歌推出Pixel 10手机及Pixel Watch 4,新增卫星紧急通讯、可更换电池和屏幕、抬手通话等功能,屏幕亮度达3000尼特,还将与斯蒂芬·库里合作推出AI健康和健身教练服务。 谷歌本周在“由谷歌制造”活动中推出了Pix […]

发布时间:2025年8月23日
SK海力士凭借HBM激增首次超越三星,领跑全球内存市场

SK海力士凭借HBM激增首次超越三星,领跑全球内存市场

快速阅读: 据《《韩国先驱报》》称,7月20日,SK海力士首登全球内存芯片市场榜首,受益于AI产品和HBM芯片领先地位。其季度利润达9.2万亿韩元,远超三星。 据韩联社报道,7月20日,韩国京畿道伊川,SK海力士首次登上全球内存芯片市场榜首 […]

发布时间:2025年8月1日
STAN 从谷歌、万代南梦宫和其他公司筹集了 850 万美元

STAN 从谷歌、万代南梦宫和其他公司筹集了 850 万美元

快速阅读: 据《印度教业务线》称,STAN获850万美元融资,由万代南梦宫等机构投资。计划拓展印度市场,加强AI功能与创作者工具。平台用户超2500万,专注移动端社交游戏。 记者获悉,8月1日,社交游戏平台STAN宣布完成850万美元的新一 […]

发布时间:2025年8月1日
“这改变了一切”:谷歌的人工智能模式迫使品牌重新考虑搜索策略

“这改变了一切”:谷歌的人工智能模式迫使品牌重新考虑搜索策略

快速阅读: 据《营销周》称,谷歌推出AI搜索模式,减少外部链接,提升对话式回答。品牌需调整策略,重视内容质量与品牌权威。此变化影响营销方式,竞争加剧。 据谷歌官方消息,7月29日,谷歌在英国推出了基于人工智能的搜索功能AI模式,此前该功能已 […]

发布时间:2025年8月1日
在 Android 上用更智能的应用程序替换 Google Assistant

在 Android 上用更智能的应用程序替换 Google Assistant

快速阅读: 据《电话竞技场》称,据报道,用户可从Google Play下载Meta AI应用,安装后需检查版本是否为230.0.0.36.164或更高。操作方法:进入设置,选择应用,查看Meta AI信息页底部的版本号。 据媒体报道,用户现 […]

发布时间:2025年8月1日
Xero 的英国董事总经理回击人工智能正在抢走会计工作的说法

Xero 的英国董事总经理回击人工智能正在抢走会计工作的说法

快速阅读: 据《UKTN(英国科技新闻)》称,英国科技媒体UKTN报道,Xero英国总经理凯特·海沃德表示,会计行业无需过度担忧AI自动化。尽管四大事务所裁员,但Xero仍持续投资AI技术,提升效率与服务质量。 据英国科技新闻网站UKTN报 […]

发布时间:2025年8月1日
Reddit 计划在搜索引擎市场大力推动人工智能与谷歌竞争:报告

Reddit 计划在搜索引擎市场大力推动人工智能与谷歌竞争:报告

快速阅读: 据《商业标准》称,Reddit CEO表示,公司正将平台转型为搜索引擎,整合AI功能,提升用户体验。Reddit Answers用户已超600万,计划全球推广。 据《The Verge》报道,7月11日,Reddit首席执行官史 […]

发布时间:2025年8月1日
Meta 超出预期,为“个人超级智能”做准备

Meta 超出预期,为“个人超级智能”做准备

快速阅读: 据《RCR无线》称,Meta二季度营收475.2亿美元,净利润183亿美元。CEO扎克伯格称将打造个人超级智能,但数据中心扩容遇挑战。公司计划2025年支出达1140-1180亿美元。 据媒体报道,7月25日,美国加州,社交媒体 […]

发布时间:2025年8月1日