Claude Sonnet 4 模型支持百万词元，Anthropic 扩展AI能力

快速阅读: 近日，人工智能公司Anthropic宣布其Claude Sonnet4模型支持高达100万个上下文词元，极大提升开发灵活性。新定价方案出台，20万个词元以下与以上的费用不同，批处理可降低成本50%。此举与Google Gemini竞争，给OpenAI带来压力。

人工智能初创公司 Anthropic 近日宣布,其备受关注的 Claude Sonnet4LLM 模型现已扩展支持高达100万个上下文词元。此前,该模型的 API 仅支持20万个词元。此次扩展使得开发者可以在单个请求中传输超过75,000行的代码,极大提高了使用的灵活性和便利性。

目前,扩展后的长上下文支持已经在 Anthropic 的 API 和 Amazon Bedrock 上开始公开测试,Google Cloud Vertex AI 也将在不久后上线这一功能。然而,这一长上下文功能目前仅限于 Tier4的开发者使用,并且需要遵循自定义的速率限制。Anthropic 表示,未来几周内将会向更多开发者开放此功能。

为应对更大的词元窗口对计算能力的需求,Anthropic 同时推出了新的定价方案。对于20万个词元以下的提示,Sonnet4的费用为每百万个输入词元3美元,每百万个输出词元15美元。而对于超过20万个词元的提示,费用则为每百万个输入词元6美元,每百万个输出词元22.5美元。开发者还可以通过使用快速缓存和批处理技术来降低成本,其中批处理可为1M 上下文窗口的定价提供50% 的折扣。

在最近的一次 Reddit AMA 会议上,OpenAI 的高层讨论了为其模型支持长上下文窗口的可能性。OpenAI 的首席执行官 Sam Altman 表示,目前他们尚未发现用户对长上下文的强烈需求,但如果有足够的用户兴趣,他们会考虑增加支持。由于计算能力的限制,OpenAI 团队希望将重心放在其他优先项目上。而 OpenAI 团队成员 Michelle Pokrass 也提到,他们曾希望在 GPT-5中支持长达100万个词元的上下文,尤其是针对 API 的应用场景,但因 GPU 的需求量过大而未能实现。

Anthropic 的1M 上下文支持使其在长上下文功能方面与 Google Gemini 形成了直接竞争,这也给 OpenAI 带来了重新考虑其产品路线图的压力。

划重点: 🆕 Anthropic 的 Claude Sonnet4模型现支持高达100万个上下文词元,极大提升了开发灵活性。

💰 新定价方案出台,20万个词元以下与以上的费用分别有所不同,开发者可通过批处理降低成本。

🤖 OpenAI 对长上下文的需求表示关注,未来可能会调整产品路线以应对竞争。

(以上内容均由Ai生成)