Anthropic发布Claude Sonnet 4,支持100万词元
快速阅读: 9月18日,Anthropic宣布Claude Sonnet4语言模型支持100万上下文词元,提升至五倍,方便处理复杂任务和大规模数据,长上下文支持已进入公开测试阶段,未来将逐步开放。
9月18日,人工智能初创公司Anthropic宣布,其广受欢迎的Claude Sonnet4语言模型(LLM)现已支持高达100万个上下文词元。这一更新使Anthropic成为继Google Gemini之后,第二家提供如此长上下文支持的主流模型供应商。
此前,Claude Sonnet4 API的上下文限制为20万个词元,此次扩展将其提升至五倍,开发者可以在单个请求中提交超过75,000行代码的整个代码库。这一改变将极大方便开发者,特别是在处理复杂任务或大规模数据时。
现在,Claude Sonnet4的长上下文支持已在Anthropic的API和Amazon Bedrock上进入公开测试阶段,Google Cloud Vertex AI也将很快推出类似功能。不过,目前的长上下文支持仅向Tier4级别的开发者开放,并设定了自定义的速率限制。Anthropic表示,未来几周内将逐步向更多开发者开放这一功能。
随着上下文窗口的扩大,计算需求也随之增加。Anthropic为此推出了新的定价策略:对于20万个词元以下的提示,Sonnet4的费用为每百万输入词元3美元,每百万输出词元15美元;对于超过20万个词元的提示,费用提升为每百万输入词元6美元,输出词元22.5美元。值得注意的是,开发者可以通过使用快速缓存和批处理来有效降低成本,批处理甚至可以为1M上下文窗口的定价提供50%的折扣。
最近,在Reddit的一场问答会议上,OpenAI的领导层讨论了支持长上下文窗口的计划。OpenAI的首席执行官Sam Altman表示,尽管尚未发现用户对长上下文的强烈需求,但若有足够的兴趣,他们会考虑支持这一功能。OpenAI团队的Michelle Pokrass提到,他们原本计划在GPT-5中提供长达100万个词元的上下文支持,特别是针对API的用例,但由于GPU需求量大,未能如愿。
随着Anthropic推出1M上下文的支持,其在长上下文功能方面直接与Google Gemini竞争,这无疑给OpenAI带来了重新评估其产品路线图的压力。
(以上内容均由Ai生成)