xAI 雇用零工来提升 Grok 在关键的 AI 排行榜上的地位,并在编码方面“击败”Anthropic 的 Claude
快速阅读: 《商业内幕》消息,美国科技公司争夺AI编码工具榜首,xAI通过Scale AI提升Grok排名。WebDev Arena是重要排行榜,但排名未必反映真实能力。
据《商业内幕》报道,7月11日,美国,科技公司正激烈竞争,以打造最佳AI编码工具。埃隆·马斯克的AI公司xAI使用承包商通过Scale AI的Outlier平台训练Grok进行编码任务,目标是登上WebDev Arena排行榜首位,超越Anthropic的Claude 3.7 Sonnet工具。
WebDev Arena是由LMArena推出的有影响力的排行榜,AI模型在此进行网页开发挑战,用户投票选出胜者。一位参与该项目的承包商透露,Scale AI的入职文档中明确指出,任务目标是使Grok成为排名第一的模型,该文档在7月初仍处于活跃状态。承包商被指示生成并优化前端代码,以击败Sonnet 3.7 Extended,这是对Anthropic的Claude模型的引用。
xAI没有回应《商业内幕》的评论请求。在缺乏普遍认可标准的情况下,排行榜排名和基准分数成为AI行业的非正式记分牌。对于OpenAI和Anthropic等实验室而言,登上这些排行榜有助于吸引资金、新客户、有利可图的合同和媒体关注。
本月早些时候,Anthropic联合创始人本·曼恩在“无先验”播客上表示,其他公司已宣布“红色警报”,试图匹配Claude的编码能力。此前,《商业内幕》曾报道,Meta等竞争对手正在内部使用Anthropic的编码工具。
7月9日,最新模型Grok 4发布前几天,Scale AI的仪表板和项目说明未明确说明该项目训练的是哪个版本的Grok。Grok 4发布后的第二天,马斯克在X上发帖声称,新模型在修复代码方面“比Cursor更好”,指的是流行的AI辅助开发者工具。
Scale AI表示,他们不会直接在测试集上训练模型以过度拟合模型,从不复制或重复使用公开的基准数据用于大型语言模型的训练,正在进行一项“使用公开信息来填补已知性能差距”的标准数据生成项目。
LMArena的CEO阿纳斯塔西奥斯·安吉洛普洛斯表示,虽然他并不了解具体的Scale项目,但聘请承包商帮助AI模型提升公共排行榜排名是行业标准做法。排行榜主导权之争可能引发激烈的、甚至不公平的竞争。Cohere Labs的负责人莎拉·霍克尔及《排行榜幻觉》论文的作者之一希瓦利卡·辛格认为,当排行榜对整个生态系统都很重要时,激励机制可能导致其被操纵。
尽管xAI与Scale AI的合作要求承包商帮助“提升”LMArena的排名,但目前没有证据表明他们操纵了排行榜。排行榜主导权并不总能转化为实际能力。Grok 4在LMArena的核心类别数学、编码和“困难提示”中位列前三,但在Yupp的新众包排行榜中仅排名第66位,突显了排行榜之间的差异。
一位广受关注的新闻通讯的AI战略家和产品负责人内特·琼斯表示,他发现Grok的实际能力往往落后于其排行榜上的宣传。“Grok 4在一些炫目的基准测试中表现突出,但在我本周的测试中,当实际情况出现时,Grok 4却严重失败。”他在周一的Substack上写道。“当我们把排行榜主导权作为目标时,我们可能会制造出擅长琐碎练习但面对现实时却表现不佳的模型。”
(以上内容均由Ai生成)