OpenAI o3豪夺大模型棋王,40轮血战胜人类大师
快速阅读: Kaggle Game Arena举办国际象棋积分赛,OpenAI o3以1685分领先,Grok 4和Gemini 2.5 Pro紧随其后,DeepSeek R1等并列第五,比赛展示AI模型在国际象棋领域的最新进展。
Kaggle Game Arena举办的国际象棋积分赛结果揭晓,OpenAI o3以1685分的人类等效Elo分领先,Grok 4和Gemini 2.5 Pro紧随其后。DeepSeek R1、GPT-4.1、Claude Sonnet-4和Claude Opus-4并列第五。
经过40轮激烈对决,仅靠文本输入的国际象棋AI模型成绩出炉。各模型在无工具、无验证器的情况下进行较量,每组配对进行了40场比赛,最终形成类似围棋等运动项目的Elo排名。
OpenAI o3独占鳌头,Grok和Gemini位列第二、第三。其中,o3的估计人类Elo分为1685分,接近人类大师水平2200分;Grok 4的估计人类Elo分为1395分,表现不俗;Gemini 2.5 Pro的估计人类Elo分为1343分,稍逊一筹。
此外,DeepSeek R1、GPT-4.1、Claude Sonnet-4和Claude Opus-4并列第五。这是GameArena首次举办的AI国际象棋比赛,o3最终夺冠,证明了其实力。
此前,Kaggle举办了首届AI国际象棋表演赛,展示了o3、Grok 4、Gemini 2.5、DeepSeek R1等通用模型在国际象棋方面的能力。虽然这些模型取得了显著进步,但淘汰赛的偶然性较大,难以准确衡量模型的真实水平。因此,Kaggle正式发布了Game Arena平台上的国际象棋文本排行榜。
排行榜基于所有参赛模型之间的循环赛结果,每对模型进行20场白棋和20场黑棋的对决,共40场比赛。参赛模型不仅包括上周表演赛的8个模型,还增加了更多模型,以提供更全面、更可靠的评估结果。
Elo分数采用标准的Bradley-Terry算法计算,模型与L0到L3不同等级的国际象棋Stockfish引擎对弈,通过线性插值法估算人类等效Elo分。Stockfish是一款免费且开源的国际象棋引擎,自2020年起赢得多项顶级赛事,目前是世界上最强的CPU国际象棋引擎,估计的Elo等级为3644。
除了Elo分数,排行榜还增加了“平均每回合Token数”和“平均每回合成本”等指标,反映模型在性能和效率之间的平衡。排行榜存在一些限制,如仅限于国际象棋、严格的超时限制和抽样随机性。
Kaggle还发布了包含可移植棋谱(PGN)和模型公开推理过程的数据集,旨在评估和比较通用语言模型的战略推理能力。该数据集代表了特定模型版本在收集时点的性能,Kaggle计划定期更新排行榜,以跟踪AI模型在战略规划、推理和其他认知能力方面的进步。
国际象棋文本排行榜是Kaggle公开基准测试平台Game Arena的首个项目,将严谨的科学方法与观赏性的竞赛体验相结合。排行榜的发布有助于超越数据污染问题,考察模型在高压环境下的表现,并为通用人工智能的发展提供参考。
(以上内容均由Ai生成)