跳到正文
四海AI汇/主题

内容类型

评测基准 最新动态

模型到底谁更强:Benchmark 评测成绩、评测方法的争议与排行榜变化。

11 条精选近 30 天 10 条共收录 265 条

更新

评测基准的精选

今天11月11日周三第 1–11 条
  1. Latent Space88

    Anthropic 发布 Claude Fable 5.2 与 Mythos 5.2,重夺 LLM 榜首

    Anthropic 发布 Claude Fable 5.2 和 Claude Mythos 5.2,官方称二者在几乎所有评测能力上都高于 Opus 5.5,并在 Artificial Analysis Intelligence Index v5 上以 65 分重回第一,超过 Gemini 4 Carbon 的 60 分。

    推荐理由:汇总多家独立评测与成本数据,呈现 Fable 5.2 登顶背后的 token 消耗与 effort 档位反常。

  2. The Decoder78

    Anthropic 发布 Fable 5.2,在 Remote Labor Index 上完成 41.3% 的真实自由职业任务

    Anthropic 新模型 Fable 5.2 在 Scale Labs 与 CAIS 的 Remote Labor Index 上取得 41.3% 的成绩,该基准衡量 AI 智能体完成真实自由职业任务、且达到付费客户可接受质量的比例。

    推荐理由:Fable 5.2 在 Remote Labor Index 上从一年前 2.5% 提升到 41.3%,并列出与竞品的差距和仍薄弱的任务类型。

11月10日周二
  1. The Decoder80

    Anthropic 发布 Claude Fable 5.2 与 Mythos 5.2,IPO 前重回性能领先

    Anthropic 发布 Claude Fable 5.2 与 Claude Mythos 5.2,两者共享同一模型底座,区别在访问权限:Fable 面向所有用户并拦截网络安全和生物学高风险任务,Mythos 移除部分限制、仅向通过 Anthropic 网络安全或生命科学验证计划的组织开放。

    推荐理由:材料给出两款新模型的分级开放方式、定价与多项基准对比,可据此判断 Anthropic 在 IPO 前的技术位置。

11月6日周五
  1. arXiv · cs.CL60

    Scientist World:把每篇论文变成可执行环境,用于训练和评估 AI-Scientist

    Scientist World 将每篇研究论文转成可执行环境,自动提取论文的开放研究问题并把其方法复现为基线,AI-Scientist 进入后与人类作者成果对比评估,首批发布 1,000 个已验证环境。

    推荐理由:论文把每篇论文转成可执行环境,并给出前沿 AI-Scientist 超越人类作者的比例与训练增益,可作为评估 AI 科研能力的参照。

  2. arXiv · cs.CL60

    研究提出预测前沿AI系统失控风险的行为框架

    研究者提出一个行为框架,把前沿AI系统的失控风险拆解为动机错位、危害能力与规避监控三个因素,并通过13个可测维度和29项评测任务合成单一失控(LoC)分数。在13个前沿模型上,该分数与受控长时程风险场景中的失败率相关系数达Pearson r = 0.84,且风险差异无法仅用能力解释。针对诊断出的薄弱环节做微调与监控,可在较大程度保留通用性能的同时降低失败率。

    推荐理由:该框架把失控风险拆成动机、能力与规避监控三项,并在13个前沿模型上验证其与长时程任务失败率的相关性。

10月29日周四
  1. Latent Space83

    Google DeepMind 发布 Gemini 4 Carbon,登顶多个榜单并优先开放给网络安全防御方

    Google DeepMind 在 Argon 发布两周后推出 Gemini 4 Carbon,称其在网络安全与长周期任务上达到 SOTA,并以 88.2% 的 SEC-bench Pro 漏洞发现成绩作为主要指标。

    推荐理由:汇总了 Gemini 4 Carbon 在多个独立榜单上的位置与定价,并列出编码、幻觉率等具体对比数据。

10月28日周三
  1. Hugging Face Blog60

    Ai2 研究:LLM 能否可靠判断研究想法的新颖性

    Ai2 发布研究《Old Ideas, Novel Problems》,测试 GPT-5.1、GPT-5.2、GPT-5.4、Claude Sonnet 4.5、Claude Opus 4.5 和 Claude Opus 4.6 六个 LLM 判断研究想法新颖性的可靠性,并同步开放基准、数据和代码。

    推荐理由:Ai2 用 ICLR 2026 审稿意见构建新颖性评测集,量化了提示词微调就能让同一模型判断大幅翻转。

10月15日周四
  1. Google Research62

    Google 发布地理空间推理智能体技术报告并扩大 Earth AI 早期访问

    Google 发布 Geospatial Reasoning 智能体的技术报告,在四个基准上对比独立 LLM、基础工具、Earth AI 工具和带前置规划的完整智能体,并新开源 GeoKTools 与 GeoExpertQueries 两个基准的开发集。

    推荐理由:技术报告用四个基准对比有无专用工具与前置规划,并附世卫组织等伙伴的实测案例,可看地理空间智能体的能力边界。

10月5日周一
  1. GitHub Blog · AI & ML60

    GitHub 发布 AI 代码审查开放基准 ReviewBench

    GitHub 发布 AI 代码审查开放基准 ReviewBench,基于 103.9M 条 GitHub PR 的分布特征,构建了覆盖 19 种语言、219 个公开 PR 的评测集。

    推荐理由:GitHub 公开了 ReviewBench 的构建方法、评分规则和 96.6% 的人工一致性数据,读者可据此判断 AI 代码审查评测的可复现程度。