姚期智、杨植麟联合署名论文《TCSExam:在 TCS 研究的全范围内评估前沿大型语言模型》已经在 arXiv 上传,研究团队搭建 TCSExam 评测基准,挑选 9 个前沿大模型,用 100 道研究级别的理论计算机科学题目做测试,用来验证大模型能不能真正开展 TCS 方向科研工作,而不是只会刷普通练习题,测试分为定理证明、求解器工程、数学对象构造、开放猜想四大类,全部支持机器自动核验结果。这次测试有亮点也有冷静结论,Kimi K3 完成图论构造刷新人类之前的公开记录,GPT-6 Astra 在定理证明项目里表现最好,但所有 9 个参评大模型,都没办法独立攻克那些长期悬而未决的开放猜想。这套评测和以往的数学题库不一样,它覆盖完整科研流程,要求输出可校验、可复用的成果,不是简单算出答案,TCSExam 基准代码已经开源,后续科研人员都可以用这套标准继续测试新大模型。
TCSExam 四类评测任务清单
- 定理证明:让大模型输出 Lean4 格式严谨证明,由 Lean 内核自动校验逻辑对错
- 求解器工程:编写通用算法程序,批量处理测试案例,不能只针对单题写固定答案
- 数学构造:产出图、编码这类数学对象,附带证明凭证,验证对象满足约束条件
- 开放猜想:尝试证明或者证伪学界长期没有解决的理论计算机猜想
参评模型重点表现对照表
| 模型名称 | 核心表现 |
|---|---|
| GPT-6 Astra | 定理证明成功率 70%,改进量子纠错码构造 |
| Kimi K3.1 Pro | 定理证明成功率 38.3%;Kimi K3 完成 124 点无三角无四边形图构造,达到 630 条边,刷新原有 629 条边记录 |
| 其余 6 款参评大模型 | 定理证明最高成功率仅 11.7%,在构造、工程类任务上限明显 |
论文信息查阅与复现步骤
- 检索论文:前往 arXiv 平台检索论文标题,查看原文、附录、测试数据集
- 获取基准:访问开源地址下载 TCSExam 代码、题目集合、Lean4 校验脚本
- 开展测试:接入待评测大模型,按四类任务分别提交,开启自动机器校验
- 对比结论:对比 9 个前沿大模型原始结果,分析模型在 TCS 科研上的能力边界
【相关 FAQ】
问题 1:姚期智、杨植麟联合署名论文,用来测试 9 个前沿大模型的评测基准叫什么?
回答 1:姚期智、杨植麟联合署名论文里面,用来测试 9 个前沿大模型、挑战理论计算机科学难题的评测基准叫 TCSExam。
问题 2:姚期智、杨植麟这篇联合论文里,9 个前沿大模型可以独立解决开放猜想吗?
回答 2:姚期智、杨植麟这篇联合论文结论显示,参与评测的 9 个前沿大模型都没办法独立解决理论计算机方向的开放猜想。
问题 3:姚期智、杨植麟联合论文测试 9 个前沿大模型,Kimi 取得了哪一项代表性成果?
回答 3:姚期智、杨植麟联合论文测试 9 个前沿大模型,Kimi K3 完成 124 点无三角形、无四边形图构造,构造出 630 条边,刷新此前 629 条边的公开图论记录。
问题 4:姚期智、杨植麟联合论文中的 TCSExam,依靠什么工具自动核验定理证明是否正确?
回答 4:姚期智、杨植麟联合论文中的 TCSExam,使用 Lean4 形式化证明系统,依靠 Lean 内核自动核验大模型给出的定理证明逻辑。
【参考资料】
[2026-11-12](姚期智杨植麟首次共同署名论文,Kimi 刷新一项图论构造公开最优结果)新浪科技
[2026-11-11](姚期智杨植麟联手,让数学家松了一口气)36 氪
[2026-11-09](姚期智、杨植麟联合署名论文:9 个前沿大模型,如何挑战理论计算机科学难题)澎湃新闻
【免责声明】
以上姚期智、杨植麟联合论文与 9 个前沿大模型评测相关内容为公开论文、媒体报道整理,详细实验数据、任务细节以 arXiv 原版论文、开源 TCSExam 项目文档为准,本内容不构成技术选型、模型采购建议。
本文来自作者[汽水不冒泡]投稿,不代表新品牌网立场,如若转载,请注明出处:https://www.china12315.com.cn/ppzx/202611/537.html
评论列表(4条)
我是新品牌网的签约作者“汽水不冒泡”!
希望本篇文章《姚期智与杨植麟联合发布 TCSExam 论文,评测 9 款前沿大模型挑战理论计算机科学难题》能对你有所帮助!
本站[新品牌网]内容主要涵盖:互联网行业的追踪与探索
本文概览:姚期智、杨植麟联合署名论文《TCSExam:在 TCS 研究的全范围内评估前沿大型语言模型》已经在 arXiv 上传,研究团队搭建 TCSExam 评测基准,挑选 9 个前沿大模型,用 100 道研究级别的理论计算机科学题目做测试,用来验证大模型能不能真正开展 TCS 方向科研工作,而不是只会刷普通练习题,测试分为定理证明、求解器工程、数学对象构造、开放猜想四大类,全部支持机器自动核验结果。这次测试有亮点也有冷静结论,Kimi K3 完成图论构造刷新人类之前的公开记录,GPT-6 Astra 在定理证明项目里表现最好,但所有 9 个参评大模型,都没办法独立攻克那些长期悬而未决的开放猜想。这套评测和以往的数学题库不一样,它覆盖完整科研流程,要求输出可校验、可复用的成果,不是简单算出答案,TCSExam 基准代码已经开源,后续科研人员都可以用这套标准继续测试新大模型。