Repository navigation
docs(evals): 折进判分细则 + 记录 v4 轮基线(25 条口径,冻结提交 7c1c4ea) - #22
Merged
Merged
Conversation
rubric.md:重写为「正文 + 打分细则(歧义点定死版)」八节,把每轮都会吵的判据写死——命中 1 含「在别的条目里顺带说对」、归类的分母是 finding 条目数、G12/G13 特例、证据的 E 原则、表达质量的最小对照例子判据、raw 公式与读分提醒。 baseline.md:追加 v4 轮(不改首轮 12 条口径的历史记录)。冻结提交 7c1c4ea,三种问法各 1 轮,原始输出留仓外。命中 15.5/13.0/19.5,误报全 0,归类 10.5/8.0/12.0,证据 4.93/4.73/4.20,raw 163.4/154.4/151.6。断言 ③ 按实测改写为「不成立」,并附 6 处分歧的口径与数字影响表。 Co-Authored-By: MiniMax-M3.1-Flash <noreply@minimax.io>
This was referenced Oct 21, 2026
This was referenced Oct 28, 2026
This file contains hidden or bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Add this suggestion to a batch that can be applied as a single commit.This suggestion is invalid because no changes were made to the code.Suggestions cannot be applied while the pull request is closed.Suggestions cannot be applied while viewing a subset of changes.Only one suggestion per line can be applied in a batch.Add this suggestion to a batch that can be applied as a single commit.Applying suggestions on deleted lines is not supported.You must change the existing code in this line in order to create a valid suggestion.Outdated suggestions cannot be applied.This suggestion has been applied or marked resolved.Suggestions cannot be applied from pending reviews.Suggestions cannot be applied on multi-line comments.Suggestions cannot be applied while the pull request is queued to merge.Suggestion cannot be applied right now. Please check back later.
这份 PR 改了什么
两件事,都是评测资产,不改 skill 本体的执行行为:
evals/rubric.md重写为「正文 + 打分细则(歧义点定死版)」八节。evals/baseline.md追加 v4 轮基线(首轮 12 条口径的记录原样保留,不覆盖)。base 是
fix/consistency-and-lint(#21),不是main—— 这份 PR 排在 #21 之后合并。一、rubric.md 为什么重写
上一轮的判分细则有六个地方每轮都会吵,吵完就靠临场决定,分数没法复算。实测中真正吵起来的是这些:
新细则把这六处定死了,并且把同一个判例的两种读法各记一次(例如「明确否认 vs 完全没涉及」三种情形的判法),避免下一个读的人重新吵一遍。
二、v4 轮基线
运行条件
7c1c4ea—— 三轮全程没改过任何 skill 文件evals/fixtures/tiny-shop逐字节复制到仓外,README 中性化evals/目录;skill 路径显式指向装线目录scratchpads\dcr-eval-archive\round-{A,B,C}-v4.md,不入版本控制BA1FFA73…C691B4/ BA13EA522…F48912/ C3037B600…238DC分数
三个值得看的点
首轮票面三条断言的复核结果
断言③已按实测改写,正文里给了可直接替换的表述。
三、口径分歧怎么处理的
判分细则里那 6 处分歧不是事实分歧,是规则宽窄的选择。本 PR 采用其中一套算出了基线,同时把六处的另一种读法和对应数字影响列成了表(baseline.md「口径待裁定」一节),这样基线可以被挑战、被复算,而不是「就是这么算的」。
另外,这一轮的分数由一个独立子 Agent 按同一份细则复算过一次(不参考本文件)。复算方在第 2、3、4 条上取了窄档,得 raw 162.3 / 153.4 / 151.1,与本基线相差 ≤ 1.7 分,结论方向完全一致。
四、为什么不改 skill 本体
评测发现的能力边界(G4 承诺无对应对象、G19 位置指代、G22 状态持久性、G23 零使用字段等)要改
references/dimensions.md的成立条件,这会触发重跑评测,且属于新增能力而不是修复。所以它们不进 v1.1.0,单独开 v1.2.0 的票跟踪。v1.1.0 的发版口径与状态见 #20。
评审时值得看哪里
evals/rubric.md的「打分细则」八节 —— 判分口径的唯一依据evals/baseline.md的「口径待裁定:6 处分歧与数字影响」 —— 最可能有争议的一段evals/baseline.md的「首轮票面三条断言的复核结果」 —— 断言③改成了「不成立」