跳到正文

评估

测试证明代码能跑。评估证明 Agent 行为正确。 本课讲评估闭环:数据集、指标、运行器、迭代首尾相接,让你像衡量延迟或测试覆盖率那样,严谨地衡量 Agent 质量。

SDK 重点outputFormathooks.PostToolUseresult.subtypefallbackModelmodel routing

评估 vs 测试

两者都验证正确性,也有重叠;实际区别在于各自主要盯哪类信号:

测试评估
问题「代码能跑吗?」「Agent 行为对吗?」
常见真值确定性断言Rubric 或统计聚合
常见输出单用例通过/失败比率、分布与分组
输入Fixture近似真实场景的数据集
失败形态堆栈跟踪行为漂移、子集回归

对 file_read_tool 的单元测试证明工具能用。对 Agent 的评估则证明它选对了工具、用合理的参数调用、出错时能恢复。两者都需要。

评估闭环

可用的评估系统是一个封闭循环,而不是一次性测试套件。每一轮都改进 Agent 或评估本身:

评估闭环:数据集、运行器、指标、分析、迭代评估闭环loop1. 数据集2. 运行器3. 指标4. 分析5. 迭代

每一步都有自己的门道,下面按顺序逐一过一遍。

完整版预览

继续阅读完整内容

这节课可以先预览一部分。解锁完整版后,正文、闪卡和相关练习都能用。

登录后解锁

一次购买,解锁阶段 2–3、专题、练习和后续更新