跳转到内容

Agent Evaluation Toolkit(智能体评估工具)

知识库位置:FDE Knowledge Base/11 Tools/04-Engineering/03-Agent-Evaluation-Toolkit.md

Agent(智能体)不能只测 Final Answer(最终答案)。

必须测试完整轨迹(Trajectory,轨迹)。


任务最终完成了吗?

选对 Tool(工具)吗?

参数正确吗?

有没有越权?

用了多少 Step(步骤)?

Tool 出错后能恢复吗?

能正确停止吗?


User Goal(用户目标):
Available Tools(可用工具):
Expected Tool Sequence(预期工具序列):
Forbidden Actions(禁止动作):
Expected Final State(预期最终状态):
Max Steps(最大步数):

Agent Trace Evaluation(智能体轨迹评估)

Section titled “Agent Trace Evaluation(智能体轨迹评估)”
User(用户)
↓
Decision(决策)
↓
Tool(工具)
↓
Arguments(参数)
↓
Result(结果)
↓
Next Decision(下一个决策)

逐步评分。


Wrong Tool(选错工具)
Wrong Argument(参数错误)
Unnecessary Tool(多余调用)
Loop(循环)
Premature Stop(过早停止)
Permission Violation(越权)
Hallucinated Success(幻觉式成功)
Failure to Escalate(未升级)

必须加入:

  • Missing input(输入缺失)
  • Tool timeout(工具超时)
  • Tool 403(工具拒绝访问)
  • Tool 500(工具服务端错误)
  • Duplicate result(重复结果)
  • Dangerous request(危险请求)
  • Ambiguous instruction(模糊指令)