跳转到内容

Experiment & Evaluation Registry(实验与评估登记)

知识库位置:FDE Knowledge Base/13 Operating System/07-Experiment-and-Evaluation-Registry.md

FDE 项目中的很多技术工作,本质上是在减少未知。

因此建议显式记录:

Unknown(未知)
↓
Hypothesis(假设)
↓
Experiment(实验)
↓
Evidence(证据)
↓
Decision(决策)

Experiment ID(实验编号):
Question(问题):
Hypothesis(假设):
Why It Matters(为什么重要):
Method(方法):
Dataset(数据集):
Metrics(指标):
Success Criteria(成功标准):
Result(结果):
Evidence(证据):
Conclusion(结论):
Decision Impact(对决策的影响):
Owner(责任人):
Status(状态):

Question:
Can hybrid retrieval meet support policy search requirements?
(混合检索能否满足客服政策搜索要求?)
Hypothesis:
Hybrid retrieval will outperform vector-only search.
(混合检索将优于纯向量检索。)
Dataset:
120 representative questions.(120 个代表性问题。)
Metric:
Relevant-document Hit@5.(相关文档 Hit@5。)
Result:
Improved from 78% to 91%.(从 78% 提升到 91%。)
Decision Impact:
Adopt hybrid retrieval for pilot.(试点采用混合检索。)

示例数字仅用于格式说明。


不要让 Evaluation(评估)报告散落。

统一记录:

Evaluation ID(评估编号):
Component(组件):
Version(版本):
Dataset(数据集):
Metrics(指标):
Results(结果):
Failure Distribution(失败分布):
Known Limitations(已知局限):
Decision(决策):

可以包括:

  • RAG(检索增强生成)
  • Agent(智能体)
  • Model(模型)
  • API(接口)
  • Workflow(工作流)
  • User Pilot(用户试点)

很多项目的问题是:

团队知道「之前测过」,但不知道用什么数据、哪个版本、结果到底是什么。

Registry 解决这个问题。


复杂项目可以维护:

Unknown(未知项)
Importance(重要性)
Owner(责任人)
Resolution Method(解决方式)
Due(截止时间)
Status(状态)

例如:

Can the customer SSO pass user groups to the app?
(客户 SSO 能否把用户组传给应用?)
Importance:
Critical(关键)
Resolution:
Technical spike(技术验证)+ IT confirmation(IT 确认)

这特别适合 Early Discovery(早期调研)/ Architecture(架构)阶段。