Coding Agent 的质量保证
coding agent默认的质量工作仍然停留在“运行现有单元测试、CI脚本、阅读代码发现问题”的水平。
我认为需要额外构建一套可维护/可观测的QA系统保证产品质量,让大家能够放心地提高agent的开发吞吐量。
可以分为三个步骤,下面是我的一些实践~
1. Make it testable
为当前产品构建完整 QA harness,解决 coding agent 经常跳过的前置工作:
- 理解代码仓库或产品的实际系统架构;
- 尽量使用真实依赖/服务/数据简历测试环境;
- 找到可以驱动和观测的工具,比如操作浏览器并给页面截图,发起API请求并收集日志。
2. Test what matters
在具备QA harness后,执行测试,用真实的系统行文和观测结果回答问题:
- 根据需求规划测试路径
- 执行测试并观测系统运行状况
- 区分产品故障/环境故障,观察性能,而不只验证功能
- 输出report或bug artifacts
3. Make quality cumulative
完成QA工作后进行积累和维护,持续改善整个工作和系统:
- 确定性的行为脚本进入QA harness
- 新功能和线上问题进入 test case