推荐我自己开发的开源项目 whatbroke,希望有机会入选周刊。
项目简介
给 AI Agent 的行为做类似 git diff 的对比。改了提示词或者换了模型之后,对比前后两次运行:哪些工具调用是新增的、哪些消失了、哪些换了顺序,参数改了什么,成本和延迟差了多少。支持多次采样运行,会给出每个差异的出现频率,并自动降低那些在基线里本来就不稳定的项,减少误报。
今天发布的 v0.3.0 新增了 whatbroke import 命令,可以直接导入 OTLP JSON(OTel GenAI 语义约定)、Langfuse 和 LangSmith 的导出数据,已经接入链路追踪的 Agent 不用改一行代码就能做对比。全部在本地运行,不上传任何数据。
谢谢!
推荐我自己开发的开源项目 whatbroke,希望有机会入选周刊。
whatbroke-cli项目简介
给 AI Agent 的行为做类似 git diff 的对比。改了提示词或者换了模型之后,对比前后两次运行:哪些工具调用是新增的、哪些消失了、哪些换了顺序,参数改了什么,成本和延迟差了多少。支持多次采样运行,会给出每个差异的出现频率,并自动降低那些在基线里本来就不稳定的项,减少误报。
今天发布的 v0.3.0 新增了
whatbroke import命令,可以直接导入 OTLP JSON(OTel GenAI 语义约定)、Langfuse 和 LangSmith 的导出数据,已经接入链路追踪的 Agent 不用改一行代码就能做对比。全部在本地运行,不上传任何数据。谢谢!