Hugging Face Blog·· 28 天前精选
The Agent Said It Was Done. The Database Disagreed.
The Agent Said It Was Done. The Database Disagreed.
原始来源:Hugging Face Blog阅读原始报道
AI 导读
Microsoft 和 Hugging Face 联合发布 ThinkingBox 基准,用于评估 AI 代理在业务工作流中的可靠性。基准通过在 507 个 stateful 工作流中各重复运行 20 次,测量代理留下的数据库状态和副作用,而非仅依赖其生成的文本。
推荐理由
ThinkingBox 基准揭示了 AI 代理在 507 个业务工作流中 20 次重复运行后的可靠性差异,展示了 pass@1 与 pass@20 的巨大落差,并提供可直接在 OpenEnv 上运行的基准工具。
来源:Hugging Face Blog · huggingface.co