从零设计生产级Multi-Agent-Harness

一句话概括

本文从零拆解生产级 Multi-Agent Harness 的设计,涵盖架构编排、工具治理、状态与记忆、评估体系、成本控制与 MCP 工具接入六大核心模块,为 Multi-Agent 系统从 Demo 走向生产提供全景落地指南。

摘录

很多人以为,跨过这条鸿沟靠的是更强的模型,或者更精妙的 Prompt。错。真正决定 Multi-Agent 系统能否落地的,是背后那个常常被忽略的运行时底座——Multi-Agent Harness。它负责编排、调度、记忆、状态、工具治理、预算控制、可观测性、安全边界。它是 Agent 的”操作系统”,也是 AI 工程化的真正主战场。

生产级原则只有一句话:Agent 负责局部智能,Harness 负责全局控制。Orchestrator 必须独占五项决策权:任务生命周期、执行计划裁决、Agent 路由、失败处理、硬终止条件。别让 Agent 开车,让 Agent 当导航。

Multi-Agent 系统的评估,是目前被低估最严重的环节。如果只看最终答案,会漏掉很多危险信号:最终报告对了,但中间用了未授权的数据源;最终代码能跑,但 Agent 调用了十几次无意义工具。生产级 Eval Pipeline 应至少分四层:Component Eval、Trajectory Eval、Task Completion Eval、End-to-End Eval。

记忆不是仓库,而是花园,需要定期修剪。一个只增不删的记忆系统会随时间退化:检索越来越慢、相关性越来越差、过期信息污染新决策。应基于访问频次、创建时间、重要性、最近使用计算保留分数。

涉及实体

涉及主题