面向LLM的架构设计：什么是真正的AI Friendly架构

一句话概括

大淘宝技术团队从秒杀AI审核/答疑实战出发，系统阐述传统架构（DDD/MVC）向AI Friendly架构演进的三范式（确定性→概率性、结构化→语义化、静态→动态），以及Multi-Agent、Context Engineering、AI Friendly API、AI可观测等核心能力的落地经验。

实践内容

AI审核效果数据

AI审核准确率：95.7%
AI审核召回率：99.1%
每天审核量：2-3万报名商品
效率提升：80%以上

AI答疑系统 CogentAI

问题解决准确率：98%以上
效率提升：80%以上
特点：具备自主规划、推理解决问题能力
     可根据问题进行意图识别、自主规划解决路径
     灵活选择工具和知识库使用
     根据结果动态调整计划

架构演进三范式

1. 确定性 → 概率性
   传统：y=f(x) 映射，非黑即白
   AI：RAG增强 + 提示词工程 + 评测机制，收敛至"安全区间"

2. 结构化 → 语义化
   传统：严格Schema校验，刚性边界
   AI：基于意图响应，弹性边界

3. 静态 → 动态
   传统：预定义Workflow + if-else规则
   AI：模型决策 + 自主规划 + 动态编排

Agent实现方式

三种Agent：
- BaseAgent：普通ChatBot或AI Workflow，无动态规划
- ReActAgent：基于ReAct推理范式，自主推理
- PlanAgent：基于Plan计划范式，全局规划

ReAct + Plan 结合：
- Plan产出全局计划，沉淀优秀计划模版
- ReAct执行细分领域推理

Multi-Agent中心化决策模式

答疑场景Multi-Agent架构：
- 中心Agent：统一意图识别与任务分发
- 域Agent：商品域、订单域、库存域、报名域、补贴域、素材域
- 每个域基于ReAct+Plan范式实现
- 形成"MOE(混合专家)"形态

AI Friendly API改造要点

1. 工具原子化改造：拆分为适配ReAct推理的原子工具
2. 出入参改造：名称拟人化、仅保留核心参数、平铺KV对
3. Error改造：预期内→简短描述；预期外→堆栈信息

Context Engineering优化效果

历史审核案例库：向量检索相似案例 → 准确率提升8%
混合审核决策：多模型投票+置信度机制 → 准确率提升10%以上

上下文工程能力

通用能力：长短记忆、摘要总结
专项能力：
- 历史审核案例库（向量检索）
- 混合审核决策（多模型投票）
- Advance RAG（知识图谱、动态上下文剪枝）

评测与可观测链路

评测飞轮：线上数据采样 → 样本集构建 → 评测(自动/人工) → 优化(工程/微调) → 线上AB → 指标观测
AI可观测指标：Agent执行路径、TTFT、Token消耗与成本、TPM、QPM

摘录

传统的工程架构在设计之初，秉承着”以人为本”的理念，更趋向于处理确定性的逻辑——输入格式规范、输出内容可预测、基于预定义的流程来执行、依赖于规则和配置。但AI天生具有概率性和涌现性，引入AI的系统也应该具备”动态自适应”、“自主决策与动态编排”、“持续学习与实时优化”这种处理不确定性的能力。当以”不确定”为基础的AI遇见以”确定性”为基础的传统架构时，自然而然便产生了难以调和的矛盾。

实现传统架构向AI Friendly架构的升级，核心逻辑归结为一点：赋能传统工程以驾驭”不确定性”的能力。AI Friendly架构并非对传统工程经验的全盘否定，而是在过去十几年构建的坚实工程地基之上，为应对”不确定性”所进行的一次精准架构升级。

Prompt Engineering始终是一门经验学科，当前提示词的各种使用经验本质上是在弥补大模型能力的不足，当大模型能力越来越强时，一个简单的指令和描述就可以完成任务，过多的提示词反而会成为累赘。处于AI时代的工程师们，更应该关注的是Context Engineering——即如何精心挑选、组织和压缩信息，以便在有限的窗口内，让大模型获得回答问题所需的最优知识。

评测所花费的时间甚至要超过Agent构建所花时间的两倍以上，形成一套基于黄金数据集的可持续评测链路，是每个业务都需要重点建设的能力。

AI的发展仍处于日新月异的地步，没有所谓的专家和资深者，人人都还是求学者。