业务逻辑的”坍塌”：当应用层只剩下胶水代码

一句话概括

从 Transformer 推理不确定性切入，论证 LLM 黑盒让传统「无状态应用 + 有状态 DB」反转为「有状态 Agent + 无状态 LLM」，Agent 代码退化为 Context 胶水层。

实践内容

Transformer 推理不确定性

四种不确定性来源：

1. 数值精度 —— 浮点数精度问题
2. 硬件异构 —— 不同硬件的计算差异
3. 采样策略 —— 温度、top-p 等参数
4. KV Cache —— 缓存状态的影响

架构反转

传统：无状态应用 + 有状态 DB 现在：有状态 Agent + 无状态 LLM

Agent 代码退化

Agent 代码退化为 Context 胶水层——主要工作是管理上下文，而不是实现业务逻辑。

三种工程化落地

1. 状态压缩 —— 压缩 Agent 的状态
2. 显现化 —— 把隐式状态显式化
3. 结构化知识 —— 把知识结构化存储

实践示例

以本地 ollama + nmap/nuclei 手搓 ReAct 渗透测试 Agent 演示。

摘录

从 Transformer 推理不确定性（数值精度、硬件异构、采样策略、KV Cache）切入，论证 LLM 黑盒让传统「无状态应用 + 有状态 DB」反转为「有状态 Agent + 无状态 LLM」。

Agent 代码退化为 Context 胶水层，并以本地 ollama + nmap/nuclei 手搓 ReAct 渗透测试 Agent 演示状态压缩、显现化与结构化知识三种工程化落地。

涉及实体

• Claude-Code —— Claude Code 也是”有状态 Agent + 无状态 LLM”的架构

涉及主题

• []

我的评注

“Agent 代码退化为 Context 胶水层”这个观点很深刻——在 LLM 时代，应用层的主要工作变成了管理上下文，而不是实现业务逻辑。这对软件架构设计有深远影响。