一句话定义
Agent 把大模型从「一次性问答」变成「持续执行」：模型根据目标决定下一步动作，调用工具，读取结果，再决定是否继续。
LLM Agent
LLM Agent 是以大语言模型为决策核心的 Agent：模型负责理解目标、选择工具和判断终止，工具与状态在外围。
基本循环
- 规划：理解目标，拆出下一步。
- 行动：调用搜索、数据库、代码执行等工具。
- 观察：读取工具返回的结果。
- 反思/继续：判断是否完成，未完成则进入下一轮。
这个循环通常还会配上记忆：短期保存当前任务状态，长期保存用户偏好或历史结论。工具结果要结构化回填到上下文，下一步才能基于事实继续。
与普通问答的区别
普通问答是一次前向生成；Agent 的关键是「模型输出可以触发外部动作」，并且动作结果会回到上下文，影响后续决策。它把 提示工程 从静态文本扩展成动态控制流。
工程要点
- 工具设计：参数清晰、返回结构化、错误可读，比模型本身更影响成功率。
- 权限与沙箱：文件、网络、支付等高风险动作需要人工确认或最小权限。
- 终止条件：设置最大步数、超时和失败重试，避免无限循环。
- 可观测性：记录每一步的输入、工具调用和结果，便于排查。
- 上下文管理：长任务会撑爆 上下文窗口，需要摘要、检索或外部存储。
- 评测：看任务成功率、步数和单次成本，而不只是最终回答。
用在哪里
- 多步骤任务：检索资料、调用工具、写代码、执行并校验结果。
- 目标明确、工具可定义、失败可回滚的场景；开放探索型任务要谨慎。
常见误区
- Agent 不等于「全自动」：多数生产系统仍保留人工审批节点。
- 工具越多越强：工具描述冲突和选择错误会显著降低可靠性。
- 让模型自由发挥就能完成复杂任务：没有约束和评测的 Agent 很容易走偏。