LLM

一句话定义

LLM 是以 Transformer 为主干、在海量文本上做下一 token 预测、再用指令与偏好数据调成通用助手的语言模型。它是 基础模型 中偏语言的一支；未经过指令对齐的版本常叫基座模型，日常说的 LLM 通常指对齐后的助手模型。

为什么需要它

过去每个任务要单独训练模型；LLM 通过大规模 预训练 获得通用语言能力，再用 SFT 和偏好对齐把它变成能听指令的助手。一个模型可以覆盖写作、问答、代码、翻译等多种任务。

怎么工作

1. 文本先经过 Tokenization 变成 token ID。
2. Transformer 根据前文计算下一个 token 的概率分布。
3. 解码策略选出 token，追加到输入，重复直到结束。
4. 预训练之后通常还要 SFT 和偏好对齐，才适合直接对话。

关键点与取舍

• 能力来自参数、数据、算力与后训练的共同作用，不是单看参数量。
• 上下文窗口 决定一次能看多少内容；token 数直接对应成本与延迟。
• LLM 擅长语言模式与通用推理，但事实性、时效性和精确计算并不可靠。
• 输出逐 token 生成，首 token 延迟和总生成长度都会影响体验。

常见误区

• LLM 不是数据库：它学的是统计规律，不保证逐字记住事实。
• 参数越大不一定越好：数据质量、后训练和推理成本同样关键。
• 会聊天不等于会做事：要可靠执行任务，通常还需要 RAG 或 Agent。

用在哪里

• 对话、写作、翻译、代码补全、信息抽取等通用任务。
• 作为 RAG、Agent 的底座；需要实时数据或精确计算时接工具。
• 需要稳定格式或可复现结果时，配合结构化提示和固定解码参数。

相关概念

• Transformer：LLM 的主干架构。
• 基础模型：范围更大的通用模型概念。
• 预训练：获得通用语言能力的阶段。
• SFT：把基座模型变成指令跟随模型。