大语言模型（LLM）

LLM 是现代 AI 应用的基石。无论是 ChatGPT、Claude 还是代码助手，背后都是一个大语言模型。理解 LLM 是什么、怎么工作的、有什么局限，是学习一切 AI 知识的第一块基石——就像学编程先要理解"计算机是什么"一样。

LLM 的核心机制可以分三层来理解：

1. 训练阶段：从海量文本中学习
模型通过"预测下一个词"的任务，在互联网规模的文本上训练。每看到一个词，它就要猜下一个词应该是什么——猜错了就调整参数，猜对了就强化。经过数万亿次这样的练习，模型学会了语法、事实、推理模式，甚至某种程度的"常识"。

2. 推理阶段：逐词生成
当你给 LLM 一个 Prompt，它不会一次性输出整段回答，而是一个词一个词地"续写"——每生成一个词，就把这个词加入上下文，再预测下一个词。这就是为什么它叫"自回归生成"。

3. 注意力机制：理解上下文
LLM 之所以能理解长文本中的关系，靠的是 Transformer 架构中的"自注意力"机制——它能同时关注一段文字中所有位置的关系，而不仅仅是相邻的词。这就像你在读一篇文章时，能同时记住开头和结尾的内容。

对话助手：ChatGPT、Claude 等产品的核心引擎，回答用户提出的各种问题。

代码生成：GitHub Copilot、Cursor 等编程工具利用 LLM 理解代码上下文并生成补全。

内容创作：从写周报到生成营销文案，LLM 能将模糊需求转化为结构化文字。

误区：LLM 真的"理解"语言
✅ 实际上：LLM 通过统计模式匹配来生成文字，它没有意识、没有真正的理解，也不具备"信念"。它只是非常擅长预测下一个词应该是什么。

误区：模型越大越好
✅ 实际上：更大的模型通常能力更强，但成本也更高。很多场景下，7B 参数的模型配合 RAG 或微调就能满足需求，不需要 405B。

误区：LLM 的回答总是正确的
✅ 实际上：LLM 会产生"幻觉"——编造听起来合理但完全虚构的信息。这也是为什么在医疗、法律等高风险领域不能直接依赖 LLM。