AI知识百科
AI词条 知识库
系统梳理 AI 领域核心概念,从基础术语到前沿技术,帮助你快速掌握知识体系。
🔰 AI 启蒙
8 个词条AI 是什么?能做什么?不能做什么?

大语言模型(LLM)
L1 入门核心 / 基础模型:词条库总入口级概念

Token
L1 入门核心 / 基础模型:关联成本、上下文、计费

模型幻觉(Hallucination)
模型幻觉是指 AI 会自信地编造出听起来合理但完全虚假的信息。这是使用 AI 必须建立的核心风险意识,也是 AI 安全领域的头号挑战。

自然语言处理(NLP)
NLP 是 AI 理解和使用人类语言的技术领域,从 1950 年代的规则系统到今天的 LLM,它走过了 70 年的进化之路。

多模态(Multimodality)
多模态让 AI 不仅会"读文字",还能"看图片"、"听声音"、"看视频",像人类一样用多种感官理解世界。

生成式 AI(Generative AI)
生成式 AI 是能创造新内容的人工智能,区别于仅做分类或预测的判别式 AI。理解它,就是理解这波 AI 浪潮为什么与以往不同。

参数(Parameters)
参数是衡量 AI 模型规模和能力的核心指标。7B、70B、405B 这些数字背后,是模型容量、运行成本和智能水平的故事。

训练与推理(Training & Inference)
训练是模型"学习"的过程,推理是模型"使用"的过程。理解两者的区别,就理解了为什么 AI 那么贵、为什么响应速度有快有慢。
💬 对话之道
9 个词条怎么和 AI 高效对话?提示词怎么写?

Transformer
Transformer 是现代大语言模型的架构基石。它的核心创新——自注意力机制——让模型能同时"关注"文本中的所有位置,彻底改变了 AI 处理语言的方式。

Embedding
Embedding 是将文字、图片等"人类可理解的信息"转换成"机器能计算的向量"的技术。它是所有 AI 理解语义的基础——没有 Embedding,模型就不知道"猫"和"猫咪"是一个意思。
上下文窗口(Context Window)
上下文窗口是模型一次能"记住"的最大信息量。它是 LLM 的"工作记忆"上限——超出这个范围的内容,模型会彻底"忘记"。

Prompt
Prompt 是你与 AI 对话的"界面语言"。写出好的 Prompt 不是玄学,而是一套可以学习的技能——它决定了 AI 是给你废话还是精准输出。

System Prompt
System Prompt 是给 AI 设定的"角色和规则说明书"。它在你每次对话前悄悄加载,定义 AI 的身份、行为边界和回答风格——是你的 AI 助手的"出厂设置"。
Few-shot Prompting
Few-shot Prompting 是在 Prompt 中给出几个示例,让模型"看样学样"。它是连接"零样本"和"微调"之间的高效桥梁——不需要训练,只需要示例。
Chain of Thought
Chain of Thought(思维链)是让模型"一步步思考"的 Prompt 技巧。它把复杂推理从"直接猜答案"变成了"展示推理过程",大幅提升准确率。

分词(Tokenization)
分词是模型"读懂"文字的第一步——它把人类语言拆成模型能处理的最小单元(Token)。理解分词,才能理解为什么中英文的 Token 消耗不同、为什么模型会"读错"某些文字。
Temperature
Temperature 控制模型输出的"随机程度"——低则严谨保守(适合写代码),高则天马行空(适合头脑风暴)。它是 Prompt 工程中最容易被忽视但影响巨大的参数。
🔗 检索与 Agent
17 个词条怎么让 AI 查资料、用工具、自动做事?

RAG
RAG(检索增强生成)是让 LLM 在回答前先"查资料"的技术——先检索相关文档,再基于文档生成回答。它是解决幻觉问题、让 AI 能回答私有知识的最主流方案。

向量数据库(Vector Database)
向量数据库专门存储和检索高维向量——它是 RAG 系统的"记忆引擎",让 AI 能在一毫秒内从百万文档中找到最相关的内容。
Agent
Agent(智能体)是能自主感知环境、制定计划、使用工具、执行多步任务的 AI 系统。它不只是"回答问题",而是"做事"。

Function Calling
Function Calling 是 LLM 调用外部工具和 API 的标准方式——它让模型从"只能说话"变成了"能实际操作"。
MCP
MCP(Model Context Protocol)是 Anthropic 于 2024 年底提出的 Agent 工具协议标准。它的目标是让所有 AI 模型能用同一种方式连接所有工具——解决"每套工具都要写一次集成代码"的碎片化问题。
Agent Loop
Agent Loop 是 Agent 运行的核心循环——感知→思考→行动→观察→再思考,直到任务完成。理解这个循环,就理解了 Agent 如何工作。

Agent Memory
Agent Memory 让 Agent 能记住过去的交互和学到的信息。没有记忆的 Agent 每次对话都"失忆",有了记忆才能真正个性化、持续学习。

Agent Skills
Agent Skills 是将 Agent 的某种能力封装为可复用的模块——像一个"技能包",Agent 可以装载不同的 Skills 来完成不同类型的任务。

Prompt Cache
Prompt Cache 通过缓存 System Prompt 等重复内容的计算结果,大幅降低 Agent 场景下的推理延迟和 API 成本,是 Agent 的必需基础设施。

Agent Sandbox
Agent Sandbox 是 Agent 的"隔离执行环境"——让 Agent 能在受限的安全边界内自由操作,而不是直接接触系统和数据,防止恶意或意外行为。
Sub-agent
Sub-agent 是将复杂任务分派给多个子 Agent 并行处理的架构模式。一个主 Agent 拆解任务,多个子 Agent 各司其职,最后汇总结果。
检索(Retrieval)
检索是 RAG 的"查找"环节——从知识库中找到与用户问题最相关的信息。检索质量直接决定了 RAG 系统的上限。
混合检索(Hybrid Search)
混合检索把关键词搜索的"精确"和语义搜索的"理解"结合在一起——各取所长,是目前生产环境的检索标配。
重排序(Reranking)
重排序是检索的最后一道精排——从初筛结果中挑出真正最相关的内容。它是 RAG 链路中性价比最高的优化步骤之一。

文档切分(Chunking)
文档切分是 RAG 系统的第一步——把长文档切成合适大小的"块",每个块会被单独检索。切分策略直接决定检索质量的上限。

语义搜索(Semantic Search)
语义搜索不再依赖关键词匹配,而是理解查询的"意思"——搜"怎么让猫不挠沙发"能找到标题为"宠物行为矫正指南"的文章。
Agent 规划(Agent Planning)
Agent 规划是 Agent 的核心能力——把复杂任务拆解成可执行的子步骤。规划能力的好坏直接决定 Agent 能否完成多步任务。
🧪 模型训练
14 个词条模型能力从哪来?怎么定制自己的模型?

微调(Fine-tuning)
微调是在预训练模型基础上,用少量高质量数据让模型适配特定任务或领域。它是"站在巨人肩膀上的再学习"——不需要从头训练,用几百到几千条数据就能显著提升领域效果。
监督微调(SFT)
SFT 是用人工标注的"问题-理想回答"对来训练模型学会"对话"——它把预训练基座模型从"续写器"变成"助手"。这是 ChatGPT 从 GPT-3 "蜕变"的关键一步。

RLHF
RLHF(基于人类反馈的强化学习)是让人类偏好直接指导模型训练的技术——它让 ChatGPT 从"能回答问题"进化到"回答得让人满意"。

知识蒸馏(Distillation)
知识蒸馏是让大模型(教师)把能力"教"给小模型(学生)的技术。它是让 AI 从"云端巨兽"走向"终端设备"的关键路径。

LoRA
LoRA(低秩适配)是让微调变得"便宜"的魔法——只训练极少的新参数,就能让大模型适配新任务。一张消费级显卡就能微调 7B 模型。

LoRA Rank
LoRA Rank 是 LoRA 的核心超参数——它决定了"微调的灵活度"。Rank 越大,适配能力越强但训练越慢;Rank 越小越轻量但可能"学不动"。
预训练(Pretraining)
预训练是 LLM 的"基础教育阶段"——用海量文本数据教会模型语言、知识和推理的基本能力。这是最烧钱、最耗时的阶段,但也是模型一切能力的来源。
Batch Size
Batch Size 是一次训练迭代中同时处理的样本数量。它影响训练速度、显存占用和模型收敛质量——是调参三件套之一。
Epoch
Epoch 是模型完整遍历一次训练数据的单位。太少没学会,太多就过拟合——找到合适的 Epoch 数是训练的基本功。
Learning Rate
Learning Rate 是模型训练中最重要的超参数——它决定了参数更新的"步长"。太大跳过头,太小走不动。
Loss
Loss(损失函数)衡量模型预测与正确答案的差距——它是模型训练的"导航仪",Loss 越低,模型越好(但不等于泛化能力越强)。
对齐(Alignment)
对齐是确保 AI 的行为符合人类意图和价值观的技术。它不只是"让 AI 别干坏事",而是让 AI 真正理解并尊重人类的偏好。
DPO
DPO(直接偏好优化)是 RLHF 的轻量级替代方案——不需要训练单独的奖励模型,直接利用偏好数据优化模型。更简单、更稳定、更便宜。
过拟合与欠拟合
过拟合和欠拟合是模型训练的"两大致命伤"——一个学得太多(记住了噪音),一个学得太少(没抓住规律)。找到平衡点是训练的核心。
⚙️ 部署与评测
8 个词条怎么把模型落到生产?怎么评价好坏?
量化(Quantization)
量化是把模型参数从高精度(FP16)压缩到低精度(INT4/INT8)——显存减半、速度翻倍,但能力几乎不变。它是让大模型能在手机上运行的核心技术。
模型评测(Evaluation)
模型评测是科学地衡量 AI 的"智力水平"——不只是"感觉它很聪明",而是用标准化的基准测试、评分标准和对比实验来量化模型的能力和局限。
GGUF
GGUF 是本地运行 LLM 的标准文件格式。它把模型参数、分词器、配置打包成一个文件——下载即用,是 llama.cpp 生态的基石。

MoE
MoE(混合专家)是一种让模型"用一部分参数处理每个 Token"的架构——总参数很多但每次只激活一小部分,又大又快又省。GPT-4 据信使用了 MoE 架构。
DeepSpeed
DeepSpeed 是微软开源的分布式训练框架,它让训练 GPT-4 级别的超大模型在工程上成为可能——通过 ZeRO 优化把几百 GB 的参数和优化器状态分片到几百张 GPU 上。
模型部署(Deployment)
模型部署是把训练好的模型变成可用的服务——从实验室的 Python 脚本到生产环境的稳定 API,中间隔着容器、负载均衡、监控、安全等一整套工程体系。
推理(Inference)
推理是模型完成训练后"干活"的阶段——用训练好的参数回答用户问题。推理成本决定 AI 产品能否盈利,推理延迟决定用户体验好坏。
提示注入(Prompt Injection)
提示注入是攻击者通过精心构造的 Prompt,让 AI 绕过安全限制、泄露内部指令或执行非预期的操作。它是 LLM 应用面临的最现实、最紧迫的安全威胁。
🏛️ 模型家族
7 个词条了解重要的模型家族。
GPT
GPT 系列是 OpenAI 的旗舰大语言模型,从 GPT-1(2018)到 GPT-4(2023),它定义了现代 LLM 的能力标准和产品形态,是这波 AI 浪潮的代表性模型家族。
LLaMA
LLaMA 是 Meta 开源的大语言模型系列——它把顶级 AI 能力免费开放给全球研究者和开发者。LLaMA 的开源是 2023 年 AI 生态最重要的转折点之一。
BERT
BERT 是 2018 年 Google 发布的里程碑式模型——它是第一个真正让 NLP 进入"预训练时代"的模型,一次性刷新了 11 项 NLP 基准,开启了大模型范式。
T5
T5 是 Google 在 2019 年提出的"大一统"文本模型——把所有 NLP 任务都统一成"文本到文本"格式,用一个模型解决所有问题。
DeepSeek R1
DeepSeek R1 是中国 AI 公司深度求索开发的推理模型。它用纯强化学习(不用 SFT)训练出了强大的推理能力,以极低成本达到接近 o1 的水平——引发了全球对"中国 AI 超车"的热议。
Claude
Claude 是 Anthropic 开发的 AI 助手,以长文本理解和安全性著称。它的差异化定位是"更安全、更诚实、更擅长深度思考"——在长篇分析和复杂推理上独具优势。
Qwen(通义千问)
Qwen(通义千问)是阿里云开发的中文大语言模型系列——代表了中文 LLM 生态的最高水平之一,在中文理解和多模态能力上尤其突出。
🔧 Agent 专题
4 个词条Agent 运行时与工程体系。

Harness Engineering
Harness Engineering 是设计 Agent 运行时的工程实践——如何构建稳定、可控、安全的 Agent 执行环境,是 Agent 从 Demo 走向生产的关键。

ReAct
ReAct 是 Reasoning + Acting 的融合模式——Agent 在每一步交替进行"思考"和"行动",是目前最经典的 Agent 推理-行动框架。
OpenClaw
OpenClaw 是一个开源 Agent 框架,支持多模型接入和工作流编排。它的定位是"轻量、灵活、可组合"——让你能快速搭建 Agent 应用。
Hermes
Hermes 是一个 Agent 运行时与工具集成框架——专注于让 Agent 可靠地调用外部工具和服务,处理复杂的工具协作场景。