模型家族
GPT
GPT 系列是 OpenAI 的旗舰大语言模型,从 GPT-1(2018)到 GPT-4(2023),它定义了现代 LLM 的能力标准和产品形态,是这波 AI 浪潮的代表性模型家族。
① 一句话定义
GPT(Generative Pre-trained Transformer)是 OpenAI 开发的大语言模型系列。从 2018 年的 GPT-1(1.17 亿参数)到 2023 年的 GPT-4(参数未公开,据信超万亿),GPT 系列每一步都推动了 LLM 能力的边界——GPT-1 验证了预训练范式的有效性,GPT-2 展示了规模化的威力,GPT-3 发现了涌现能力,GPT-4 定义了"接近人类水平的多模态理解"。
④ 典型应用场景
ChatGPT 是 GPT 系列最广为人知的产品形态——通过 SFT + RLHF 把 GPT 基座模型变成对话助手。GPT-4 被广泛应用于代码生成(GitHub Copilot)、内容创作、数据分析、教育辅导。GPT-4V(视觉版)支持图像理解和分析。
更多
GPT 系列采用 Decoder-only Transformer 架构。关键创新:GPT-2 证明了"更大的模型 + 更多数据 = 更好的效果"(Scaling Law 的早期证据);GPT-3 展示了 Few-shot Learning 的惊人能力(不需要微调,给几个示例就能完成新任务);GPT-4 据信使用 MoE 架构和多模态训练。GPT-4 是第一个在律师资格考试、GRE 等标准化测试中超过大多数人类的 AI 模型。
「GPT 系列不是技术上最激进的,但却是工程上最成功的——它把 AI 从"研究论文里的基准分数"变成了"数亿人每天在用的产品",这个转变比任何技术突破都更重要。
」