模型家族
T5
T5 是 Google 在 2019 年提出的"大一统"文本模型——把所有 NLP 任务都统一成"文本到文本"格式,用一个模型解决所有问题。
① 一句话定义
T5(Text-to-Text Transfer Transformer)是 Google 在 2019 年提出的一个Encoder-Decoder Transformer 模型。它的核心思想是一个优雅的"统一框架":把所有 NLP 任务(翻译、摘要、问答、分类)都表述为"输入文本 → 输出文本"——输入是任务描述+数据,输出就是答案。不需要为不同任务设计不同的输出层。
📜 历史与来源
T5(110 亿参数)在当时是最大的公开模型之一。它的"Text-to-Text"统一框架深刻影响了后续的 Prompt 设计——后来的 InstructGPT/ChatGPT 的理念("一切任务都可以表述为对话")在某种程度上是 T5 思想的延续。2020 年代,Decoder-only 架构在生成和对话领域占据主导后,Encoder-Decoder 在主流 LLM 中退居次要位置,但在翻译、语音识别等领域仍然是主力。
更多
T5 采用完整的 Encoder-Decoder Transformer(不同于 GPT 只用 Decoder,也不同于 BERT 只用 Encoder),更适合需要"理解输入→生成输出"的任务(翻译、摘要)。Encoder 处理输入文本的完整上下文,Decoder 逐词生成输出。这种架构在需要精确对齐输入和输出的任务上优于 Decoder-only。
「T5 的优雅在于把"所有 NLP 问题都变成了文本翻译问题"——不需要为每个任务设计特殊输出层。"一切都可以是文本到文本"。这个简洁的思想至今仍在影响 Prompt 工程的设计哲学。
」