AIGC实战——Transformer模型
0. 前言
1. T5
2. GPT-3 和 GPT-4
3. ChatGPT
小结
系列链接
0. 前言
我们在 GPT (Generative Pre-trained Transformer) 一节所构建的 GPT 模型是一个解码器 Transformer，它逐字符地生成文本字符串，并使用因果掩码只关注输入字符串中的前一个单词。另一些编码器 Transformer，不使用因果掩码，而是关注整个输入字符串以提取有意义的上下文表示。对于一些其他任务，如语言翻译，可以使用编码器-解码器 Transformer，将一个文本字符串翻译为另一个文本字符串，这类模型包含编码器 Transformer 块和解码器 Transformer 块。下表总结了三种类型的 Transformer 模型，其中列出了每种
文章来源
评论可见，请评论后查看内容，谢谢！！！
您阅读本篇文章共花了：
发表评论