0. 导读 GPT 近期密集爆发，作为普通人，我们可以不了解技术的细节，但不能不知道他的前世今生，以及更重要的要学会如何使用这个工具。G-Generative, P-Pretrained, T-TransformerG 是通用的，P 是预训练，T 是一种结构，有效规避了 RNN 的传递缺陷和低效问题，能够处理句中的所有词。 1. 历史 2019.02 GPT-2 出现 2020.06 GPT-3 出现 2020.09 GPT-3 + PET(pattern exploiting training) 人工离散模板出现…