有人发现用2019年 GPT-2 的 1.5B 模型为基础，使用大规模指令集进行微调之后，模型指标竟然超越了2023年的羊驼 7B 模型。
OpenAI 这是领先了多少。。
恐怖如斯
（同时GPT-2当时国内每家大公司应该都搞了。。https://twitter.com/abacaj/status/1652066193178611712

----------------------
Twitter

Fine tuned GPT-2 a 1.5B model from 2019 outperforming Alpaca LLaMA a 7B model from 2023...

----------------------

via AI News - Telegram Channel