推荐一个给ChatGLM-6B 做微调的repo,支持 freeze、ptuning、lora三种微调方法。其中lora效果最好。

⭐️ 实测结果:
- 单卡V100,Lora微调 alpaca_gpt4_zh,40分钟
- 六卡V100,freeze 微调 alpaca_gpt4_zh,10分钟

🖥 https://github.com/hiyouga/ChatGLM-Efficient-Tuning

----------------------
GitHub
GitHub - hiyouga/ChatGLM-Efficient-Tuning: Fine-tuning ChatGLM-6B with PEFT | 基于 PEFT 的高效 ChatGLM 微调

Fine-tuning ChatGLM-6B with PEFT | 基于 PEFT 的高效 ChatGLM 微调 - GitHub - hiyouga/ChatGLM-Efficient-Tuning: Fine-tuning ChatGLM-6B with PEFT | 基于 PEFT 的高效 ChatGLM 微调

----------------------

via chatGPT中文社区 - Telegram Channel
 
 
Back to Top
Copyright © 2025 BESTAI. All rights reserved.
BEST AI API中转 - OpenAI DeepSeek Claude Gemini Grok MidJourney 2.8折起
[email protected]