1、目前llm训练框架

LLaMA-Factory/README_zh.md at main · hiyouga/LLaMA-Factory · GitHub

2、项目特色

• 多种模型：LLaMA、LLaVA、Mistral、Mixtral-MoE、Qwen、Yi、Gemma、Baichuan、ChatGLM、Phi 等等。
• 集成方法：（增量）预训练、（多模态）指令监督微调、奖励模型训练、PPO 训练、DPO 训练、KTO 训练、ORPO 训练等等。
• 多种精度：32 比特全参数微调、16 比特冻结微调、16 比特 LoRA 微调和基于 AQLM/AWQ/GPTQ/LLM.int8 的 2/4/8 比特 QLoRA 微调。
• 先进算法：GaLore、BAdam、DoRA、LongLoRA、LLaMA Pro、Mixture-of-Depths、LoRA+、LoftQ 和 Agent 微调。
• 实用技巧：FlashAttention-2、Unsloth、RoPE scaling、NEFTune 和 rsLoRA。
• 实验监控：LlamaBoard、TensorBoard、Wandb、MLflow 等等。
• 极速推理：基于 vLLM 的 OpenAI 风格 API、浏览器界面和命令行接口。

3、各种训练方式样例

https://github.com/hiyouga/LLaMA-Factory/blob/main/examples/README_zh.md

4、相关库

模型库：   魔搭社区     各种模型文件，可以在这个里面下载

目前已注册的各种template  ：    https://github.com/hiyouga/LLaMA-Factory/blob/main/src/llamafactory/data/template.py

5、相关命令

5.1、llamafactory-cli

使用llamafactory-cli help查看

----------------------------------------------------------------------
| Usage:                                                             |
|   llamafactory-cli api -h: launch an OpenAI-style API server       |
|   llamafactory-cli chat -h: launch a chat interface in CLI         |
|   llamafactory-cli eval -h: evaluate models                        |
|   llamafactory-cli export -h: merge LoRA adapters and export model |
|   llamafactory-cli train -h: train models                          |
|   llamafactory-cli webchat -h: launch a chat interface in Web UI   |
|   llamafactory-cli webui: launch LlamaBoard                        |
|   llamafactory-cli version: show version info                      |
----------------------------------------------------------------------

LLaMA-Factory/src/llamafactory/cli.py at main · hiyouga/LLaMA-Factory · GitHub

5.2、llamafactory-cli二级命令

数据、评估、训练、生成、模型超参在此目录

LLaMA-Factory/src/llamafactory/hparams at main · hiyouga/LLaMA-Factory · GitHub

6、调用openai api

https://platform.openai.com/docs/api-reference/authentication

7、llamafactory支持的模型

LLaMA-Factory/src/llamafactory/extras/constants.py at main · hiyouga/LLaMA-Factory · GitHub

8、遇到问题

https://github.com/hiyouga/LLaMA-Factory/issues/3078

API_PORT=8000 llamafactory-cli api examples/inference/qwen2_vllm.yaml报错 · Issue #4555 · hiyouga/LLaMA-Factory · GitHub

9、参考文献

https://zhuanlan.zhihu.com/p/695287607    （LLaMA-Factory实践知乎较好案例）