参考B站“九天Hector”的DeepSeek R1微调实战视频的介绍，在4090 GPU上，测试了DeepSeek-R1-Distill模型的推理和微调训练。到wandb上注册一个账户，生成key，例如：key:0123456789。"YOUR_WANDB_API_KEY"是之前申请的wandb key。question = "请问如何证明根号2是无理数？4090关闭P2P和InfiniBand

链接:https://caiyun.139.com/m/i?run_CPU运行.bat：无需CPU，速度比较慢。解压后点击“runxxx.bat”文件运行。run_6G显存运行.bat：小显存显卡。run_13G显存运行：大显存显卡。

2-1、如果没有GPU或者GPU显存小于12G，建议用在线大模型：用文本编辑器修改config目录中的model_config.py文件，将申请的大模型key输入到114~184行，同时修改100行LLM_MODEL为对应大模型，例如："zhipu-api"因国内访问huggingface.co困难，做了一个windows下的整合包，内置了chatglm2-6B、m3e-base，可以本地运行la

下载：https://huggingface.co/r4ziel/xformers_pre_built/blob/main/triton-2.0.0-cp310-cp310-win_amd64.whl。下载：https://huggingface.co/r4ziel/xformers_pre_built/blob/main/triton-2.0.0-cp310-cp310-win_amd64.wh

由于训练的数据规模较小，训练的tokenizer效果一般，也可以直接复制 happy-llm/docs/chapter5/code/tokenizer_k目录，已经训练好的tokenizer文件。在base_model_215M就可以看到训练生成的基础模型文件：pretrain_1024_18_6144.pth、pretrain_1024_18_6144_step20000.pth、pretrai

由于训练的数据规模较小，训练的tokenizer效果一般，也可以直接复制 happy-llm/docs/chapter5/code/tokenizer_k目录，已经训练好的tokenizer文件。在base_model_215M就可以看到训练生成的基础模型文件：pretrain_1024_18_6144.pth、pretrain_1024_18_6144_step20000.pth、pretrai

解压：ffmpeg-6.0-full_build-shared.zip 到根目录（例如：c:\ffmpeg-6.0-full_build-shared）解压：ffmpeg-6.0-full_build-shared.zip 到根目录（例如：c:\ffmpeg-6.0-full_build-shared）下载：ffmpeg-6.0-full_build-shared.zip。下载：ffmpeg-6.