本文记录了在Windows11上安装Docker时遇到的网络问题和权限问题的解决方法。作者首先尝试通过wsl--install命令安装WSL失败，转而使用GitHub上的离线安装包完成WSL安装。在安装Docker Desktop时遇到权限错误，通过PowerShell管理员权限删除C:\ProgramData\DockerDesktop文件夹后重新安装成功。文章提供了相关教程和下载链接，为在Wi

其中有两个是Deprecated的，而我们平时用到的HuggingFace的embedding model都基本以SentenceTransformer形式提供，我测试了一下，embeddings.huggingface.HuggingFaceBgeEmbeddings这个类是可以使用的，embeddings.huggingface.HuggingFaceInstructEmbeddings这个会

iFlytekSpark-13B: 讯飞星火开源-13B（iFlytekSpark-13B）拥有130亿参数，新一代认知大模型，一经发布，众多科研院所和高校便期待科大讯飞能够开源。最后说说硬件要求，我做完了以上配置就不报别的错了，只是还是显存溢出了，我的电脑是3090*2的，看来最低只能用40GB单卡，两个24GB由于各种原因会爆显存。需要注意的是，如上面repo里介绍的，由于模型太大所以使用Gi

这样就指定了上下文长度为8192。

例如我们在windows环境变量中可以把OLLAMA_KEEP_ALIVE改成1h，OLLAMA_NUM_PARALLEL改成2，就可以同时有两个并发访问，并且驻留时间为1h了（如果用ollama ps则会显示59 minutes）。如果要改驻留时间，就修改OLLAMA_KEEP_ALIVE，那这个环境变量是什么单位呢？

我们构造数据集的时候，最简单的方法就是只构造instruction和output。当然，如果训练数据集比较小的话，测试的效果也不会太好。如果大家只是想对微调效果和特定问题进行展示，可以训练模型到过拟合，呵呵呵。训练完成后切换到Export，然后在上面的“微调方法”——“检查点路径”中选择刚才存储的目录Train_2024_xxxx之类，然后指定导出文件的目录，然后就可以导出了。不过这时候还没有模型

最近测试发现，使用LLama factory微调Qwen 2.5大模型，7B模型的效果要好于32B。问了一下大模型，感觉需要修改一下LoRA的超参数。这些是大模型给出的建议设置，我准备先从rank=16试试，这时候lora_alpha应设置为32。10万+样本数据可尝试更高rank（r≥48）‌；‌（如r=32时alpha取64-128）‌；小样本场景（<1万）建议r≤32避免过拟合‌。lora_

其实到最后也没搞清楚，是其中一步起了作用，还是很多步综合起来起了作用。不过相信遇到类似问题的朋友按照我这种操作，应该还是可以解决这个问题的。这两天试了一下在Ubuntu上安装docker版本的Dify，说来惭愧，之前一直没怎么用过docker。碰到了一些问题，这里记录一下。这两篇博客都已经讲的比较详细了，我就不再重复了。首先我不知道为什么要加这么多源，难道大家就不能选几个有用的源？其次，发现加了之

在一个新的Ubuntu 24.04上安装Ollama，结果报类似于：curl: (28) Failed to connect to github.com port 443 after 136027 ms: Couldn't connect to server的错，想想可能还是网络的问题。则不能解决问题（和上面这些稍有不同，我这里查到的github.com的网址是：140.82.112.3）。发现这

不得不说，很多看似很成熟的程序，也会有很多内存泄露的问题：由于实验需要，我需要在硬盘上生成很多的小文件，然后调用srcML处理（我也试过直接在内存中读写，但会有其他问题），然后根据处理结果生成embedding。最终生成几个list，每个list大概有十几万个图。本来很简单的过程，但是跑实验的时候遇到了好几个内存泄漏问题：1. 我希望看到生成小文件的过程，因为可以判断程序运行的速度，就一直开着文件