logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【SQLite】SQLite在python中的使用

【代码】【SQLite】SQLite在python中的使用。

#sqlite#python
【vLLM】使用vLLM部署本地模型

GitHub源码官方文档部署命令示例1部署命令示例2所有命令参数。

【Linux】在windows系统中使用Linux

在powershell中执行命令安装。

#ubuntu#linux
【py打包exe】python打包python文件为exe文件

add-binary后面以分号分隔的参数:第一个为dll文件当前存放路径,第二个为打包好exe后,程序从哪里找到这个dll。-w:打包工作台,就是那个黑色的界面,如果有GUI就要加-w,例子需要在工作台打印就不能加。将 Python 代码编译为 C 语言代码,再编译成 exe,运行效率更高。pyinstaller -F -w -i 图片名.ico 脚本名.py。以下会查找main.py文件,如果没

#python
【llama.cpp】llama.cpp部署大模型

设置最小上下文长度,启动模型时会自动检测可用显存然后拓展上下文长度,会增加显存占用和减慢模型首次启动速度。指定模型位置,如果模型很大有多个gguf切片,只需要给出一个剩下的会自动索引。使用当前目录的上两级目录中的models文件夹作为模型文件夹。上下文长度,不设置则默认为0,从模型配置中加载上下文长度。指定模型服务启动的名字,不设置则默认使用-m指定的文件名。进入指定的网址进入llama自带的we

【ollama】ollama配置本地大模型并运行

ollama的Github链接ollama官网链接打开后点击下载下载完成后进行安装,安装完毕后在终端输入以下,代表安装成功ollama在ollama官网的模型库中找到需要的模型,这里使用阿里最新开源的qwen2.5复制这里的命令代码然后在终端中输入这行命令,等待模型下载完毕,然后可以开始对话ollama的模型默认安装位置ollama本地运行状态在浏览器中输入以上链接,出现以下则代表ollama运行

#docker#python
【aider】aider使用ollama本地模型

然后输入以下选择模型,改为ollama中安装的模型名字。在终端中cd到项目文件夹后,输入以下连接ollama。如以下为添加qwen2.5 code。启动ollama服务后。

【codex】修改配置设置本地模型

文件夹如下找到这个config.toml文件。

【SGlang】sglang部署本地模型

此地址实际的位置是docker容器内部的以下地址,此处用的modelscope,huggingface有同样的目录结构。自定义服务启动后的模型名字为Qwen/Qwen3-VL-4B-Thinking。分配GPU显存80%给模型使用,默认值0.9。添加tail -f /dev/null。或者访问sglang官方网站查看。

#sglang
【Claude Code】安装

hasCompletedOnboarding: true:表示引导已完成,程序启动后直接进入工作模式。C:\Users\你的用户名找到.claude.json这个文件,在json中添加以下字段。创建并打开配置文件C:\Users\您的用户名.claude\settings.json。禁用遥测,不向anthropic发送数据。

    共 36 条
  • 1
  • 2
  • 3
  • 4
  • 请选择