设置最小上下文长度，启动模型时会自动检测可用显存然后拓展上下文长度，会增加显存占用和减慢模型首次启动速度。指定模型位置，如果模型很大有多个gguf切片，只需要给出一个剩下的会自动索引。使用当前目录的上两级目录中的models文件夹作为模型文件夹。上下文长度，不设置则默认为0，从模型配置中加载上下文长度。指定模型服务启动的名字，不设置则默认使用-m指定的文件名。进入指定的网址进入llama自带的we

ollama的Github链接ollama官网链接打开后点击下载下载完成后进行安装，安装完毕后在终端输入以下，代表安装成功ollama在ollama官网的模型库中找到需要的模型，这里使用阿里最新开源的qwen2.5复制这里的命令代码然后在终端中输入这行命令，等待模型下载完毕，然后可以开始对话ollama的模型默认安装位置ollama本地运行状态在浏览器中输入以上链接，出现以下则代表ollama运行

然后输入以下选择模型，改为ollama中安装的模型名字。在终端中cd到项目文件夹后，输入以下连接ollama。如以下为添加qwen2.5 code。启动ollama服务后。

文件夹如下找到这个config.toml文件。

video_classification为项目文件夹x64/Debug为编译后exe生成的地方，目录结构如下。可以使用visual studio自带的包管理工具Nuget下载opencv和onnxruntime。以下两者区别在于，带字幕d是debug时使用，不带的是release版本用。至此opencv配置完成，但仅能在当前项目中使用。找到合适的版本下载，Asset在页面底部，往下拉。将上一步的l

此地址实际的位置是docker容器内部的以下地址，此处用的modelscope，huggingface有同样的目录结构。自定义服务启动后的模型名字为Qwen/Qwen3-VL-4B-Thinking。分配GPU显存80%给模型使用，默认值0.9。添加tail -f /dev/null。或者访问sglang官方网站查看。

hasCompletedOnboarding: true：表示引导已完成，程序启动后直接进入工作模式。C:\Users\你的用户名找到.claude.json这个文件，在json中添加以下字段。创建并打开配置文件C:\Users\您的用户名.claude\settings.json。禁用遥测，不向anthropic发送数据。

即可在lm客户端中找到模型文件，然后配置启动即可。只需要指定路径存放gguf模型文件。此处1800为秒，即空闲半小时。

服务器现在正在运行，通过浏览器访问 http://127.0.0.1:8000/。你将看到一个“祝贺”页面，有一只火箭正在发射。现在是个提醒你的好时机：千万不要 将这个服务器用于和生产环境相关的任何地方。这个服务器只是为了开发而设计的。这行代码将会在当前目录下创建一个 mysite 目录。cd到想要创建项目的文件夹下，输入以下命令创建项目。会生成以下目录结构的项目。

PyQT6