ttyd 一款运行在浏览器上的命令行工具

内网服务器无法连接公网,但是办公电脑可以连接内网服务器又可以连接公网。进行到这里已经完成所有部署，可通过curl www.baidu.com验证。此处配置为win10系统笔记本。1、Internet配置。

解决方法：因为是本地源码编译安装gcc/g++,动态库没有加载到环境变量中，根据安装情况在/etc/profliez中设置环境变量。已经在本地源码编译安装gcc/g++，现在源码安装cmake。1、提示找不到libmpc.so。3、提示找不到crt1.o文件。2、提示找不到as文件。

进入容器，修改配置文件。不修改启动模型会报错。

1、vllm源码编译安装完成后，运行模型提示operator torchvision::nms does not exist错误。通过官方提供的pip install vllm安装的vllm框架不支持cpu加载模型。因为本人使用系统为uos1070e，官方提供版本较低，所以均选择源码安装。1、gcc/g++ 安装版本要求12.0版本及以上。2、 cmake版本要求3.26及以上。解决方法：安装to

1、python官网安装python 【推荐要3.8以上版本】2、安装vllm模块。4、利用python脚本调用测试。2、安装python环境。出现以下内容代表运行成功。

【代码】【运维】UOS1070e操作系统源码编译gcc。

进入容器，修改配置文件。不修改启动模型会报错。

1、vllm源码编译安装完成后，运行模型提示operator torchvision::nms does not exist错误。通过官方提供的pip install vllm安装的vllm框架不支持cpu加载模型。因为本人使用系统为uos1070e，官方提供版本较低，所以均选择源码安装。1、gcc/g++ 安装版本要求12.0版本及以上。2、 cmake版本要求3.26及以上。解决方法：安装to

linux解决方法：设置go代理export GOPROXY=https://goproxy.io参考链接：https://blog.csdn.net/hhyukJae/article/details/106980818