
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
Linux服务器配置国内镜像,“暂时不能解析域名“报错解决
sudo apt镜像配置,“暂时不能解析域名”报错问题解决

VScode通过跳板机连接内网服务器
内网服务器无法通过穿透暴露在公网,需要远程开发可以在内网环境中配置一个可以连接公网的跳板机,进行远程开发。
vllm减小显存 | vllm小模型大显存问题
这也是为什么有时候你跑1.5b模型也会显存拉满。实际测试也是如此,我使用下述命令,会报错。vllm日志输出的内容,你可以设置。
frp内网穿透快速启动
将 `./frpc -c ./frpc.toml` 配置成 `systemd` 的服务脚本并设置开机自启动
Linux光标快捷键
删除前后字符并移动光标。

并发调用大模型API接口
对大模型API接口的并发调用,速度可以快一倍以上。
并发调用大模型API接口
对大模型API接口的并发调用,速度可以快一倍以上。
vllm减小显存 | vllm小模型大显存问题
这也是为什么有时候你跑1.5b模型也会显存拉满。实际测试也是如此,我使用下述命令,会报错。vllm日志输出的内容,你可以设置。
MPC模型预测控制与RL强化学习的差异性
模型预测控制(MPC)与强化学习(RL)差异性调研

vscode命令行debug
一般命令行debug会在远程连服务器的时候用上,命令行debug的本质是在执行时暴露一个监听端口,通过进入这个端口,像本地调试一样进行。







