logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Linux服务器配置国内镜像,“暂时不能解析域名“报错解决

sudo apt镜像配置,“暂时不能解析域名”报错问题解决

文章图片
#服务器#linux#运维
VScode通过跳板机连接内网服务器

内网服务器无法通过穿透暴露在公网,需要远程开发可以在内网环境中配置一个可以连接公网的跳板机,进行远程开发。

#vscode#服务器#ide
vllm减小显存 | vllm小模型大显存问题

这也是为什么有时候你跑1.5b模型也会显存拉满。实际测试也是如此,我使用下述命令,会报错。vllm日志输出的内容,你可以设置。

frp内网穿透快速启动

将 `./frpc -c ./frpc.toml` 配置成 `systemd` 的服务脚本并设置开机自启动

#网络
Linux光标快捷键

删除前后字符并移动光标。

文章图片
#linux#vim#运维
并发调用大模型API接口

对大模型API接口的并发调用,速度可以快一倍以上。

并发调用大模型API接口

对大模型API接口的并发调用,速度可以快一倍以上。

vllm减小显存 | vllm小模型大显存问题

这也是为什么有时候你跑1.5b模型也会显存拉满。实际测试也是如此,我使用下述命令,会报错。vllm日志输出的内容,你可以设置。

MPC模型预测控制与RL强化学习的差异性

模型预测控制(MPC)与强化学习(RL)差异性调研

文章图片
vscode命令行debug

一般命令行debug会在远程连服务器的时候用上,命令行debug的本质是在执行时暴露一个监听端口,通过进入这个端口,像本地调试一样进行。

#vscode#ide#编辑器
    共 26 条
  • 1
  • 2
  • 3
  • 请选择