logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

vLLM 启动 GGUF 模型踩坑记:从报错到 100% GPU 占用的原因解析

本文记录了使用 vLLM 部署本地 GGUF 格式大模型的踩坑过程。从最初的路径格式错误,到参数解析问题,再到 NumPy 版本兼容性引发的。

#linux
【github】主页显示star和fork

确保分支名正确,通常是。

文章图片
#github
【docker】Dockerfile 中使用宿主机代理的方式

在实际项目中,这些方式经常是混合使用的。让我想想这些方式的使用场景…

文章图片
#docker#容器#运维
【git】修改git凭据

【代码】【git】修改git凭据。

文章图片
#git
【Linux】proxychain4 Linux 下的网络代理工具

ProxyChains-NG(Next Generation)是 ProxyChains 的改进版本,它允许你在 Linux 系统中通过 SOCKS4、SOCKS5 或 HTTP 代理服务器来转发应用程序的网络流量。通过使用 ProxyChains-NG,你可以轻松地绕过网络限制、隐藏真实 IP 地址,或者在测试环境中模拟不同的网络环境。ProxyChains-NG 是一款功能强大的网络代理工具,

文章图片
#linux#网络#运维
【vscode】轻松解决 vscode 远程连接不上

【代码】【vscode】轻松解决 vscode 远程连接不上。

文章图片
#linux
【强化学习-读书笔记】动态规划(策略评估、价值迭代、策略迭代算法)

动态规划 (Dynamic Programming, DP) 是一类优化方法,在给定一个用马尔可夫决策过程 (MDP) 描述的完备环境模型的情况下,其可以计算最优的策略。

文章图片
#动态规划#人工智能
    共 48 条
  • 1
  • 2
  • 3
  • 4
  • 5
  • 请选择