logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

关于vllm【常见问题解决方案】

这是 Triton 编译器 在生成 GPU 内核时失败,常见于:[1] Tesla T4(Compute Capability 7.5) 不支持某些 Triton 特性。[2] vLLM 版本 + Triton 版本不兼容。解决方案[1] 禁用--enable-prefix-caching。

#linux#经验分享#AI
关于Hugging Face【常见问题解决方案】

该协议在网络不稳定时非常容易报IncompleteBody或CAS service error。Hugging Face 从 0.26.0 开始默认启用 Xet Storage 新协议。降级到 0.25.x 可以 彻底禁用 Xet,回到老的、更稳定的下载逻辑。[1] 新建一个虚拟环境执行以下命令。

#经验分享#AI#python
Ollama使用常见问题

问题描述ollama下载模型默认路径为C盘,但该盘空间不足。解决方案添加系统环境变量OLLAMA_MODELS,设置其值为新的路径。

#经验分享#自然语言处理#人工智能
关于VMware虚拟机【安装配置、使用细节、常见问题解决方案等】

VMware上安装了kali系统,在使用过程中鼠标一旦划过虚拟机边缘,NumLock就跳变。虚拟机中的NumLock状态和物理机中NumLock状态不一致。具体分为以下几种情况:1、虚拟机一段时间(几分钟)未使用,Linux自动锁屏导致NumLock状态变为off。2、虚拟机每次开机NumLock状态一直保持off,不会自动开启。3、单纯NumLock状态不一致。

#linux#运维#程序人生 +2
到底了