登录社区云,与社区用户共同成长
邀请您加入社区
通过pos和neg标签来分类评论的好坏,以下是结果案例
免费领 150 小时云算力,进群参与显卡、AI PC 幸运抽奖
更多推荐
WSL2 GPU 直连与 vLLM 大模型推理
DCU使用技术报告_中篇_gfx936_DCU_Qwen3.5-27B_Triton-ROCm_Attention与GEMV深度优化实战
系列文章中篇。上篇解决了环境、基线和 Profile 的可信度问题;这一篇进入算子层,记录专用 Prefill Attention、Q10/Q20 Query 复用、Gate/Up Triton GEMV,以及一批看起来合理但最终没有采用的实验。
nano-vllm环境安装
扫一扫分享内容
为遵守国家网络实名制规定,未绑定将限制内容发布与互动
所有评论(0)