登录社区云,与社区用户共同成长
邀请您加入社区
上面issue有人提问是否有riscv的支持,回复是说如果pytorch支持了那么vllm应该可以直接支持。这个issue提到有人想为vllm提供riscv贡献。这个稍早的PR提供的是RVV支持,但是还在拉扯中。这个PR提供的是Riscv的标量支持,已经合入。