logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

win11安装gpu版本opencv

print('CUDA设备:', cv2.cuda.getCudaEnabledDeviceCount())"E:\Anaconda3\envs\你的虚拟环境\Lib\site-packages\cv2\cv2.pyd。print('版本:', cv2.__version__)"notepad E:\Anaconda3\envs\你的虚拟环境\Lib\sitecustomize.py。# 创建默认

#opencv#人工智能#计算机视觉
在昇腾910B上用vllm-ascend部署模型

之前用mindie1.0.0部署的模型,在dify工作流中不能停止响应。到昇腾官方查mindie只支持triton格式,换成vllm后测试可以在模型生成过程中停止响应。

#python#语言模型
910B分布式部署Qwen235B

主节点 —> 节点1、服务器1子节点 —> 节点2、服务器2。

#语言模型
vllm-ascend部署qwen3-rerank-8B

"人工智能在医疗领域的应用越来越广泛","query": "人工智能的发展前景","机器学习是人工智能的核心技术之一","传统行业数字化转型需要人工智能支持"

vllm-ascend部署qwen3-embedding-8B

{"role": "user", "content": "你好"}

在昇腾910B上用vllm-ascend部署模型

之前用mindie1.0.0部署的模型,在dify工作流中不能停止响应。到昇腾官方查mindie只支持triton格式,换成vllm后测试可以在模型生成过程中停止响应。

#python#语言模型
在昇腾910B上用vllm-ascend部署模型

之前用mindie1.0.0部署的模型,在dify工作流中不能停止响应。到昇腾官方查mindie只支持triton格式,换成vllm后测试可以在模型生成过程中停止响应。

#python#语言模型
在昇腾910B上用vllm-ascend部署模型

之前用mindie1.0.0部署的模型,在dify工作流中不能停止响应。到昇腾官方查mindie只支持triton格式,换成vllm后测试可以在模型生成过程中停止响应。

#python#语言模型
到底了