- @z27341
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
AISBench与GPUStack协同提升昇腾NPU大模型测试效率 摘要：本文介绍了国产开源软件AISBench(性能测试工具)与GPUStack(模型部署管理工具)在昇腾NPU(910B)平台上的协同使用方法。通过华为Atlas 800IA2服务器(鲲鹏920 CPU/昇腾910B NPU)的实测验证，详细说明了两种工具的集成配置要点：1)在vllm-ascend容器中部署AISBench；2)
AISBench与GPUStack协同提升昇腾NPU大模型测试效率 摘要：本文介绍了国产开源软件AISBench(性能测试工具)与GPUStack(模型部署管理工具)在昇腾NPU(910B)平台上的协同使用方法。通过华为Atlas 800IA2服务器(鲲鹏920 CPU/昇腾910B NPU)的实测验证，详细说明了两种工具的集成配置要点：1)在vllm-ascend容器中部署AISBench；2)
AISBench与GPUStack协同提升昇腾NPU大模型测试效率 摘要：本文介绍了国产开源软件AISBench(性能测试工具)与GPUStack(模型部署管理工具)在昇腾NPU(910B)平台上的协同使用方法。通过华为Atlas 800IA2服务器(鲲鹏920 CPU/昇腾910B NPU)的实测验证，详细说明了两种工具的集成配置要点：1)在vllm-ascend容器中部署AISBench；2)
AISBench与GPUStack协同提升昇腾NPU大模型测试效率 摘要：本文介绍了国产开源软件AISBench(性能测试工具)与GPUStack(模型部署管理工具)在昇腾NPU(910B)平台上的协同使用方法。通过华为Atlas 800IA2服务器(鲲鹏920 CPU/昇腾910B NPU)的实测验证，详细说明了两种工具的集成配置要点：1)在vllm-ascend容器中部署AISBench；2)
内网穿透解决方案：FRP实现Dify服务器远程访问 为解决内网Dify服务器远程访问问题，作者尝试了花生壳DDNS后发现其存在端口限制和流量计费问题。最终选择开源的FRP软件，成功实现内网穿透。方案包含： 在阿里云ECS(Ubuntu)部署FRP服务端(0.64.0版) 在内网Win11服务器部署FRP客户端 配置双向token认证和安全端口映射 实现Dify WebUI(80→15080)、远程
