logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

小智AI音箱进阶篇:深度定制、边缘计算与多设备协同开发实战

小智AI音箱进阶篇:深度定制、边缘计算与多设备协同开发实战

文章图片
#人工智能#边缘计算
现代软件架构演进:从单体到云原生 + 代码实战详解

现代软件架构演进:从单体到云原生 + 代码实战详解

文章图片
#云原生
多模态大模型落地实战:CANN 如何加速 Vision-Language 推理?

多模态大模型落地实战:CANN 如何加速 Vision-Language 推理?

文章图片
#自然语言处理#人工智能#3d +2
揭秘 CANN 内存管理:如何让大模型在小设备上“轻装上阵”?

揭秘 CANN 内存管理:如何让大模型在小设备上“轻装上阵”?

文章图片
#flutter#3d#前端 +2
CANN 支持多模态大模型:Qwen-VL 与 LLaVA 的端侧部署实战

CANN 支持多模态大模型:Qwen-VL 与 LLaVA 的端侧部署实战

文章图片
#音视频#架构#开源 +2
CANN 训练优化实战:大模型分布式训练在昇腾上的实践

CANN 训练优化实战:大模型分布式训练在昇腾上的实践

文章图片
#分布式#计算机视觉#人工智能 +1
CANN 推理部署实战:大模型在昇腾上的优化指南

CANN 推理部署实战:大模型在昇腾上的优化指南

文章图片
#交互#python#人工智能
CANN LoRA 微调实战:低成本大模型适配的完整方案

CANN LoRA 微调实战:低成本大模型适配的完整方案

文章图片
#深度学习#机器学习#人工智能 +1
CANN 容器化部署:Docker 与 K8s 实战

本文介绍了基于CANN的NPU容器化部署方案。首先分析了容器化优势,包括环境一致性、弹性扩缩容和资源隔离等。然后详细说明了Docker环境搭建步骤,包括基础镜像构建、推理镜像配置和设备透传方法。最后介绍了Kubernetes集群部署方案,包含NPU Device Plugin配置和推理服务部署。该方案实现了NPU推理服务的标准化部署,解决了裸机部署中的环境依赖复杂、扩缩容困难等问题。

文章图片
#docker#kubernetes#容器
    共 509 条
  • 1
  • 2
  • 3
  • 51
  • 请选择