logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

从训练到推理:基于 CANN `modelzoo-examples` 的端到端模型部署实战

不仅仅是一个示例仓库,它是一套经过工业验证的AI 模型部署方法论。快速验证模型在 NPU 上的可行性避免重复造轮子,复用最佳实践构建可维护、可扩展的推理服务对于希望将 AI 模型从实验室推向生产环境的团队来说,深入研究是迈向高效部署的关键一步。建议行动:选择你当前项目中最核心的模型,在中找到最接近的示例,进行 1:1 迁移实验。如需继续探索其他 CANN 项目(如等),或希望了解特定模型(如 St

#开发语言
从训练到推理:基于 CANN `modelzoo-examples` 的端到端模型部署实战

不仅仅是一个示例仓库,它是一套经过工业验证的AI 模型部署方法论。快速验证模型在 NPU 上的可行性避免重复造轮子,复用最佳实践构建可维护、可扩展的推理服务对于希望将 AI 模型从实验室推向生产环境的团队来说,深入研究是迈向高效部署的关键一步。建议行动:选择你当前项目中最核心的模型,在中找到最接近的示例,进行 1:1 迁移实验。如需继续探索其他 CANN 项目(如等),或希望了解特定模型(如 St

#开发语言
CANN 开源生态解析(续):`acl-adapter` —— 构建跨平台 AI 推理的桥梁

如果说是 CANN 生态中的“性能引擎”,那么就是它的“通用接口”——前者深挖算力极限,后者打通部署壁垒。两者相辅相成,共同构建起一个高效、灵活、开放的 AI 计算底座。随着国产 AI 芯片生态的成熟,像这样的抽象层将变得愈发重要。它不仅降低了开发者门槛,也为软硬协同创新提供了坚实基础。下一期,我们将继续探索 CANN 中的模型压缩工具链或分布式训练框架,敬请期待!注:本文所有内容均基于 CANN

#开源#人工智能
CANN 开源生态解析(续):`acl-adapter` —— 构建跨平台 AI 推理的桥梁

如果说是 CANN 生态中的“性能引擎”,那么就是它的“通用接口”——前者深挖算力极限,后者打通部署壁垒。两者相辅相成,共同构建起一个高效、灵活、开放的 AI 计算底座。随着国产 AI 芯片生态的成熟,像这样的抽象层将变得愈发重要。它不仅降低了开发者门槛,也为软硬协同创新提供了坚实基础。下一期,我们将继续探索 CANN 中的模型压缩工具链或分布式训练框架,敬请期待!注:本文所有内容均基于 CANN

#开源#人工智能
CANN 生态进阶实践:利用 `model-zoo` 项目高效部署视觉模型

model-zoo项目通过“模型+工具+文档”三位一体的设计,真正实现了“下载即部署”的体验。它不仅是 CANN 生态的展示窗口,更是开发者快速验证想法、加速产品迭代的利器。无论你是刚接触 AI 部署的新手,还是寻求极致性能的资深工程师,model-zoo都值得你深入探索。未来,随着更多大模型(如 Llama、Stable Diffusion)加入该仓库,CANN 的应用场景将进一步扩展至生成式

#python
CANN 生态进阶实践:利用 `model-zoo` 项目高效部署视觉模型

model-zoo项目通过“模型+工具+文档”三位一体的设计,真正实现了“下载即部署”的体验。它不仅是 CANN 生态的展示窗口,更是开发者快速验证想法、加速产品迭代的利器。无论你是刚接触 AI 部署的新手,还是寻求极致性能的资深工程师,model-zoo都值得你深入探索。未来,随着更多大模型(如 Llama、Stable Diffusion)加入该仓库,CANN 的应用场景将进一步扩展至生成式

#python
丹摩征文活动|FLUX.1 和 ComfyUI:从部署到上手,轻松驾驭!

FLUX.1 和 ComfyUI:从部署到上手,轻松驾驭! FLUX.1历史曲线 黑森林实验室推出了一款名为FLUX.1的先进图像生成模型,根据不同用户需求,提供了三种独特的版本。 FLUX.1-pro:作为专为企业打造的强大闭源版本,它提供卓越的性能和生成能力,尤其在理解提示词、提高视觉质量和细节表现,以及输出多样性方面表现优异,非常适合需要高效图像生成的企业。企业用户可以通过官方API使用此版

丹摩征文活动|Llama3.1:从设置到操作,轻松上手全攻略!

Llama3.1:从设置到操作,轻松上手全攻略! Llama3.1历史曲线 开源的大语言模型(LLM)生态系统依然生机勃勃,各种引人注目的模型不断涌现,包括像LLaMA和Alpaca这样的国际项目,以及国内开发的ChatGLM、BaiChuan和InternLM(书生·浦语)等模型。这些创新为开发者提供了在本地进行部署和个性化定制的绝佳机会,使其能够创建具有独特价值的应用程序。 在2024年7月2

丹摩征文活动|CogVideoX-2b:从安装到上线,轻松搞定全过程!

CogVideoX-2b:从安装到上线,轻松搞定全过程! CogVideoX简介 CogVideoX的推出标志着视频生成技术的一次重大突破。过去,如何在保持高效的同时提升视频质量一直是一个难题,但CogVideoX 通过其先进的3D变分自编码器,成功将视频数据压缩至原来的2%,大幅降低了资源消耗,并确保视频帧之间的流畅连贯。 其独特的3D旋转位置编码技术让视频在时间轴上如行云流水般自然呈现,每个画

到底了