logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Rust 异步编程:错误处理的艺术与最佳实践

Rust异步编程中的错误处理艺术 在Rust异步编程中,错误处理面临同步错误和异步上下文的双重挑战。核心原则仍以Result<T,E>为基础,但需结合异步特性进行扩展:1)为异步任务定义领域特定的错误类型;2)妥善处理tokio::spawn返回的JoinHandle;3)实现超时和取消机制;4)采用指数退避策略进行重试;5)设计优雅关闭流程。关键在于将类型安全、结构化错误处理和弹性设

文章图片
#rust#开发语言#后端
Rust 异步编程的灵魂:Waker 与任务唤醒解析

本文深入解析了Rust异步编程中的Waker机制。Waker是连接Future和执行器的关键抽象,当Future返回Poll::Pending时必须存储Waker以便后续唤醒。文章通过手动实现Delay Future详细展示了Waker的注册和唤醒过程,并剖析了其底层RawWaker和VTable机制。这种设计实现了执行器与Future的解耦,体现了依赖反转原则。文章还强调Waker的正确使用要点

文章图片
#网络
《仓颉泛型深度解析:从类型参数到约束的安全之道》

文章摘要: 本文深入探讨了泛型编程在仓颉语言中的设计哲学与实现机制。首先分析了泛型本质是类型抽象而非简单复用,强调单态化编译特性带来的零开销和类型安全。重点阐述了约束机制的核心作用,通过Trait Bounds为泛型提供能力边界,并详细解析Comparable、Clone等标准库关键约束。文章还展示了高阶约束(Where子句)和生命周期管理的专业技巧,最后通过LRU缓存实现案例,演示了如何综合运用

文章图片
#安全
昇腾CANN算子开发实战:Int8量化优化

本文探讨了在UGC业务中实现高效模型推理的关键技术——$Int8$量化及CANN自定义算子开发。文章指出,通过将$Int8$模型输出的反量化和反归一化操作融合为单一算子,并利用Ascend NPU的Vector单元并行处理,可显著提升计算效率。文中详细介绍了融合算子的设计思路、核心实现逻辑及其在目标检测模型中的应用,强调了对数据类型转换、向量广播和Tiling策略的优化要点。该技术有效减少了中间变

文章图片
#大数据#人工智能#数据库
CANN算子开发实战:UGC内容处理的性能优化与实现

本文探讨了华为CANN平台在用户生成内容(UGC)处理中的应用。面对多样化的UGC内容和实时性需求,CANN平台通过高性能计算和灵活算子设计,支持开发者构建高效的模型处理流程。文章详细介绍了CANN算子的开发策略,包括针对性算子设计、性能优化技巧和资源管理方法,并以图像审核系统为例展示了实际应用效果,处理延迟降低60%且准确率达95%以上。最后展望了多模态处理和安全合规等未来发展方向,并介绍了CA

文章图片
#性能优化
CANN笔记:CANN 自定义算子实现不规则特征的动态选择

摘要:本文探讨了如何在UGC场景下通过自定义CANN算子优化动态控制流和非规则计算。针对传统静态编译在动态特征门控机制中的瓶颈问题,提出利用TIK/TE技术将外部控制流转化为数据驱动计算。重点剖析了ConditionalFeatureGather算子的实现,展示了如何通过索引驱动的非连续访存和动态mask/padding机制,在NPU上高效处理条件特征选择。文章详细解析了TIK核心逻辑、动态访存优

文章图片
#java#算法#python
深入解析 CANN ops-nn 仓库:自定义神经网络算子的高效实现路径

本文深入解析华为CANN架构中的ops-nn仓库设计理念,展示如何基于该框架开发高性能AI算子。该仓库采用模块化设计,将通用逻辑与算子实现解耦,提升代码复用性。通过一个支持动态padding的自定义卷积算子案例,详细说明开发流程:从算子注册、核心计算逻辑实现到调度策略集成和测试验证。案例验证了ops-nn的可扩展性和开发者友好性,证明其不仅是算子集合,更是一套成熟的算子开发框架。文章最后提供了CA

文章图片
#AIGC
用 CANN ops-nn 实现 AIGC 中的 GELU 快速近似算子:一次贴近工程落地的深度实践

本文探讨了在AIGC推理中优化GELU激活函数的方法。通过分析主流架构发现,标准GELU计算开销大,而现有近似方案仍存在性能瓶颈。基于CANN的ops-nn框架,作者实现了一个融合多项式近似的GELU算子:采用分段有理近似替代tanh调用,将GELU公式中的超越函数转换为多项式运算。实测表明,该方案在batch=16、hidden_dim=4096的典型场景下,相比PyTorch原生实现可减少28

文章图片
#AIGC
深入解析 CANN ops-nn 仓库:自定义神经网络算子的高效实现路径

本文深入解析华为CANN架构中的ops-nn仓库设计理念,展示如何基于该框架开发高性能AI算子。该仓库采用模块化设计,将通用逻辑与算子实现解耦,提升代码复用性。通过一个支持动态padding的自定义卷积算子案例,详细说明开发流程:从算子注册、核心计算逻辑实现到调度策略集成和测试验证。案例验证了ops-nn的可扩展性和开发者友好性,证明其不仅是算子集合,更是一套成熟的算子开发框架。文章最后提供了CA

文章图片
#AIGC
CANN笔记:CANN 自定义算子实现不规则特征的动态选择

摘要:本文探讨了如何在UGC场景下通过自定义CANN算子优化动态控制流和非规则计算。针对传统静态编译在动态特征门控机制中的瓶颈问题,提出利用TIK/TE技术将外部控制流转化为数据驱动计算。重点剖析了ConditionalFeatureGather算子的实现,展示了如何通过索引驱动的非连续访存和动态mask/padding机制,在NPU上高效处理条件特征选择。文章详细解析了TIK核心逻辑、动态访存优

文章图片
#java#算法#python
    共 21 条
  • 1
  • 2
  • 3
  • 请选择