登录社区云，与社区用户共同成长
邀请您加入社区
当336小时的手动调优压缩至3.8小时，当47.2%的性能提升与25.7%的碳足迹下降和谐共存——CANN全链路智能调优引擎正在将“调优焦虑”转化为“工程自信”。真正的调优智慧，是让每一次参数调整都听见硬件的呼吸与地球的脉搏；真正的工程温度，是在每一行优化代码中传递效率与责任的双重承诺。ops-nn仓库中的每一位“AI调音师”，都在为智能与可持续的完美共鸣铺就道路。你的智能调优之旅“最好的调优，是
CANN Ops-Search搜索算法算子库为搜索任务提供高效计算单元支持。该库采用分层架构设计，包含索引构建、查询处理、相关性计算和结果排序四大核心模块。索引构建支持倒排索引、向量索引和图索引等多种类型；查询处理实现查询解析、扩展和重写功能；相关性计算涵盖TF-IDF、BM25和向量相似度等算法；结果排序提供多样化排序策略。通过与其他CANN组件的深度集成，Ops-Search已成功应用于文本搜
本文介绍了CANN Asc-DevKit算子开发语言在自定义算子开发中的高效实现。Asc-DevKit通过分层架构设计，提供语言核心层、库函数层和工具链层，支持多种编程范式。其核心特性包括丰富的类型系统、控制流和函数定义，并提供了优化的算术、内存和同步函数库。文章展示了Asc-DevKit与CANN生态的深度集成，以及在实际应用中的显著性能提升（如自定义激活函数开发效率提升70%以上）。通过合理使
HCOMM是CANN生态中的核心通信基础库，为分布式系统提供高效的通信管理能力。它采用分层架构设计，包含通信管理、资源管理和性能优化三大核心机制，支持多种通信模式。通过内存池、连接池等资源复用技术降低开销，结合零拷贝、RDMA等优化手段提升性能。HCOMM已成功应用于分布式训练、参数服务器等场景，显著降低通信延迟。该库与CANN其他组件深度集成，提供完整的API接口和完善的文档支持，是构建高性能分
本文介绍了CANN Ops-Transformer算子库在大模型加速中的关键技术实现。该算子库针对Transformer架构的自注意力机制和前馈神经网络进行深度优化，通过融合算子技术将多个操作合并，减少内存访问和同步开销。核心实现包括注意力融合算子和前馈网络融合算子，利用CANN AI处理器的硬件特性优化计算效率。同时采用内存复用、数据重排、零拷贝传输等策略优化内存访问，并通过计算流水线技术实现计
在深度学习框架的底层，算子库扮演着至关重要的角色。它如同一个翻译官，将上层复杂的神经网络计算图，转化为底层硬件能够理解并高效执行的指令序列。在异构计算架构中，这个“翻译”过程的效率，直接决定了模型训练与推理的速度和能效。ops-nn算子库正是专为这一挑战而设计。它专注于神经网络计算，通过深度挖掘底层计算单元的潜力，并结合精细化的内存管理和算子融合技术，为上层 AI 框架（如 PyTorch、Ten
/ 1. CDN优化domains: {},},// 2. 网络感知优化'CN': 0.9, // 中国网络好'RU': 0.6, // 俄罗斯网络较差'US': 0.8,'BR': 0.5, // 巴西网络差'EU': 0.8,'IN': 0.5, // 印度网络差'AU': 0.7},'CN': 80,'RU': 60,'US': 75,'BR': 50,'EU': 75,'IN': 50,'
欢迎加入开源鸿蒙跨平台社区：https://openharmonycrossplatform.csdn.net本文面向高级开发者，深入探讨在 HarmonyOS 设备上优化 Flutter 应用性能的技术方案。通过分析典型性能瓶颈，提供 Engine 预加载、Asset 优化、AOT 编译、Shader 预热等关键技术实现，并结合鸿蒙图形后端适配策略，帮助开发者实现毫秒级启动和 60FPS 稳定帧
针对上述提到的BERT、GPT和对话式GPT的训练方式，可以对比总结如下：BERT：采用了双向编码器，能够同时考虑一个词左侧和右侧的上下文信息，并通过MLM和NSP任务学习语言表示。这使得BERT在理解句子中的语义关系方面具有明显优势，尤其是在需要深刻理解上下文的任务中表现突出，如问答系统、文本分类等。不过，BERT的生成能力相对较弱，因为它主要用于理解和分析文本，而不是生成新的内容。GPT：是一
多智能体自适应时变编队跟踪控制；编队跟踪；多智能体；观测器在如今的科技发展浪潮中，多智能体系统的研究愈发深入，编队跟踪作为其中一个重要的应用场景，有着极为广泛的应用前景，像是无人机编队飞行、自动驾驶车队等领域都离不开它。而多智能体自适应时变编队跟踪控制更是这个领域的核心技术，今天咱们就深入聊聊它，顺便还会穿插一些代码来辅助理解。
本文介绍了Flutter项目中针对大JSON/JS解析的性能优化方案。通过将耗时操作（正则匹配、JSON解码）放入isolate后台线程执行，解决了大数据量解析时阻塞UI线程导致卡顿的问题。优化方案采用compute函数调用顶层解析函数parseWorksRawInIsolate，主线程仅处理轻量级数据转换。该方案保持了原有API接口不变，调用方无需修改代码即可获得性能提升，有效确保了大文件解析时
你是否经历过这样的场景——数据库查询突然从毫秒级响应飙升到秒级，用户投诉如潮水般涌来，开发团队连夜排查却找不到症结？据统计，70%以上的数据库性能问题源于SQL执行效率低下。本文将带你深入SQL优化的核心战场，从索引设计到EXPLAIN实战解析，手把手教你打造高性能查询的黄金法则。
本文深度解析了CANN推理优化样例库cann-recipes-infer的架构设计与性能优化实践。该库针对大语言模型和多模态模型推理场景，提供了模块化的优化方案，包含模型样例、优化策略、工具支持和文档四大核心组件。重点探讨了算子融合、内存优化、并行计算和量化等关键技术，展示了在LLM和多模态推理场景中3-5倍的性能提升效果。通过KV Cache、批处理并行等创新方法，有效解决了推理延迟和吞吐量问题
本文深入解析了CANN生态中的PyPTO并行张量操作编程范式。PyPTO通过分层架构设计（编程接口层、中间表示层、优化层和代码生成层）提供硬件无关的高效并行计算能力。核心特性包括声明式编程、自动并行化和自动调优，关键技术涵盖融合优化、分块优化和内存优化。PyPTO能显著提升NPU计算效率，支持从元素级操作到聚合操作的多层次张量计算，并通过分块策略优化缓存利用和并行度。该项目处于活跃开发状态，未来将
层级描述时效性数据量前端请求时机实时层最近1分钟的高优先级数据（如触发预警的交易）秒级更新1万条首屏加载准实时层最近1小时的中等优先级数据分钟级更新10万条用户点击“查看更多”历史层1小时前的低优先级数据天级更新100万条用户主动查询我是李建国，资深前端架构师，10年前端开发经验，专注于AI系统和大数据可视化的性能优化。曾主导多个大型AI项目的前端性能优化，帮助企业提升页面加载速度80%以上。欢迎
本文深度解析了CANN生态中的GE图编译器与执行器架构设计及优化技术。GE作为神经网络模型部署的核心组件，通过分层架构实现多框架支持、计算图优化和资源管理优化。关键技术包括算子融合、常量折叠等图优化手段，内存复用与布局优化策略，以及多流并行执行和模型下沉技术。这些优化显著提升了模型执行效率，降低内存占用50%以上。GE通过简洁API支持模型快速部署，并持续演进以增强动态图支持、硬件特性利用和工具链
本文深度解析了CANN生态中的ops-transformer算子库技术架构与优化实践。该库针对Transformer类大模型在NPU上的高效计算，采用C++实现核心算子（自注意力、FFN、层归一化等），通过计算融合、内存优化和并行计算等策略显著提升性能。文章详细剖析了算子实现原理、性能优化方法，并展示了实际应用效果。随着大模型技术发展，该库将持续演进以支持更多Transformer变体，进一步优化
除了提供现成的算子模板，catlass 仓库还具备极强的可扩展性，支持开发者基于仓库的基础框架，开发符合自身业务需求的自定义矩阵乘及融合算子，满足 AIGC 大模型的个性化计算需求。仓库采用模块化、分层化的设计架构，将算子的计算逻辑、内存调度、指令生成等环节进行解耦，提供了多层级的 API 接口：对于普通开发者，可直接使用高层封装好的模板，快速实现算子调用；对于有深度定制需求的开发者，可通过底层接
算子缓存与复用是ops-nn性能优化的“隐形引擎”。它不改变算法逻辑，却能在幕后默默提升吞吐、降低延迟、节省资源。理解并善用这套机制，是每一位昇腾开发者迈向高性能推理的必经之路。未来，随着与建木低代码平台的集成，缓存策略甚至可由 AI 自动推荐——让性能优化真正“智能化”。🔗相关链接。
PostgreSQL中隐式类型转换是导致索引失效的常见原因，表现为查询性能骤降却难以察觉。当WHERE条件中的值与列类型不一致时，系统可能将索引列转换为其他类型（而非转换常量），导致索引无法使用。典型场景包括字符串列与数值比较、JSON字段提取后类型不匹配等。通过EXPLAIN ANALYZE、pg_cast系统表或pg_qualstats扩展可诊断问题。解决方案包括：应用层严格类型匹配、避免用T
我是XXX，资深Python工程师，专注AI原生应用开发5年。曾主导过多个AI产品的性能优化（比如某AI聊天机器人的响应时间从3秒降到500ms），擅长用“接地气的技巧”解决实际问题。欢迎关注我的公众号「XXX」，获取更多AI开发实战干货。
PostgreSQL性能优化的关键在于合理配置shared_buffers和work_mem两个核心内存参数。shared_buffers作为共享缓存池，建议设为物理内存的25%（不超过32GB），而work_mem应根据并发连接数动态调整，避免OOM风险。两者需保持平衡：OLTP系统推荐100:1-200:1比例，OLAP系统建议20:1-50:1。配置时需考虑工作负载类型、并发度和总内存限制，
Flutter for OpenHarmony打造一个高颜值 Flutter 天气卡片应用：完整代码深度解析
Flutter for OpenHarmony 可视化教学：Graham Scan 凸包算法的交互式演示
在AIGC大模型全链路开发与落地中，性能调优是衔接模型优化与高效运行的关键环节，直接决定大模型的算力利用率、推理速度与部署性价比。当前千亿、万亿参数量的大模型，无论是分布式训练还是多场景部署，都面临调优参数繁琐、人工成本高昂、调优效果不均衡、难以适配硬件动态变化等痛点——传统调优方式依赖开发者的专业经验，需手动调试上百项参数，不仅耗时耗力，还易出现“调优不彻底、参数不适配、效果难复现”的问题，尤其
在当今追求极致用户体验的前端开发中，首屏加载性能已成为衡量应用质量的关键指标。Vue 3的defineAsyncComponent作为异步组件的核心API，不仅实现了代码分割和按需加载，更在AI技术浪潮中展现出新的优化潜力。本文将从基础概念到高级应用，全面解析defineAsyncComponent的使用场景、配置策略，并结合AI驱动的新思维，探讨异步组件在2025年前端生态中的最佳实践。通过理论
在做【生命科学】抗衰 APP 的健康数据模块时，我们很快明确了一个核心需求：要长期追踪用户的生理节律（比如心率），还得高效存、快速查 —— 毕竟抗衰分析的核心是 “长期趋势”，不是单次数据。所以数据库没选常用的关系型库，直接敲定了KWDB 时序数据库：它天然适配 “按时间节点存数据” 的场景，写入和查询效率比关系型库高了不止一个量级。
本文介绍了在OpenHarmony平台上实现全局动效管理及性能优化的实践方案。通过创建AnimationProvider实现动效全局开关控制，使应用能够根据设备性能动态调整动效复杂度。在页面转场方面，定制了ZoomPageTransitionsBuilder以保证跨平台体验一致性。针对性能优化，采用了光栅化缓存、高刷新率适配和const构造函数等技术手段，最终在OpenHarmony真机上实现了9
3D卷积算子是医学影像深度学习模型中的性能瓶颈。通过深入理解昇腾CANN的底层架构，特别是其在和仓库中提供的算子实现机制，我们可以针对性地进行性能优化。成功的加速实践依赖于对数据布局的精确控制、高效的内存访问模式设计以及对AI Core计算特性的充分利用。作为资深架构师，我们应持续关注CANN开源社区的最新进展，以确保在处理复杂、高维的医学影像数据时，能够最大限度地发挥昇腾AI处理器的计算潜力。
本文将以CANN社区ops-nn仓库为背景，深入剖析卷积算子的实现原理，重点介绍im2col技术和Winograd算法的核心思想，并详细讲解ops-nn如何在AI加速硬件上实现高性能卷积计算。通过对这些技术的理解，开发者可以更好地使用CANN生态的卷积算子，并在必要时进行定制化优化。
在大模型推理过程中，KV Cache显存占用一直是制约模型规模的瓶颈问题。本文基于CANN社区ops-nn仓库的PagedAttention实现，深度剖析了KV Cache分页管理的核心技术。通过分析block_table内存布局设计，结合LLaMA-70B实测数据，显存占用降低41%，吞吐量提升3.2倍。文章包含完整代码实现、企业级实践案例和性能优化技巧，为大规模模型推理提供实战解决方案。
性能优化
——性能优化
联系我们（工作时间：8:30-22:00）
400-660-0108 kefu@csdn.net
2048 AI社区
昇腾开源生态专区
人工智能6S服务平台
开源鸿蒙跨平台开发者社区
