登录社区云,与社区用户共同成长
邀请您加入社区
MindSpore-Transformers实现HuggingFace模型配置文件的原生加载,支持config.json、tokenizer及权重一键迁移至昇腾NPU,无需重写网络代码。通过AutoConfig、AutoTokenizer与AutoModelForCausalLM无缝对接,自动完成参数映射与类型转换,兼容FP16/BF16与safetensors格式,支持预训练、微调与自回归推理,
本文系统讲解了基于昇腾NPU的MindSpore大模型预训练数据准备全流程,涵盖数据清洗、BPE分词、样本拼接、Megatronbin‑idx/MindRecord格式生成及多卡分片等关键环节。强调离线预处理优先,通过优化worker并发、prefetch预取与并行文件系统,提升IO吞吐,避免CPU瓶颈。重点指出分片须在shuffle前执行,防止样本泄露;推荐使用统一tokenizer与eod标记
本文系统阐述昇腾NPU驱动的分层架构与编译依赖关系,重点解析内核态ko模块与用户态算子编译中的GCC版本、内核头文件、ABI兼容性等核心问题。指出内核驱动编译必须严格匹配运行内核的GCC与头文件版本,用户态编译则需确保C++ABI与GLIBC兼容,并推荐使用官方容器镜像统一环境,避免因版本不一致导致的编译失败、加载异常等问题。
ATC昇腾张量编译器是MindSpore大模型转昇腾om离线模型的核心工具,针对大模型编译内存高、耗时长、动态维度复杂、算子兼容差等痛点,提供分片编译、动态维度分档、并行编译、融合控制与精度模式五大能力,显著降低编译耗时30%-60%。通过完整流程配置(环境变量、fusion开关、ATC命令),可高效生成适配昇腾硬件的om模型,支持LLM与多模态大模型离线推理部署,助力开发者实现大模型高效编译与稳
MindSporeTransformers(MindFormers)提供面向昇腾NPU集群的分布式断点续训能力,支持千亿、万亿参数大模型在多维并行场景下的可靠训练。具备Step级状态恢复、多并行原生适配、在线Reshard扩缩容、故障容错与精度校验五大核心能力,实现模型权重、优化器、数据集游标等全量精确恢复。通过“配置-训练-中断-续训-校验”闭环流程,结合Checkpoint与MindStudi
昇思MindSpore是华为开源的全场景深度学习框架,支持训练、调优、推理与部署全流程,兼容昇腾、GPU、CPU等多种硬件。其分层架构涵盖用户API、图编译优化、运行时与硬件适配层,具备动静统一编程、自动并行、自动混合精度、高性能数据流水线(MindData)及调优工具链(MindInsight)等能力。通过四大开发模式——单卡原型、分布式并行、大模型套件(MindFormers)、模型导出部署,
本文介绍昇思MindSpore平台下RAG系统中相关性打分(RelevanceScoring)的实现方案,涵盖基于Embedding余弦相似度的轻量打分与Cross-Encoder高精度打分两种技术路径。通过昇腾NPU加速,支持批量推理、动态序列长度及模型量化,实现从粗召回到精排序的端到端优化。结合阈值过滤与重排序,有效降低大模型幻觉,提升问答准确性。提供完整代码、性能调优策略及微调方法,助力开发
一个应用有四个底部页签、二十多个二级页面时,导航问题通常不会先表现为编译错误,而会变成更难复现的用户故障:点击“全部实验”偶尔没有切换选中态;新增一个页签后,首页快捷入口跳到了错误页面;桌面卡片传来不存在的实验编号,详情页却静默展示默认实验;路由失败后按钮没有任何反馈;从外部入口进入详情,再点返回时直接离开应用。 本文基于 化学实验室 1.0.5 的真实 HarmonyOS ArkTS 源码展开。
围绕 HarmonyOS 7 端侧 3DGS 首帧卡顿,设计分块加载、LOD 与显存内存预算的联调方法。
从预连接无收益出发,核对 DNS、证书、真实首屏域名和连接预算。
拿到新机器人的 URDF 文件,很多人只把它当可视化模型拖进 Rviz 预览。本文以启元 Q1 为例,通过 Python 脚本与 Pinocchio 管线解析其官方 URDF,逐层核对 26 个 Link、22 个 Joint 与 16.9 公斤总质量的物理映射。重点讲解 inertial 惯量矩阵的合理赋值逻辑、joint limit 对控制器与安全策略的影响,以及从 XML 到仿真环境的关键校
这一篇是针对CPU 数据的解读:告诉你哪个线程在什么时候占了多久CPU、又被谁耽误了、频点有没有问题。只要是鸿蒙系统,不论是手机,平板,或者鸿蒙PC等,都是可以借鉴使用
随着大模型参数量持续增长,70B、200B 乃至 MoE 万亿级大模型对硬件 HBM 内存提出极高要求,单张 NPU 已经无法完整存放全部模型权重。同时复杂业务场景如长文档理解、多轮深度对话、Agent 工具调用、多模态联合推理,不仅需要超大模型能力,还对推理吞吐、响应时延、上下文窗口提出多重约束。分布推理(分布式推理)通过张量并行、流水线并行、专家并行、数据并行等多维度并行策略,把大模型权重、计
MindSpore基于昇腾硬件,构建了覆盖数据处理、多维并行、内存优化、断点续训与精度调试的大规模自监督预训练全链路能力,支持千亿级模型高效训练。通过“小规模验证+全流程闭环”模式,实现问题前置,显著降低调试成本,将异常定位周期从天级缩短至小时级,助力国产大模型底座高效构建。
Broadcast是HCCL核心集合通信原语,实现根节点数据向所有rank的单向复制分发,广泛应用于大模型训练初始化、权重同步、参数广播等场景。其核心原理为:单机优先采用Tree算法,跨节点使用分层混合策略,确保高效低延迟传输。执行流程包括通信域初始化、异步任务下发、硬件执行及流同步等待。关键注意事项包括参数严格对齐、使用设备内存、必须调用aclrtSynchronizeStream同步。典型问题
昇腾AI计算体系基于CANN架构,构建图形与AI融合流水线,通过硬件卸载、双缓冲、多Stream异步调度与内存池管理,解决传统图形处理中串行执行、数据拷贝开销大、资源利用率低等痛点。实现图形渲染吞吐提升35%-70%,端到端时延下降40%以上,硬件利用率提升25%以上,广泛适配数字孪生、云游戏、工业仿真等场景。
本文系统阐述昇腾NPU大模型训练中的精度评估实践,涵盖硬件特性、评估原理、代码实现与调优策略。通过单step数值对齐、loss收敛、PPL与下游评测分层验证,结合msprobe、msitllmcompare等工具,精准定位精度问题。强调固定随机种子、合理配置混合精度、控制多卡通信误差,确保预训练、SFT、RLHF全流程精度无损,实现从“训练达标”到“精度有效”的跨越。
昇思MindSpore基于MindFormers与昇腾NPU,提供覆盖数据预处理、长序列优化、分布式训练与集群稳训的全链路阅读理解解决方案。针对抽取式与生成式MRC任务,支持BERT、Qwen等模型高效微调,通过Ring-Attention、重计算、Packing等技术缓解长文本显存压力,结合自动并行与TIS校验保障千卡训练精度与稳定性,显著提升训练吞吐与任务指标表现,适用于RAG、多跳问答等复杂
本文介绍昇腾NPU平台支持Stable Diffusion图像生成模型的LoRA轻量微调方案,针对显存占用高、算子适配不足等痛点,通过梯度检查点、混合精度、模型分片与分布式训练等优化策略,实现高效微调。基于PyTorch-NPU与CANN生态,全流程兼容HuggingFace Diffusers,支持单机单卡/多卡训练,微调权重可直接用于推理或导出OM模型部署至MindIE。提供环境配置、代码示例
mint是面向昇腾NPU的PyTorch生态兼容接口套件,通过语义对齐、底层直连CANN aclnn算子,实现大模型从PyTorch到MindSpore的低代码迁移。其五大核心能力涵盖全量API对齐、高性能执行、完整网络组件覆盖、数值一致性校验与渐进式迁移支持,结合“环境准备—接口替换—模块验证—整网调试—调优”闭环流程,显著降低脚本改写成本,提升迁移效率与精度可靠性,广泛适用于NLP、多模态大模
应用启动问题经常被误判成“首屏页面写得慢”。真实链路里,用户点击图标后会依次经过 UIAbility 创建、数据初始化、WindowStage 创建、系统栏配置、首屏加载、页面状态恢复和启动参数派发。任何一步发生竞争,都可能表现为白屏、系统栏闪一下、统计数据先显示 0、点击桌面卡片只回首页,或者首次操作没有保存。 本文基于 化学实验室 1.0.5 的真实 ArkTS 源码,拆解 EntryAbil
生产上 Java 进程狂刷 java.lang.OutOfMemoryError: Unable to create new native thread,加 -Xmx 无济于事?这个报错与堆无关,是操作系统拒绝创建线程。本文梳理 Linux 五层线程数限制:pid_max、threads-max、ulimit -u 与 LimitNPROC、虚拟内存与 -Xss、max_map_count,逐层讲
不论是手机,平板,或者鸿蒙PC等,只要是鸿蒙系统,都是可以使用这个工具进行调试调优!
addMetric('白屏时间', entry.startTime);// ---------------- 输出 ----------------'%c🚀 页面性能',
在 React 里,“” 是最核心的思想之一。
你现在的“性能平台”项目,建议优先做这几个:👉 优先级排序(非常重要):✅ 虚拟列表(提升最大)✅ 数据缓存(React Query)✅ Echarts 优化✅ 防抖请求✅ 组件拆分👉80% 的性能问题 = 不必要的 render而不是 JS 太慢。
本文详细解析了如何通过优化LVGL的lv_conf.h配置项来提升嵌入式GUI的流畅度。从刷新周期、缓冲机制到定时器精度,提供了一套完整的优化方法和实战流程,帮助开发者有效解决界面卡顿问题,显著提升用户体验。
25. 如果出现报错“显示证书链是由不受信任的颁发机构颁发的”,勾选“信任服务器证书”或者将“强制”改成“可选”,即可解决。16. 点击“添加当前用户”,会出现一行东西,然后点“下一步”4. 选择下载位置,最好不要在C盘即主磁盘即可。21. 下载后点击打开,更改安装位置或者直接点击安装。7. 选择Developer,点击下一步。3. 下载好安装包,打开,选择自定义。6. 点击“安装”,点击全新SQ
Abaqus 2026 作为达索系统 SIMULIA 推出的新一代高性能有限元仿真软件,主要用于解决现代产品研发里的复杂结构、多物理场与非线性工程问题。新版本重点升级了求解速度、智能建模、多物理场耦合、GPU 加速及材料、接触、疲劳分析能力,能为汽车、航空航天、电子、机械装备、生物医疗等领域带来精度更高、周期更短、使用更便捷的仿真体验。
这里随便输入一个英文命名。
1.1 适用范围本方案适用于基于Linux系统(CentOS、Ubuntu等)部署的Nginx服务器,涵盖Web服务、反向代理、负载均衡等常见应用场景,适用于运维工程师、开发工程师及系统管理员进行Nginx性能调优与日常监控。
Nginx的优化配置涉及多个方面,包括:进程、连接、超时、压缩等。下面将分别进行说明,并给出配置示例和参数解释。注意:以下配置参数需要根据实际情况进行调整,不可盲目复制。
性能优化
——性能优化
联系我们(工作时间:8:30-22:00)
400-660-0108 kefu@csdn.net