登录社区云,与社区用户共同成长
邀请您加入社区
本文基于MindSpore-Transformers实现多源数据集混合预处理,解决格式不一、权重配比、分布式训练等问题。通过适配器统一字段为prompt-response格式,支持加权采样与全局打乱,结合Tokenizer完成SFT分词,并在昇腾NPU上实现分布式分片与缓存加速。框架可灵活接入指令、对话、领域数据,提升微调数据质量,保障训练稳定性与效率。
本文基于MindSpore2.4与昇腾910B环境,提出通过get_gpt_layer_local_spec实现GPT大模型从PyTorch向MindSpore分布式训练的高效迁移。该接口精准划分各Rank的层范围,支持层粒度并行与权重分片加载,解决跨框架权重错位、内存溢出及初始化不一致问题。结合本地分片模型构建与映射加载策略,实现仅加载本卡所需权重,显著降低内存开销,打通PyTorch→Mind
本文基于MindSpore实现工业级SwiGLU-MLP模块,完成独立推理、Decoder集成、MindIR导出及昇腾Ascend 910B优化。通过静态图编译、图内核融合、自动混合精度与权重拼接等技术,显著降低矩阵乘算子访存开销,提升推理效率。代码可直接部署于昇腾集群,支持离线推理与分布式扩展,为大模型高效推理提供完整解决方案。
MindSporeTransformers(MindFormers)通过monitor_config实现大模型训练的非侵入式实时监控,支持超长时预训练与分布式微调。该配置模块可统一采集loss、学习率、梯度、显存/昇腾NPU内存等指标,自动输出至TensorBoard、JSON日志或控制台,并支持异常告警与自定义回调扩展。适用于单机及昇腾910B集群场景,提供完整YAML配置、启动代码、可视化对接
AOI(Automated Optical Inspection,自动光学检测)设备是融合工业相机、机器视觉、深度学习与 PLC 控制的复杂机电系统。本文构建涵盖感知硬件层、控制层、软件算法层与决策输出层的分层架构模型,解析基于触发同步的单周期检测工作流;并通过与单片机 LED 控制和智能小车的横向对比,揭示工业 AOI 在确定性、实时性与多协议集成方面的核心设计要求,可为系统集成与项目方案设计提
MIPI (Mobile Industry Processor Interface)即移动产业处理器接口,2003年由ARM、Nokia、ST和TI等公式成立的一个联盟,所以大家在看MIPI相关文档的时候长看到MIPI Aliance。MIPI官方网址。当前MIPI联盟已经有很多成员, 比如ARM、ST、高通、TI、苹果、海思等,基本上囊括了主流的移动处理器生产厂家。MIPI协议实际上是一系列接口
华为海思秋招实习招聘-芯片与器件设计工程师-数字芯片方向- 题目分享——共九套(每套四十题)
本项目基于国产化软硬件栈(鲲鹏920、昇腾910B、openEuler、MindSpore),构建全链路信创语音识别平台,采用Conformer+CTC架构,实现客服录音批量转写与300路并发流式识别,支持热词优化、小样本微调与INT8量化,达CER≤6.5%、RTF<0.45。通过MindSpore原生适配,训练效率提升显著,推理性能稳定,三年TCO降低40%以上,实现从训练到部署的自主可控闭环
mindspore.dataset是专为大模型设计的高性能数据处理引擎,支持文本、图像、多模态数据的全流程预处理。其基于C++后端加速、多线程并行与流水线调度,实现数据加载、清洗、分词、编码、截断、填充、掩码生成等操作的高效并行执行,显著提升训练吞吐。通过链式变换、分布式分片、数据下沉等机制,有效解决“算力空转”问题,适配昇腾AI芯片与鲲鹏服务器。本文结合完整代码实战,系统讲解LLM与多模态预处理
本文基于昇思MindSpore与昇腾NPU,构建了覆盖模型收敛、任务精度、训练性能与硬件指标的全周期评估体系,实现Loss、PPL、单步耗时等核心指标的实时监控与早停控制。结合昇腾硬件特性,提出分层优化策略:通过混合精度、重计算降低显存占用;利用图模式融合、数据下沉提升算力利用率;采用分布式通信优化与梯度累积支持多机训练。配套提供可落地的工程代码,形成“评估—诊断—优化”闭环,有效解决大模型训练中
MindSpore Transformers为昇腾NPU提供原生大模型预训练方案,通过静态图编译、自动并行、混合精度与重计算技术,实现7B~13B模型高效训练。支持单机多卡及多机扩展,显存降低60%以上,训练速度提升2~4倍。结合异步数据流水线与优化配置,显著提升吞吐与稳定性,无需复杂改造即可开箱即用,全面释放昇腾硬件性能。
本文系统阐述了基于昇腾硬件与MindSpore框架的大模型预训练数据质量过滤体系。针对噪声、重复、低质等常见问题,提出规则粗过滤、统计特征过滤、相似度去重、模型打分四层递进式过滤架构,结合MindSpore的分布式数据流水线能力,实现TB/PB级语料高效清洗。通过完整代码示例与工程优化建议,构建端到端、可扩展、高可靠的过滤链路,从源头保障大模型训练数据质量,提升模型性能与安全性。
MindSpore通过Callback+日志收集+MindInsight可视化构建了大模型训练的在线监控体系,支持每步采集loss、lr、梯度、权重及NPU资源使用情况,自动保存最优模型并异常中断。MindSpore Transformers封装开箱即用组件,结合昇腾NPU适配,实现训练过程实时监控与可视化分析,显著提升训练稳定性与效率。
昇腾RAG SDK通过智能语义分块、多表征索引、分层架构与NPU原生加速,实现检索精度提升30%、构建速度提升8倍、存储成本降低60%。其四层优化架构深度融合算法与硬件,支持百万级文档毫秒级检索,显著解决大模型幻觉、知识滞后等落地难题,为行业提供高效、低成本的知识增强方案。
本文介绍MindSpore Transformers如何解决大语言模型(LLM)训练中的算力与显存瓶颈。通过自动并行、3D并行策略及混合精度、重计算等显存优化技术,实现千亿参数模型高效分布式训练。框架提供统一接口,支持预训练与微调无缝切换,并基于昇腾AI处理器实现单卡训练13B模型、8卡线性加速比达0.97,显著提升训练效率与稳定性。
合作企业属于基建施工运维服务商,业务涵盖大型基础设施建设、工地现场安全管控、智能化巡检服务,项目落地遍布国内多个省市,作业场景包含路桥施工现场、隧道、矿山工地等。WTRTK‑982 在基建巡检机器人项目中的落地,体现项目选型需要充分结合客户已有硬件条件,按需匹配产品,避免功能冗余。WTRTK‑982 以厘米级 RTK 定位、双天线直接解算航向、紧凑小型化硬件,精准匹配客户已有 IMU、仅需定位指北
本文在前面信号篇的基础上,继续深入研究信号捕捉以及操作系统底层的执行机制。文章首先分析信号从递达到处理函数执行的完整流程,重点解释为什么处理函数结束后仍需返回内核,以及用户态与内核态之间是如何切换的。随后从CPU、硬件和中断控制器入手,梳理硬件中断进入操作系统的全过程,并结合中断向量表、时钟中断和时间片理解操作系统的运行机制。最后进一步区分异常与陷阱,并追踪系统调用从用户态进入内核态的执行过程。
升特半导体推出全新SurgeSwitch® TDS2621LP,专为24V工业机器人电源总线设计,采用1.6mm²超小封装,可在24A浪涌电流下保持35V恒定钳位电压,动态电阻仅32mΩ,突破传统TVS二极管性能瓶颈。该器件符合IEC61000-4-5标准,适用于协作机器人、自动化设备及物联网边缘系统,提供可预测的保护裕量,助力高密度系统安全可靠运行。
电商与医药分拣批量多码识别
msModelSlim是昇思(MindSpore)推出的专为大模型设计的一站式轻量化工具,通过INT8/INT4量化、紧凑存储与mmap内存映射加载,实现模型体积缩小50%~75%,加载速度提升3~8倍,显存占用降低50%~75%,支持秒级启动。其核心优势在于低比特量化+硬件原生解析+预计算参数,显著优化冷启动、多模型调度、边缘部署等场景下的性能瓶颈,是昇腾生态大模型工程化落地的必备利器。
本文基于MindSpore Transformers框架,设计并实现一套无侵入、轻量化的训练监控回调套件,涵盖实时loss与学习率追踪、梯度异常检测、NPU/CPU资源监控、可视化日志输出及自动止损功能。通过自定义Callback机制,实现大模型训练过程的全维度在线监控,显著提升调试效率与训练稳定性,适用于昇腾NPU/GPU环境,有效解决大模型训练“黑盒”问题,助力高效、安全、无人值守训练。
MindSpore依托昇腾NPU,通过因果语言建模、高质量多域语料、长上下文支持(FlashAttention/NTK-RoPE)、混合精度训练与分布式并行,高效完成7B~70B大模型预训练。结合SwiGLU激活、Pre-Norm结构等架构优化,显著提升模型的逻辑推理、知识记忆与任务泛化能力,实现从“语法通顺”到“能思考、会解题”的跃迁,为零样本、少样本任务提供强大基础。
MindSpore tools是昇思框架自带的轻量级二进制工具集,无需Python环境,直接在openEuler+昇腾NPU上运行,支持模型转换、精度调试、性能剖析、离线推理、权重管理与加密等全流程操作。核心工具如converter_lite.bin、benchmark.bin、checkpoint.bin等基于C++实现,调用AscendCL/MindRT,性能比Python脚本高5~20倍,适
本文系统讲解了雅克比矩阵在昇思MindSpore框架中的原理与实战应用。从雅克比矩阵定义出发,结合MindSpore的自动微分机制,详细阐述其在神经网络、科学计算等场景下的实现方法。通过基础、进阶与批量数据三类代码示例,展示了如何利用mindspore.jacobian高效计算向量函数梯度,并突出其在昇腾NPU上的硬件加速优势。文章强调了静态图优化、内存高效与端到端支持等核心特性,助力开发者掌握高
本文聚焦STM32F103上TinyML模型的静态部署,通过Edge Impulse生成C++模型包,解决Semihosting卡死、DSP Heap不足、TFLite依赖过重及HardFault等问题,实现模型在有限SRAM/Flash下的稳定运行。强调从“模型可跑”到“嵌入式可靠部署”的工程思维转变,完成端侧推理关键一步,为后续实时手势识别奠定基础。
后期经过更换适配磁头、处理盘片损伤、读取修复固件、热交换做镜像克隆等一系列技术处理,历时一个月左右,这块SMR叠瓦式硬盘的二次开盘工作全部完成,恢复了近900G重要的照片视频和工作资料,理论上恢复了至少80%以上的数据,客户验证后表示认可。经过检测,盘片是有明显损伤的,五张盘片10个面,但并不是所有盘片都划伤了,同时ROM 可以进行适配修复,判断有希望能恢复出部分数据。客户是上海的,先在当地一家数
MindSpore Transformers集成TensorBoard实现昇腾NPU上LLM训练的实时监控,无需代码改造即可可视化损失、学习率、精度、梯度、权重及计算图等关键指标。通过SummaryCollector自动采集,支持分布式多卡、低开销实时刷新,结合浏览器访问实现跨平台可观测性。适用于预训练、微调全流程,助力快速排错、优化超参与模型复现,是企业级高效训练的标准方案。
硬件架构
——硬件架构
联系我们(工作时间:8:30-22:00)
400-660-0108 kefu@csdn.net