logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型应用:关系抽取的分析和实践

本文基于昇思MindSpore与昇腾NPU,全流程演示大模型在中文关系抽取中的落地实践。通过指令微调+LoRA低秩适配,实现高效微调与部署,涵盖数据处理、模型训练、推理验证及Gradio可视化,并支持MindIR导出与线上服务部署,助力知识图谱、RAG等场景快速构建结构化关系三元组。

#算法#分类#硬件架构 +1
大模型应用:关系抽取的分析和实践

本文基于昇思MindSpore与昇腾NPU,全流程演示大模型在中文关系抽取中的落地实践。通过指令微调+LoRA低秩适配,实现高效微调与部署,涵盖数据处理、模型训练、推理验证及Gradio可视化,并支持MindIR导出与线上服务部署,助力知识图谱、RAG等场景快速构建结构化关系三元组。

#算法#分类#硬件架构 +1
大模型训练:高效推理应用场景的分析

本文介绍昇思MindSpore基于昇腾NPU的高效大模型推理方案,覆盖交互式对话、离线批量生成、超大模型多卡并行及高并发服务化四大场景。通过启用KVCache增量推理(use_past=True)、流式输出、动态批处理、量化压缩与模型并行等技术,结合CANN8.5与MindSpore-Transformers1.9环境,实现低时延、高吞吐的生产级部署。实操案例涵盖流式生成、多batch推理、多卡切

#kotlin#开发语言#android +2
大模型训练:高效推理应用场景的分析

本文介绍昇思MindSpore基于昇腾NPU的高效大模型推理方案,覆盖交互式对话、离线批量生成、超大模型多卡并行及高并发服务化四大场景。通过启用KVCache增量推理(use_past=True)、流式输出、动态批处理、量化压缩与模型并行等技术,结合CANN8.5与MindSpore-Transformers1.9环境,实现低时延、高吞吐的生产级部署。实操案例涵盖流式生成、多batch推理、多卡切

#kotlin#开发语言#android +2
大模型训练:模型格式转换及调试优化

本文系统梳理了大模型在MindSpore2.6.0、CANN8.5.0环境下从HuggingFace权重到昇腾OM模型的完整链路,涵盖格式转换、MindIR导出、精度调试(Dump+TroubleShooter)、性能优化(MindInsight+混合精度/重计算/PageAttention)及常见问题排查,提供可复现代码示例,助力开发者实现“权重转换—模型导出—精度调试—性能优化—问题验证”闭环

#性能优化#算法#深度学习 +1
大模型训练:模型格式转换及调试优化

本文系统梳理了大模型在MindSpore2.6.0、CANN8.5.0环境下从HuggingFace权重到昇腾OM模型的完整链路,涵盖格式转换、MindIR导出、精度调试(Dump+TroubleShooter)、性能优化(MindInsight+混合精度/重计算/PageAttention)及常见问题排查,提供可复现代码示例,助力开发者实现“权重转换—模型导出—精度调试—性能优化—问题验证”闭环

#性能优化#算法#深度学习 +1
大模型:基础数据结构对齐 PT的详解

本文介绍MindSpore如何通过Tensor、Cell、Parameter、Dataset、Checkpoint五大基础数据结构与PyTorch语义对齐,实现大模型从PyTorch向昇腾全栈的高效迁移。结合mint兼容层与TroubleShooter工具链,支持权重双向转换、精度比对与分布式训练适配,显著降低百亿、千亿参数模型的改造成本,助力开源大模型在国产硬件上完成预训练、微调与推理落地。

#数据结构#性能优化#算法 +1
大模型:基础数据结构对齐 PT的详解

本文介绍MindSpore如何通过Tensor、Cell、Parameter、Dataset、Checkpoint五大基础数据结构与PyTorch语义对齐,实现大模型从PyTorch向昇腾全栈的高效迁移。结合mint兼容层与TroubleShooter工具链,支持权重双向转换、精度比对与分布式训练适配,显著降低百亿、千亿参数模型的改造成本,助力开源大模型在国产硬件上完成预训练、微调与推理落地。

#数据结构#性能优化#算法 +1
计算机视觉:分类任务的基本使用

本文基于昇思MindSpore与昇腾NPU,以CIFAR-10和ResNet50为例,系统演示图像分类全流程:涵盖数据增强、网络构建、训练调优、评估推理及部署。通过MindData实现高效数据流水线,利用Model高阶API简化开发,结合图模式与分布式训练释放硬件性能。重点介绍昇腾平台调优要点:启用图模式、合理设置batch size、使用预训练模型迁移学习,并规避归一化错误、数据泄露等常见问题,

#计算机视觉#分类#人工智能 +2
计算机视觉:分类任务的基本使用

本文基于昇思MindSpore与昇腾NPU,以CIFAR-10和ResNet50为例,系统演示图像分类全流程:涵盖数据增强、网络构建、训练调优、评估推理及部署。通过MindData实现高效数据流水线,利用Model高阶API简化开发,结合图模式与分布式训练释放硬件性能。重点介绍昇腾平台调优要点:启用图模式、合理设置batch size、使用预训练模型迁移学习,并规避归一化错误、数据泄露等常见问题,

#计算机视觉#分类#人工智能 +2
    共 2361 条
  • 1
  • 2
  • 3
  • 237
  • 请选择