logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

昇腾AI行业案例(一):基于AI图像处理的疲劳驾驶检测

在21世纪,汽车已经成为人类生活中不可或缺的工具,它给人们带来便利的同时,也会产生交通事故,交通事故通常是由驾驶员的疲劳驾驶和不规范驾驶造成的。疲劳驾驶是指驾驶员在长时间连续行车后,由于缺乏必要的休息,导致在心理技能和生理机制上发生变化,客观上表现为驾驶技能的下降。这种状态的驾驶员往往会出现打瞌睡、反应迟钝、注意力不集中等现象,极大地增加了交通事故的风险。根据世界卫生组织(WHO)的统计,全球每年

文章图片
#视觉检测
大模型推理显存和计算量估计方法

最近做吞吐量调试涉及到输入batch_size的设置,为了把算力和显存用起来,同时不触发out of memory,需要提前估计大模型推理过程中的显存占用,我参考了MindIE官网的这个文档完成了估计:性能调优流程-性能调优-MindIE Service-MindIE2.0.RC2开发文档-昇腾社区 。大模型推理的过程中,显存主要用来存储kvcache。kvcache的大小和token的数量成正比

昇腾AI行业案例(二):基于 AI 图像处理的安全帽检测

在各类建筑工地、工厂车间等生产作业场所,安全问题始终是重中之重。安全帽作为保护工作人员头部免受意外伤害的关键防护装备,正确佩戴与否直接关乎生命安全。然而,现实场景中,因人员疏忽、管理不善等因素,未佩戴或未正确佩戴安全帽的情况屡见不鲜,这无疑极大地增加了安全事故发生的风险。据相关统计数据显示,在建筑行业,因头部受伤导致的伤亡事故占比颇高。每年,全球范围内都有众多工人因未规范佩戴安全帽,在高空坠物、设

文章图片
#人工智能
昇腾AI行业案例(五):基于 DANet 和 Deeplabv3 模型的遥感图像分割

遥感图像在众多领域有着广泛的应用,如土地利用分类、城市规划、农业监测、环境评估、灾害监测等。然而,原始的遥感图像数据量大且复杂,其中包含了各种地物信息,如建筑物、道路、水体、植被、农田等,这些地物在图像上呈现出不同的特征和模式。准确地将这些地物从遥感图像中分割出来,对于后续的分析和决策具有至关重要的意义。例如,在城市规划中,通过对遥感图像的分割,可以清晰地了解城市的建筑分布、道路网络以及绿地面积等

文章图片
#人工智能
昇腾AI行业案例(四):基于 Bert 模型实现文本分

在当今数字化信息爆炸的时代,文本分类技术的应用场景无处不在且至关重要。在新闻媒体行业,每天产生的海量新闻稿件需要快速准确地分类到不同的主题类别,如政治、经济、文化、科技、体育、娱乐等,以便读者能够迅速找到自己感兴趣的内容,同时也方便媒体机构进行内容管理和推荐。社交媒体平台上,用户发布的海量帖子和评论需要进行情感分析和主题分类,企业可以借此了解公众对其产品或品牌的看法,及时发现潜在的危机,并制定相应

文章图片
#人工智能
昇腾训练建链超时定位策略

使用torch+mindspeed训练时,可能出现类似“wait socket establish timeout, role[0] rank[1] timeout[120]”的报错,plog日志内容如下:上图中给出以下信息:1,本端device id(5)、本端rank(1)、对端rank(2)。本端rank和对端rank表示的是在通信域内的rank编号,如果是子通信域,需要注意device i

#java#开发语言
昇腾集群PFC现象分析

如上图所示,红框截图就是1号卡的通信域的算子执行时序,每个卡有多个通信域,因为这个卡可能同时参与了多种并行,蓝框的每个plane反馈的也是通信行为,只是它反馈的是task粒度,Group xx communication 反馈的是算子粒度。1,版本开发的同学正在做一个需求,就是显示每个communication group对应哪些卡,这样我们就可以知道是不是跨机通信域了,比如说4机32卡的集群,[

llama2 70B mindie推理开箱报错问题

所以,不管是帮忙他人排查问题,还是自己排查问题,先从基本的检查开始,先检查卡有没有被占用,有的话就kill掉(如果是别人的任务,先知会一下哈)!其次,不要自己随意组合版本,否则会因为经验不足卡在莫名其妙的问题上。当然,也可以从产品本身出发,做得更好用一些,比如说,报错信息里面给出一些解决问题的提示、增加版本不匹配提示等等。好用的产品需要精雕细琢,任重而道远!本文由博客一文多发平台OpenWrite

#AI
DeepSeekV2-lite 昇腾8卡训练实验指导

本实验指导共包含实验环境准备、训练数据集准备、模型权重准备和预训练4个部分。

#pytorch#人工智能
mindspeed-llm源码解析(一)preprocess_data

mindspeed-llm是,原来叫"modelLink"。这篇文章带大家阅读一下数据处理脚本preprocess_data.py(基于1.0.0分支),数据处理是模型训练的第一步,经常会用到。首先来看一下main函数可以看到,main函数处理逻辑主要由这几个函数组成:build_splitter、build_tokenizer、build_dataset、get_dataset_handler、

#人工智能
    共 26 条
  • 1
  • 2
  • 3
  • 请选择