登录社区云，与社区用户共同成长
邀请您加入社区
“知物由学”是网易云易盾打造的一个品牌栏目，词语出自汉·王充《论衡·实知》。人，能力有高下之分，学习才知道事物的道理，而后才有智慧，不去求问就不会知道。“知物由学”希望通过一篇篇技术干货、趋势解读、人物思考和沉淀给你带来收获的同时，也希望打开你的眼界，成就不一样的你。当然，如果你有不错的认知或分享，也欢迎通过邮件（zhangyong02@corp.netease.com）投稿。以下是正文：本文作者
【代码】昇腾 CL 和 MindSpore 助力 ResNet50 推理。
在昇腾计算产业生态中，“Graph Mode + AMP”是每一位开发者必须掌握的黄金组合。它不仅能让你的模型跑得更快，还能让你在有限的算力上训练更大的参数量。
自回归模型随着gpt的出现取得很大的成功，还是有很多工程上的问题并不是很适合使用自回归模型：1）自回归需要的算力太大，满足不了实时性要求：例如在自动驾驶的轨迹预测任务中，如果要用纯自回归的世界模型，耗时太大；2）要求数据天然有时序性：很多图像任务并没有严格的序列生成的要求；这个部分开始用隐变量的方式来进行建模。
神经网络类算法可以堪称当今最主流的一类机器学习算法，其本质上和前几章讲到的线性回归、对数几率回归、决策树等算法一样均属于机器学习算法，也是被发明用来完成分类和回归等任务。不过由于神经网络类算法在如今超强算力的加持下效果表现极其出色，且从理论角度来说神经网络层堆叠得越深其效果越好，因此也单独称用深层神经网络类算法所做的机器学习为深度学习，属于机器学习的子集。
2.深度融合架构（如Flamingo）：用跨模态注意力动态对齐特征，适合问答和生成任务。3.纯解码器架构（如Fuyu-8b）：取消独立编码器，直接处理多模态输入，降低延迟。1.统一编码架构（如CLIP）：分别编码不同模态后对比学习，适合检索任务。1.模态扩展：向3D模型、触觉等延伸（如手术机器人触觉反馈）。2.轻量化训练：用知识蒸馏技术压缩百亿参数模型，降低算力需求。3.安全治理：解决AI生成图片
**算力不足**：20世纪80年代的计算机性能有限，尤其是缺乏并行计算能力（如GPU未普及），而多层神经网络的计算复杂度随层数呈指数级增长。- **支持向量机（SVM）的兴起**：1990年代，SVM等基于统计学习理论的方法在分类任务中表现优异，且理论解释性强，吸引了学术界和工业界的注意力，导致神经网络研究进入第二次“寒冬”。- **研究方向的分散**：20世纪80-90年代，AI领域更关注符号主
文章来源 | 学术头条原文地址 | 几分之一秒内，就能预测新网络的参数号外号外，我找到一个宝藏公众号啦，里面都是超赞的干货文章????????废话不多说，立马给大家分享正文开始：人工智能在很大程度上是一场数字游戏。当深度神经网络在 10 年前开始超越传统算法，是因为我们终于有了足够的数据和处理能力来充分利用它们。今天的神经网络更依赖于数据和算力。训练网络时，需要仔细调整表征网络的数百万甚至数十亿参
智能制造对实时性与自适应提出更高要求，传统深度学习模型（CNN、LSTM、Transformer）在动态环境下存在算力消耗大、因果建模弱等不足。液态神经网络（LNN）凭借输入驱动的动态时间常数和较强的鲁棒性，在非平稳数据处理与实时控制中展现独特优势。本文回顾 LNN 的理论基础与典型模型，梳理其在过程控制、生产管理及供应链优化中的应用，并总结算力需求、数据依赖、系统兼容与可解释性等挑战，提出轻量化
“至强非凡现场” 邀请来自第四范式、英特尔以及南京大学的 AI 专家们，通过现场论坛和实地探营的方式，深度探讨各行各业利用 AI 推进智能化转型中的困难，以及造成困难的根本原因，并提出软硬一体、以 XPU 作为算力支撑的实际解决方案，配合以开放架构 + 开源软件的路径，能更好地满足企业对于灵活性、通用性上的差异化需求，切实提升 AI 落地效率。2024 年，中国在全球人工智能市场的占比将达到 15
当将神经网络的训练并行化到许多GPU上时，你必须选择如何将不同的操作分配到你可用的不同GPU上。在这里，我们关注一种称为数据并行随机梯度下降( SGD )的技术。与标准SGD一样，梯度下降是通过数据子集(小批次)完成的，需要多次迭代才能在整个数据集上进行。然而，在数据并行训练中，每个GPU都有整个神经网络模型的完整副本，对于每次迭代，只分配了小批次中样本的子集。对于每次迭代，每个GPU在其数据上运
【能源与人工智能交叉】基于多任务学习的风电功率预测系统：MATLAB实现基于多任务学习（MTL）进行风电功率预测的详细项目实例（含完整的程序，GUI设计和代码详解）_多变量时间序列预测MATLAB代码资源-CSDN下载https://download.csdn.net/download/xiaoxingkongyuxi/90206545【能源与人工智能交叉】基于多任务学习的风电功率预测系统：MAT
策略定义了智能体对于给定状态所做出的行为，换句话说，就是一个从状态到行为的映射，事实上状态包括了环境状态和智能体状态，这里我们是从智能体出发的，也就是指智能体所感知到的状态。
碎碎念：万般皆是命，半点不由人。本文主要是为了明确大模型学习路线，从JD的要求出发先了解一些基础概念，由浅入深，结合相关项目训练。主要矛盾就是这个岗位我需要会什么，项目那么多哪一个最相关？明确后再出发。目标：掌握分词embedding，encoder、 encoder+decoder、decoder结构，注意力掌握Q/K/V 矩阵乘法，softmax操作和意义，彻底理解attention矩阵，线性
论坛主题机器学习硬件专题论坛简介达摩院2020年十大科技趋势白皮书指出，计算存储一体化方案可以突破AI算力瓶颈。通过将存储和计算单元融合为一体，该方案可以显著减少数据搬运，极大提高计算并...
SNPE 是神经网络在骁龙平台上推理的开发套件，方便开发者在使用高通芯片的设备上加速AI应用。无论是芯片制造商的发布会还是各大厂商的手机发布会，AI能力一直是大家谈论的焦点。骁龙888采用了新一代的Hexagon780架构Hexagon Tensor Processer(HTP），算力从865的15TOPS提升到了26TOPS，888+进一步提升到了32TOPS，尽管高通没有提供算力的细节，但从T
随着LLM学界和工业界日新月异的发展，不仅预训练所用的算力和数据正在疯狂内卷，后训练（post-training）的对齐和微调等方法也在不断更新。下面笔者根据资料整理一些关于大模型训练常见概念解释。1 Pre-training（预训练） 预训练是指在模型的初始阶段，使用大量数据对模型进行训练，以便让模型学习到通用的特征和知识。这些特征和知识可以是语言模型中的词嵌入，或者是图像识别模型中的视觉模式。
神经网络模型被广泛的应用于工业领域，并取得了巨大成功。然而，由于存储空间以及算力的限制，大而复杂的神经网络模型是难以被应用的。首先由于模型过于庞大，计算参数多(如下图所示)，面临内存不足的问题。其次某些场景要求低延迟，或者响应要快。所以，研究小而高效的 CNN 模型至关重要。本文将介文绍一些常见的 CNN 小型化结构，如：SqueezeNet 系列(2016)，ShuffleNet 系列(2017
摘要：北京大学孙仲团队在《自然·电子学》发表论文，提出基于阻变存储器阵列的全模拟矩阵方程求解器，将模拟计算精度提升至24位定点数。该方案融合低精度模拟矩阵求逆和高精度矩阵乘法，通过迭代算法实现高精度计算。实验显示，其32×32矩阵求逆性能超越GPU单核，128×128矩阵处理吞吐量达传统处理器1000倍，能效提升超100倍。该技术有望应用于神经网络训练、信号处理等领域，为解决算力瓶颈提供新思路。
神经网络作为深度学习的核心技术，凭借其强大的自动特征提取和非线性建模能力，已成为人工智能应用的基础。它在多个领域展现出广泛的应用前景，包括计算机视觉（如图像分类、目标检测、人脸识别）、自然语言处理（如机器翻译、文本生成）、语音处理（如语音识别、语音合成）、自动驾驶与机器人（如场景识别、路线规划）、医疗健康（如医学影像诊断、疾病预测）、金融科技（如风险评估、智能反欺诈）、推荐系统（如电商推荐、视频推
，特指部分参数的微调方法，这种方法算力功耗比更高，也是目前最为常见的微调方法;除此之外，Fine-Tuning也可以代指全部微调方法，同时OpenAI中模型微调API的名称也是需要注意的是，OpenAI提供的在线微调方法也是一种高效微调方法，并不Fine-Tuning,是全量微调;微调， Fine-Tuning，一般指全参数的微调 (全量微调) ，指是一类较早诞生的微调方法，全参数微调需要消耗大量
【AI课程领学】第六课 · Transformer（课时2） Transformer 经典结构：Encoder、Decoder、BERT、GPT、ViT（含代码）
介绍使用 Agent-lightning 来完成 demo-APO 的训练。
卡内基梅隆大学打造"神经侦探"：让AI像破案一样学会理解语音
依托昇腾强大的算力底座、高效的昇思AI框架、DeepSeek&QwQ-32B等国内知名大模型，以及法本信息在垂直领域的场景化落地能力，三方联合打造了覆盖智能编码、知识管理、智能制造、安全生产等领域的全栈式AI解决方案，为企业智能化转型提供技术引擎。作为昇腾AI、华为云核心生态伙伴，法本信息在昇腾、昇思MindSpore、鲲鹏、HiCar、鸿蒙生态、多方面产业保持长期合作，致力于支持昇腾、昇思等生态
AI开发现状从过去AlphaGo在职业围棋中击败世界冠军，到现在大火的自动驾驶，人工智能(AI)在过去几年中取得了许多成就。其中人工智能的成功离不开三要素：数据、算法和算力。其中对于算力，...
以更低的参数量、更高的效率，自动学习图像的层次化特征—— 从底层的边缘、纹理，到中层的形状、结构，再到高层的物体、语义，完美契合人类视觉的认知逻辑。LeNet 开启了 CNN 的先河，AlexNet 推动 CNN 进入深层时代，而后续的 VGG、ResNet 等架构则在 “更深、更高效” 的方向上不断突破。未来，随着算力的提升和算法的创新，CNN 将在图像分割、目标检测、自动驾驶等领域发挥更大的作
近年来AutoML突飞猛进，学术界和产业界产品繁多。AutoML包括但不限于自动数据增强，自动网络结构搜索，自动超参搜索和自动优化器。 虽然NAS算法多种多样，但是从方法上可归为三大阵营：基于强化学习算法、基于进化算法和基于梯度的算法。由于NAS往往对算力要求比较高，动辄就是成百上千的GPU小时的训练，所以涌现了一些加速方案，例如权重共享，训练一个大的SuperNet，One-shot等等。 ..
东数西算战略工程实施，综合算力概念应运而生。2021年12月和2022年2月，国家发改委等四部门联合印发通知，同意在京津冀、长三角、粤港澳大湾区、成渝、内蒙古、贵州、宁夏、甘肃启动建设国家算力枢纽节点，并规划 10个国家数据中心集群，全国一体化大数据中心体系总体布局设计正式完成。随着东数西算工程的推进，算力、存力、运力协同发展越来越重要，集算力、存力、运力于一体的综合算力概念应运而生。综合算力是集
论文阅读——Quantization and Training of Neural Networks for EfficientInteger-Arithmetic-Only Inferencefrom GoogleAbstract随着移动终端的普及以及深度学习模型对算力的巨大要求急需高效且准确的在设备进行推理的方案。本文提出了一种量化方案可以只用整数进行推理，比浮点数效率更高。本文还设计了一种训
文章大纲00 -- 简介研究动机意义和作用现有AutoML 平台产品autoML 前景展望参考文献autoML系列文章目录00 – 简介机器学习的应用需要大量的人工干预，这些人工干预表现在：特征提取、模型选择、参数调节等机器学习的各个方面。AutoML视图将这些与特征、模型、优化、评价有关的重要步骤进行自动化地学习，使得机器学习模型无需人工干预即可被应用。2012年，AlexNet为了充分利用多个
为全面助力大模型的发展，思腾合力与国内外知名芯片厂商合作，围绕算力底层技术支撑做了大量功课，持续在基础硬件方面提升实力，使得思腾AI算力服务器，可访问多个机器学习框架，大大加快训练速度，提升资源利用率，保障任务稳定性。未来，AI大模型需求会持续走高，思腾合力将会持续迭代产品、不断升级算力解决方案，适配支持更高效、更复杂算法的大模型，迎接大模型进一步引爆海量算力需求。随着投身AI大模型的公司如雨后春
华为此项专利不仅是技术突破，更是AI算力平民化的关键一步。通过算法优化而非单纯堆硬件，为行业提供了可持续的降本增效路径。
过去，企业在处理大量复杂文档如PDF和合同时常常苦于低效和手动操作。传统方法无法有效提取和使用这些多模态数据，复杂的数据预处理令人心烦意乱，即使是先进的大模型也未必都能做的很好。EasyLink平台解决了这一难题。它能自动解析和抽取非结构化文档中的关键信息，将其转化为标准化数据。这提高了企业运营效率，减少了手动处理时间和错误率。其强大之处在于无需固定模板就能识别和处理多样且复杂的文档类型。
神经网络
——神经网络
联系我们（工作时间：8:30-22:00）
400-660-0108 kefu@csdn.net
网易易盾开发者社区
昇腾开源生态专区
人工智能6S服务平台
九章云极普惠算力
深开鸿 技术专区
广州城市开发者社区
2048 AI社区
武汉城市开发者社区
