登录社区云，与社区用户共同成长
邀请您加入社区
摘要：本文探讨了大模型推理中的性能瓶颈问题，提出PD分离部署方案（Prefill-Decode Disaggregation），将Prefill和Decode阶段分别部署在不同机器上。重点介绍了昇腾的hixl通信库如何通过零拷贝单边通信技术，实现KVCache在NPU显存间的直接传输，避免了传统TCP/IP协议栈的多重拷贝开销。测试数据显示，hixl相比25G RoCE传输延迟降低至1/8，带宽利
摘要：NumPy和PyTorch的矩阵乘法在CPU上运行缓慢，而昇腾NPU的ops-blas库通过优化矩阵乘法的分块策略和硬件适配，性能可提升50-100倍。ops-blas专注于BLAS规范的L3层矩阵乘法（GEMM），利用NPU的Cube单元和片上缓存实现高效计算。相比通用模板库catlass，ops-blas提供开箱即用的高性能GEMM实现，接近手写优化代码的性能，但使用更简单。实测显示，在
手把手教你在 AutoClaw 桌面应用里添加自定义 Claude 模型，通过直连 Anthropic 协议。含 Settings 入口、Add Custom Model 表单字段、Connectivity Test 验证、模型切换与故障排查。
摘要：昇腾CANN社区的cann-learning-hub提供在线NoteBook功能，无需本地配置即可在真实昇腾NPU上运行代码。用户通过浏览器即可体验AscendC算子开发，包括矢量加法、性能测试和算子修改等实操环节。该平台预置最新CANN环境，避免了驱动版本、编译器版本等配置问题，特别适合初学者快速入门。教程涵盖从基础算子到矩阵运算的开发路径，并提供cann-samples示例库参考。在线环
摘要： 根据Ramp最新数据，Anthropic企业采用率（34.4%）首次超越OpenAI（32.3%），过去一年增长达4倍，而OpenAI仅增长0.3%。交叉验证显示，Anthropic在编程场景份额达54%，其产品Claude Code上线6个月ARR突破10亿美元，驱动企业市场格局变化。风险包括计费模式激励错位、产品质量下滑和算力瓶颈。开发者建议：优先评估Claude，建立AI代码审核流水
在企业级 AI 研发的落地实践中，我们越来越清晰地看到一个趋势：编程的核心正在从单纯依赖“模型参数规模”，转向对“上下文与意图的精准管理”。一个 AI Agent 的真正智能上限，往往受限于它的“Harness”（运行环境与外围基础设施），而非仅仅是底层模型。
读完这篇,你应该会把LangChain 的理解顺序彻底倒过来,不是先有 Chain、再有Agent、最后才碰Runnable。而是恰恰相反。LangChain 先把几乎所有能力都压成Runnable，再在它上面长出 LCEL、RAG、Chain、Agent 和一整套运行时能力。
本文对比了Spring Batch与大数据框架在数据批处理方面的差异。Spring Batch是基于Java/Spring的轻量级批处理框架，适合处理万级到千万级结构化数据，强调事务性和数据一致性，架构简单但扩展性有限。大数据框架如Spark则面向PB级海量数据，支持分布式计算和多种数据类型，吞吐量高但架构复杂。从数据规模、架构设计和编程模型三个维度详细对比了两者的适用场景和技术特点，为不同规模数
本文深入解析目标检测模型预处理中的两大核心操作：mean/std归一化和Letterbox自适应缩放填充。通过拆解像素级数值变化，揭示不同框架（PyTorch/Ultralytics/MMYOLO/DAMO-YOLO）的预处理参数差异与陷阱。重点包括：1）mean/std归一化的数学原理与ImageNet标准值的计算过程；2）Letterbox算法如何保持图像比例并正确填充；3）颜色通道顺序（BG
HAReCore是一个基于GDI+的Windows控制台图片渲染引擎，支持多种图像显示和动画效果。主要功能包括：静态图片显示（PNG/JPG/BMP，支持Alpha通道半透明）、GIF动画播放（可设置循环次数和倍速）、层叠动画（底图+逐帧叠加序列）、五次方缓动动画（ease-out/ease-in-out）以及PagesBlur截屏模糊处理。该引擎提供多种运行模式（单次、文件、批处理、stdin监
用一个实际例子和简单代码来清晰解释 batch、epoch 和 iteration 的关系：------------------------------------------------------------------------------------你有一个数据集：1000 张猫狗图片你设置 batch_size = 100（每次处理 100 张图片）你计划训练 5 个 epoch总样本
机器学习入门核心算法：Mini-Batch K-Means算法
BatchNormalization（BN）是一种用于加速深度神经网络训练的技术，通过标准化每一层的输入使其具有零均值和单位方差。其核心步骤包括：计算小批量的均值和方差，进行标准化，并引入可学习的缩放和平移参数以保持模型表达能力。BN能缓解内部协变量偏移，稳定训练过程，允许使用更高学习率，并起到一定正则化作用。训练时使用当前批次的统计量，推理时则采用滑动平均值。BN有效解决了梯度不稳定等问题，提高
Batch Normalization 是深度学习领域的一项重要技术，它通过对输入数据进行归一化处理，解决了内部协变量偏移问题，加速了模型的训练过程，提高了模型的泛化能力。
Batch Normalization 是一种对数据进行归一化的技术，旨在解决深层神经网络训练过程中出现的内部协变量偏移问题（Internal Covariate Shift）。简单来说，随着网络层数的增加，输入数据分布可能会发生变化，导致梯度消失或爆炸现象，从而影响模型的收敛速度和性能。Batch Normalization 通过规范化每一层的输入来缓解这一问题。
区分iteration&Batch size&Epoch
和是机器学习和深度学习中两个非常重要的概念，尤其是在训练模型时，理解它们有助于你更好地调整训练过程。好的，和是机器学习和深度学习中两个非常重要的概念，尤其是在训练模型时，理解它们有助于你更好地调整训练过程。我们逐一详细讲解。
Batch Normalization（BN）是一种在 mini-batch 级别计算均值和方差的归一化方法
BatchNormalization（批归一化）是深度学习中革命性的技术，通过标准化网络各层的输入分布，有效解决了内部协变量偏移问题。其核心原理包括计算批次均值方差、归一化处理，并引入可学习的缩放参数γ和偏移参数β。BN显著提升了训练速度（3-10倍）、允许使用更大学习率，并增强了网络对初始化的鲁棒性。在实现时需注意通道数匹配、训练/推理模式切换等细节，小批量场景可用GroupNorm替代。BN已
摘要：本文深入探讨深度学习训练中批次大小(Batch Size)的选择策略。分析表明，小批次能提供隐式正则化效果，帮助模型找到泛化性更好的解，而大批次虽能加速训练但可能损害性能。文章提供了不同任务的经验值(CV常用32-128，NLP常用16-32)，并强调调整批次时必须配套调整学习率。还介绍了渐进式批次增加和自适应批次等高级技巧，指出通过合理调参可在保持性能的同时加速训练。最佳批次大小需在训练效
表友问：看到全网都在热议自己构建个人知识库，自己也想尝试，但本身对电脑也不是太熟悉，对这些各种应用与配置又不懂。虽然网上也有很多手把教的教程与指南，整个安装配置仍是麻烦。有没有一款针对电脑小白简单一点，打开就能即用的AI知识库？
LLM 不是一个单纯的模型文件，而是一个受算力、显存、带宽、通信、调度和成本共同约束的分布式系统。
本模块以"最简可运行、最易可扩展"为原则，完整实现了动态规划在局部路径与速度规划中的落地流程。通过 Clothoid 参考线、SL-ST 双层图、碰撞-平滑双代价模型，在极低算力开销下即可获得安全、平滑、可执行的轨迹。代码结构清晰、接口简洁，既适合教学研究，也方便直接嵌入量产自动驾驶系统。基于动态规划的路径规划和速度规划参考apollo 的dp路径规划和速度规划更新:增加cpp代码实现。
PyFlink与Pandas互转机制解析，from_pandas()通过Arrow序列化实现DataFrame到Table的转换，支持流式任务和exactly-once语义；to_pandas()将结果收集到客户端转为DataFrame，需注意内存限制。推荐使用RowType明确schema，并合理配置Arrow批大小参数。生产环境中建议结合limit操作，避免OOM风险，适用于调试、特征工程和数
Flink自适应批执行技术通过运行时优化解决传统静态计划的痛点，主要包括四大核心功能：自动决定算子并发度、数据分布负载均衡、自适应广播Join和自适应倾斜Join优化。该技术让作业运行后根据真实数据特征动态调整，无需预先完成所有决策。配置参数包括并发度上下限、广播阈值等，使用时要避免手动设置并发度。建议采用渐进式落地策略，先启用自动并发推导，再逐步引入广播Join和倾斜优化，同时注意网络内存管理和
OpenCV（Open Source Computer Vision Library）是一个开源的计算机视觉库，涵盖了各种图像处理和计算机视觉算法。它提供了大量基础且实用的函数，从简单的图像读取、显示，到复杂的特征提取、目标识别等，一应俱全。对于初学者来说，OpenCV 的入门工具集是学习图像处理的绝佳起点。通过 C# 联合机器视觉平台，借助 OpenCV 入门工具集，我们能够轻松地踏上图像处理的
Batch_Size（批尺寸）是机器学习中一个重要参数，涉及诸多矛盾，下面逐一展开。首先，为什么需要有 Batch_Size 这个参数？Batch 的选择，首先决定的是下降的方向。如果数据集比较小，完全可以采用全数据集 （ Full Batch Learning ）的形式，...
定义batch：使用训练集的部分数据对神经网络进行一次训练和反向传播参数更新。epoch：使用训练集的所有数据对神经网络完成一次训练。iteration：使用一个batch的数据对神经网络进行参数更新的过程。关系举例数据集有2000张训练图片，100张测试图片。现在选择 Batch Size=6对模型进行训练。每个Epoch要训练的图片数量：2000训练集具有的Batch个...
本文主要介绍如何实现spring boot的batch架构搭建。数据库有两个，一个是spring batch需要的底层数据库，主要用于记录job的执行相关数据；另一个是自己的业务数据库，主要用于Demo job抓取数据、写入等。1. maven的jar依赖配置pom.xml (片段)<parent><groupId>org.springfra
项目集成说明： spring boot（配置多数据源）spring batch数据源配置文件：@Configurationpublic class DataSourceConfig {@Primary@Bean(name = "primaryDataSource")@ConfigurationProperties(prefix="spring.datasource.
1. spring batch 批处理配置package cn.fraudmetrix.kratos.syncclient.config;import java.io.IOException;import org.slf4j.Logger;import org.slf4j.LoggerFactory;import org.springframework.batch.core.Jo
BatchNorm：深度学习的稳定神器 BatchNorm（批归一化）通过标准化网络各层的输入分布（均值为0、方差为1），并引入可学习的缩放参数γ和平移参数β，有效解决深度神经网络中的“内部协变量偏移”问题。其核心作用包括：稳定梯度流动、加速训练、允许更大学习率、缓解梯度消失/爆炸，并附带轻微正则化效果。训练时使用当前批次的统计量，推理时则依赖全局统计量。类比恒温烤箱，BatchNorm让网络专注
整套流程跑下来关键点就三个：红色圈定位要准、数字分割要干净、OCR得做针对性训练。遇到阴天拍摄的图片记得在预处理阶段加个CLAHE增强对比度，代码包里的调试工具能实时看各阶段效果，改两个参数就能适配不同场景。这里有个坑——红色在HSV里0度和360度附近都有分布，所以用了两个条件判断。第一步预处理必须够狠。输入生活中常见的限速标志图片，系统根据限速标志的位置进行定位识别，并且识别限速标志中的数字。
这篇文章用生动的菜市场比喻，解释了为什么神经网络需要数据标准化（均值0、方差1）。通过将数据比作苹果重量和菜价，作者说明：均值表示数据的中心位置，方差反映数据的分散程度。标准化后的数据能让神经网络各层接收稳定输入，避免梯度爆炸或消失，使训练更高效。文章还提供了具体计算步骤、Python代码示例和实用口诀，强调标准化不是信息丢失而是单位转换，是优化模型训练的关键预处理步骤。
迭代（iteration）、批次（batch）、轮次（epoch）之间的关系这个关系很多初学者都会混，我给你。
选择合适的激活函数：使用ReLU或其变种（如LeakyReLU、ELU等），可以有效防止梯度消失，并且在一定程度上减少梯度爆炸的可能性。适当的权重初始化：使用Xavier或He初始化等方法，可以避免权重值过大或过小，从而减少梯度消失和梯度爆炸的风险。梯度裁剪：当发生梯度爆炸时，采用梯度裁剪可以限制梯度的范围，避免参数更新过大，保证训练过程的稳定性。使用BatchNormalization：Batc
本文仅用于学术分享，如有侵权，请联系后台作删文处理导读对于一些同学来说Batch Size只是一个可以随便调节以适应不同显存环境的参数，事实真是如此吗。本文将结合一些理论知识，通过大量实验，探讨Batch Size的大小对训练模型及模型性能的影响，希望对大家有所帮助。在本文中，我们试图更好地理解批量大小对训练神经网络的影响。具体而言，我们将涵盖以下内容：什么是Batch Size？为什么Batch
1. 迭代次数与 epoch 的关系：一个 epoch 中包含的迭代次数 \( I \) 可以通过以下公式计算得出：\[ I = \frac{N}{B} \]其中，\( N \) 是数据集的大小，\( B \) 是批量大小。这表示在一个 epoch 中，需要 \( N/B \) 个 batch 才能处理完整个数据集。2. 总的迭代次数：在训练过程中，总的迭代次数可以通过以下公式计算：\[ Tota
在神经网络的训练过程中，一个非常直观的需要调整的超参数就是batch size。我们需要决定在一次训练中，要选取多少样本喂给神经网络，这个要选择的样本个数，就是batch size。batch size的。
batch
——batch
联系我们（工作时间：8:30-22:00）
400-660-0108 kefu@csdn.net
AtomGit开源社区
人工智能6S服务平台
2048 AI社区
脑启社区
DeepSeek技术社区
腾讯云开发者社区
