登录社区云，与社区用户共同成长
邀请您加入社区
为了防止噪音在均匀区域被过度放大，CLAHE引入了对比度限制阈值，对直方图中超过该阈值的部分进行裁剪，并将其均匀分配到整个直方图区间，最后通过双线性插值来消除块状伪影。Gamma校正是一种非线性的对比度调整方法，它通过对图像中的每个像素值进行幂律变换来校正显示设备的非线性特性，同时也能用于调整图像的感知对比度。它能有效增强局部区域的对比度，同时抑制噪音的放大。然而，其缺点是可能会过度增强图像中的均
SME2 中一共有 32 个向量寄存器（z0-z31），每个向量寄存器的长度都是 512bit. SME2 指令架构相较于 SVE/SVE2 指令架构的最大特点是新增了数组寄存器 za. za 寄存器也可看作一个向量寄存器，特殊的是该向量中的所有元素都是 512bit 的向量寄存器. 所以 za 寄存器也可以看作是一个二维矩阵（数组），宽度是 512bit，za 寄存器的形状是 64x64 byt
通过以上的代码示例，我们可以看到使用C#和ORIN2 SDK进行DENSO机器人的二次开发还是比较简单的。我们可以方便地读取和写入机器人的数据，实现各种自动化操作。如果你也对DENSO机器人的二次开发感兴趣，不妨试试我的这套方法。要是在开发过程中遇到什么问题，或者想要整套源代码和DENSO机器人学习手册，都可以在评论区留言。DENSO机器人二次开发 C#读取和写入数据，使用官方SDK库ORIN2自
本文介绍了在瑞莎星睿O6开发板上基于MNN框架部署语言大模型和多模态模型的实践。文章详细阐述了软硬件环境配置，包括MNN引擎特性、开发板规格以及项目构建过程。重点解决了模型转换中的常见问题，提供了完整的编译配置方案，并展示了LLM模型的导出和基准测试方法。通过OpenCL和CPU两种计算方式的性能对比，验证了端侧AI部署的可行性，为边缘设备上的大模型应用提供了实用参考。
（[使用MNN表达式API进行训练 · 语雀]( )）目前，MNN在移动端的训练机制已经在手机淘宝中得到充分验证，可以根据每个用户隐私的训练数据，定制化全局推荐模型，明显提升个性化推荐的效果。**1. 应用场景：**MNN立足于阿里巴巴集团，支持了众多有商业价值的场景（如淘宝直播，AR导购，搜索推荐，菜鸟IOT等），有天然的业务应用的优势。其痛点主要来自于：移动端设备的算力往往不足服务端，如何在内
LLM（大语言模型）因其强大的语言理解能力赢得了众多用户的青睐，但LLM庞大规模的参数导致其部署条件苛刻；在网络受限，计算资源有限的场景下无法使用大语言模型的能力；低算力，本地化部署的问题亟待解决。ChatGLM-6B在60亿参数的情况下做到了优秀的中英文对话效果，且能够支持在消费级显卡本地部署；因此在HuggingFace Trends上很快登顶。6B的参数量虽然能够做到本地部署，但是目前的实现
团队在端智能、端云协同、商品三维重建、真人三维重建、3D引擎、XR引擎等方面有着深厚的技术积累，先后发布深度学习引擎MNN、商品三维重建工具Object Drawer、3D真人数字人TaoAvatar、端云协同系统Walle等。最终，我们通过底层增加缓冲输出，中层合并更新请求，UI层提供视觉缓冲——这三层配合实现了从技术优化到体验优化的完整覆盖，提升整体性能和体验效果。综上，结合三层的优化，通过以
MNN/build/libMNN.so,MNN/build/express/libMNN_Express.so,MNN/build/tools/cv/libMNNOpenCV.so ,MNN-3.3.0/build/source/backend/opencl/libMNN_CL.so添加到libs，在CPU中耗时是1600ms，在opencl耗时是5ms，就是加载模型创建session稍微慢点，反
当别人还在为“跑得快”或“装得下”二选一时，
本文记录了在Ubuntu24.04系统下使用MNN和QNN运行大模型的环境搭建过程。重点包括：1）编译MNN时添加-DMNN_QNN=ON选项；2）获取QNN SDK依赖并配置路径；3）针对模拟器环境调整HTP核心库的配置方法；4）解决libc++.so.1缺失问题；5）处理模拟器运行时的平台信息查询警告。作者使用Modelscope提供的Qwen2.5-Omni-3B-MNN模型，详细说明了在没
在 DeepSeek R1 服务器不稳定令人困扰的背景下，MNN LLM 应运而生。这是一款开源工具，支持本地部署、移动端运行以及多模态处理（如文生图、语音输入等）。通过模型量化与硬件优化，MNN LLM 显著提升了推理速度与稳定性，同时解决了下载困难的问题。无论是 Android、iOS 还是桌面端用户，都可以轻松体验大模型的强大功能，真正实现 “自己动手，丰衣足食”。简介你有没有因为 Deep
本文详细介绍了从零实现医疗联邦学习框架的全过程。通过FedAvg算法、差分隐私和梯度压缩等技术，在3家医院心衰诊断数据集上达到0.894 AUC（接近集中式的0.901），同时将隐私泄露风险降低99.7%。系统包含客户端本地训练、服务器聚合、隐私预算分配等完整模块，并提供了符合HIPAA合规的生产级部署方案。与单医院模型相比，联邦学习在保护数据隐私的前提下显著提升了模型性能，有效解决了医疗AI面临
代码已经发布到github 分支lite端口默认8080，支持局域网内任何设备对话，仅支持文本跟多的实现参考我实现的这个分叉，按官方原版方式自行编译演示视频可在b站找到【手机离线跑大模型,还能对外提供API-哔哩哔哩】 https://b23.tv/vjmsfvC【手机运行大模型并提供API_支持图片-哔哩哔哩】 https://b23.tv/HmJlbgY如有问题出现关注+私信以下内容是今天的主
MNN（Mobile Neural Network）是阿里巴巴集团开源的轻量级深度学习推理框架，为移动端、服务器、个人电脑、嵌入式设备等多种设备提供高效的模型部署能力。MNN支持TensorFlow、Caffe、ONNX等主流模型格式，兼容CNN、RNN、GAN等多种网络结构。MNN具备轻量性、通用性、高性能和易用性特点，能在不依赖特定硬件NPU的情况下运行大型模型，支持模型量化和内存优化技术，能
TNN 是腾讯开发的高效深度学习推理框架，专为移动端和嵌入式设备优化。特点：高性能：通过内存优化和多线程加速，适合多平台部署。多平台支持：支持 ARM、X86、NPU 等多种硬件平台。灵活性：支持多种深度学习框架和模型格式，如 Caffe、TensorFlow。
Python 凭借其丰富的生态库（如 `pandas`, `scikit-learn`, `TensorFlow/PyTorch`）和简洁的语法，成为构建这类系统的关键语言。本文分步骤解析其开发流程，并提供可落地的代码示例。3. 实时计算支持：针对流数据场景，可集成 `Apache Flink` 或 `Apache Beam`，利用 Python API 进行实时特征提取与预测。2. 清洗与预处理
这篇文章主要介绍在linux上基于MNN部署yolov5,使用的是cpp_demo,并增加ROS相关代码，使得这个demo可以订阅topic和发布topic。
本文基于cool-pi CM5 32G内存版本验证，系统为coolpi官方ubuntu20.04.
展望未来，MNN 有望在技术和应用层面持续创新与拓展，不断突破边界。在技术上，MNN 将持续优化模型推理性能，进一步挖掘硬件潜力，特别是在异构计算方面，通过更智能的任务调度和资源分配，实现 CPU、GPU、NPU 等多种计算单元的深度协同，让模型推理速度更快、能耗更低 。随着人工智能技术的快速发展，模型结构和算法不断创新，MNN 也将紧跟潮流，及时支持新的模型和算法，如更加复杂的多模态模型，为开发
通过以上步骤，你将能够系统地学习 MNN 框架，并掌握其在强化学习中的应用。如果在学习过程中遇到具体问题，随时可以向我询问！
在编译 MNN 时，确保启用了 ONNX 支持。确保你使用的是最新版本的 MNN。或在 GitHub 上提问以获得社区的帮助。如果问题仍然存在，可以参考 MNN 的。如果还有其他问题，请告诉我！
作者：吴茂贵，郁明敏，杨本法，李涛，张粤磊 著出版社:机械工业出版社品牌:机工出版出版时间:2019-11-01Python深度学习：基于PyTorch [Deep Learning with Python and PyTorch]
深度学习端侧推理框架介绍
C#简单使用Yolov5的Onnx格式模型进行目标检测
阿里巴巴于近日有了重磅之举 —— 开源全新的 3D 数字人框架 Mnn3dAvatar。这一框架犹如一颗投入平静湖面的巨石，为开发者们带来了强大的实时面部捕捉与 3D 虚拟角色生成工具，凭借其显著的高效性与易用性，极有可能为直播带货、虚拟展示等场景带来翻天覆地的变革。
MNN是一个轻量级高性能推理引擎，由阿里巴巴团队开发，支持Android、iOS、Windows、Linux、MacOS、WebGL等
3. 在命令窗口中，进入到MNN所在的目录。cd MNN/build 先进入到build文件夹中。cd MNN/build 先进入到build文件夹中。2. 进入MNN文件夹，然后运行下面命令行。前提已经安装好Visual Studio。（目前最新版本是2.0.0）。（目前最新版本是2.0.0）。...
简介MNN是阿里巴巴的一个深度学习框架，在端侧推理和训练性能优秀。本文通过一个简单的分类模型，来给出一个简单的C++和Python Demo，让大家快速上手。MNN 文档地址：https://www.yuque.com/mnn/cnMNN Github地址：https://github.com/alibaba/MNN/blob/master/README_CN.md注：由于初入公司，需要把Pyto
主要介绍推理引擎MNN的安装及初步使用
std::make _ unique在C++14以后新加入的函数，用来创建std::unique_ptr智能指针对象
Ubuntu20.04环境下编译MNN并部署mnist
在编译MNN时，由于protobuf已编译在自定义路径，但是cmake时，却提示Could NOT find Protobuf (missing: Protobuf_INCLUDE_DIR)，在/etc/profile中添加环境变量后，还是无用。提示如下图所示解决方法：cmake 时用-DCMAKE_PREFIX_PATH指定protobuf所在路径‘’‘cmake -DCMAKE_PREFIX_
开篇吐槽在决定使用MNN实现在线训练之前，也比较了TNN/NCNN，但是发现目前各大端侧推理引擎的训练框架都不成熟，半斤八两的状态，可能都把精力放在在线预测和op支持上，但是端侧训练的需求真的少么？fine-tune在端侧应用难道不是刚需？查了下NCNN关于训练框架的文档或教程几乎没有，移植到端侧应用的更是没找到案例，NCNN发布几年至今没有完善的官方文档，目前只有github里的几个关于编译和
随着移动端（手机/平板等）算力、内存、磁盘空间的不断增长，在移动端部署大模型逐渐成为可能。在端侧运行大模型，可以有一系列好处：去除网络延迟，加快响应速度；降低算力成本，便于大规模应用；不需数据上传，保护用户稳私。概述为了在更广泛的设备上部署大模型，MNN团队开发了 MNN-LLM / MNN-Diffusion，合称MNN-Transformer ，支持大语言模型和文生图等AIGC模型，具有如下特
MNN模型转化以及量化的方法指南
abiFilters "armeabi-v7a", "arm64-v8a" // 根据需求选择 }通过以上步骤，即可在 Android 应用中使用 MNN 进行大模型推理，支持语音交互等功能。# 基础编译配置（armeabi-v7a架构，启用NEON优化，关闭GPU）# 安装Android NDK（建议使用r21版本或更高）在Ubtuntu下面的编译，先整理编译环境。复制到 Android 项目的
YOLOv5训练自己的模型并部署mnn框架使用
参考MNN ubuntu环境 记录编译过程● cmake（建议使用3.10或以上版本）、● protobuf（使用3.0或以上版本）● gcc（使用4.9或以上版本）
mnn
——mnn
联系我们（工作时间：8:30-22:00）
400-660-0108 kefu@csdn.net
火山引擎 ADG 社区
DAMO开发者矩阵
2048 AI社区
九章云极普惠算力
openvela
鲲鹏昇腾开发者社区
MCP技术社区
