边缘计算标签_AMD开发者中国社区

边缘计算

没有 IB 网卡，纯 50GbE 以太网也能跑多机多卡 vLLM：DeepSeek/Qwen 部署踩坑 FAQ（报错速查+命令直接抄）

多机多卡跑大模型，80% 时间不是花在推理上，而是卡在网卡选错、NCCL 握不上手、显存算不清。本文按"报错串→根因→可复现命令"整理成速查 FAQ：Gloo/NCCL 网卡指定、shm 与 P2P、CUDA OOM 显存反向估算、TP/PP 并行怎么切，示例是纯 50GbE 以太网桌面集群（无 IB、免高端交换机）。命令属官方/社区通用做法，硬件数值引白皮书口径，真机吞吐以实测为准。

芯小途2026
2026-07-22 10:18:00

 295

 3

#人工智能 #边缘计算
【嵌入式评测】youyeetoo R1 V3.0（RK3588S）开发板全解析｜全参数解析、部署教程与性能实测

本文将从硬件核心参数、板载接口拆解、系统部署实操、NPU推理性能、应用场景及硬件优缺点等维度，对Youyeetoo R1 V3.0 RK3588S开发板进行全面、客观的技术梳理，为嵌入式开发、边缘AI部署、多媒体终端开发的开发者提供参考依据。

2601_96226551
2026-06-25 15:09:52

 573

 15

#人工智能 #边缘计算
基于边缘计算的商场智慧运营架构设计与AI落地实践

每个楼层部署 3台 SE110S-WA32 边缘计算微服务器，连接该楼层的 100 个摄像头，所有 SE110S-WA32 通过千兆以太网连接到商场的核心交换机，分析结果通过专线上传到云端管理平台，供商场管理者查看和决策，原始视频流与敏感数据（如人脸特征）在边缘侧完成推理与丢弃，仅将结构化数据（客流计数、报警事件）上传云端，从架构底层保障数据隐私合规。而在具体的架构落地中，边缘算力节点的选型至关重

 SaturnCloud
2026-06-03 15:46:26

 602

 12

#人工智能 #边缘计算 #服务器
Jetson 算力与 NVIDIA 桌面显卡算力的核心区别

二者并非 “高低配” 的关系，而是完全不同赛道的产品：Jetson 是面向边缘端的异构嵌入式计算平台，算力价值体现在 “低功耗下的实时推理与外设整合”；NVIDIA 桌面显卡是面向桌面 / 数据中心的通用高性能计算设备，算力价值体现在 “高吞吐的训练与批量处理”。脱离场景单纯对比 TOPS 数值，没有实际参考意义。

DTMganni
2026-06-26 10:38:28

 486

 17

#边缘计算 #算力 #Jetson
基于边缘计算的智慧停车场AI算力评估与SE110S-WA32部署方案

本文基于国科环宇土星云SE110S-WA32 边缘计算微服务器，建立了一套科学的智慧停车场 AI 算力评估模型，并提供了完整的端边云协同部署方案。SE110S-WA32 作为一款高性能的边缘计算微服务器，将为智慧停车场的未来发展提供强大的算力支撑，助力城市交通治理的数字化和智能化升级。同时，它支持-20℃~+60℃的宽温工作范围，具备IP40 防护等级，能够适应地下车库等恶劣的工业环境。三个核心维

 SaturnCloud
2026-06-02 16:33:00

 672

 20

#人工智能 #边缘计算 #服务器
2026 支持 NPU 工控机边缘 AI 推理核心优势

边缘AI应用面临GPU高耗能和ARM板性能不足的困境。Intel和AMD推出的集成NPU处理器（算力达几十TOPS，功耗仅几十瓦）为边缘推理提供了理想解决方案。NPU工控机具有四大核心优势：1）超高能效比（NPU功耗仅为CPU的1/10）；2）低延迟实时推理；3）高集成度（如120x120mm尺寸集成34TOPS算力）；4）工业级可靠性。实际案例显示，采用NPU工控机的陶瓷缺陷检测系统检测速度达1

paiqingongkong
2026-06-03 18:40:32

 528

 14

#人工智能 #边缘计算
揭秘端侧 TTS 新标杆：基于 ONNX 的多语种闪电快语音合成实战

想摆脱云端 API 的高昂成本与隐私困扰？本文带你揭秘基于 ONNX 的端侧 TTS 新标杆，实现多语种“闪电快”语音合成。从原理到实战，助你构建高性能、低延迟的离线语音应用，解锁端侧 AI 的无限可能 🚀。

在水一缸
2026-06-30 06:21:23

 206

 7

#边缘计算
边缘计算盒子算力 TOPS 代表什么？一文看懂

TOPS的全称是。Tera：万亿10^（12）Operations：操作（在计算机中通常指“数学运算”）Per Second：每秒简单来说，1 TOPS = 每秒可以执行 1 万亿次操作。如果一个边缘计算盒子标注其算力为32 TOPS，就意味着它在理论上每秒钟能完成32 万亿次的 AI 运算。TOPS 是衡量边缘计算盒子 AI 计算能力的“马力”指标。数字越大，理论上能同时处理的视频路数越多、能跑

 2601_96423688
2026-06-29 15:44:49

 584

 10

#边缘计算 #人工智能 #智能硬件
Jetson Nano B01到手第一步：保姆级SD卡烧录与开机避坑指南（含清华源配置）

本文提供Jetson Nano B01开发板的详细配置系统指南，涵盖SD卡烧录、首次启动配置及开发环境优化。通过清华源加速和性能优化套餐，帮助开发者快速搭建高效的边缘计算开发环境，避免常见硬件和软件陷阱。

Clover青子
2026-06-04 12:30:33

 308

 9

#边缘计算
土星云SE110S系列Docker一键部署YOLOv11详细教程

相较于YOLOv8等前代模型，YOLOv11更适配SE110S边缘设备：推理速度提升15%-30%、模型体积更小、算子更规整，完美支持FP32/FP16/INT8多精度量化推理，INT8量化后可最大化发挥TPU算力，满足多路视频实时检测需求。：采用优化的C3k轻量化模块，替代前代C2f结构，精简冗余卷积分支，搭配SPPF空间金字塔池化，在降低算力消耗的同时，保留多尺度特征提取能力，适配SE110S

SaturnCloud
2026-06-17 09:32:52

 705

 14

#docker #容器 #边缘计算
GPU工控机在AI深度学习中的应用优势：2026工业场景选型

本文系统分析了GPU工控机在工业AI深度学习中的应用优势与发展趋势。研究表明，GPU凭借强大的并行计算能力（较CPU提升10-50倍）和成熟的CUDA生态，已成为工业大模型训练与推理的核心硬件平台。文章对比了2026年主流GPU加速方案（集成/独立/边缘GPU）的特点，并通过锂电池缺陷检测等案例展示了其在工业视觉、3D点云等场景的落地效果。针对选型提出关键建议：根据算力需求匹配GPU型号、关注显存

 paiqingongkong
2026-06-05 12:02:47

 704

 19

#边缘计算
瑞芯微RK3576机器视觉场景之割草机+无人清扫车

可精准识别裸露路面、井盖、低矮围挡，自动规避风险区域，适配庭院、小区步道、厂区路面等冬季积雪清扫场景，纯视觉方案大幅降低整机成本，契合海外冬季庭院养护刚需。传统扫雪设备无智能视觉感知，无法识别路面边界、路沿、井盖与障碍物，容易出现越界作业、剐蹭损毁、漏扫残雪等问题，纯雷达方案成本高，不利于外贸平价量产抢占市场。当下庭院与园区清扫智能装备出海热潮席卷欧美市场，智能割草机、园区无人清扫车、扫雪车等早已

 Industio_触觉智能
2026-06-04 18:49:01

 402

 10

#嵌入式硬件 #智能硬件 #硬件工程 +1
实测土星云 SE110S-WC08：硬解性能强劲，轻松搞定16路1080P解码

设备基础硬件回顾：SE110S-WC8 搭载 7.2TOPS INT8 NPU，8GB 大内存，原生硬件编解码单元，无风扇静音工业设计，典型功耗仅 13W，支持 - 20~60℃宽温运行，双千兆网口可拓展 5G/WiFi，非常适合安防、产线视觉、户外抓拍等多路视频 AI 场景。模拟现场多路网络摄像头并发接入场景，支持批量读取 rtsp 地址列表，一次性拉起多路视频流硬解，验证多路并发稳定性。根目录

 SaturnCloud
2026-06-27 10:31:50

 400

 12

#边缘计算 #服务器
边缘计算：RK3588 上跑 AI 模型的性能优化指南

这篇文章提供了在RK3588边缘计算设备上优化AI模型性能的完整指南。作者通过5个关键步骤将YOLOv8模型的推理速度从2fps提升到30fps：1) 模型量化(FP32→INT8)；2) 使用NPU替代CPU进行推理；3) 利用多核NPU并行处理；4) 降低输入分辨率；5) 采用帧跳过策略。文章还分享了多摄像头稳定采集、离线模式实现方案以及设备自愈机制，并给出了优化前后的性能对比数据。这些技巧帮

 阿拉斯攀登
2026-06-28 12:58:49

 355

 4

#人工智能 #边缘计算 #性能优化
边缘计算落地风电运维：工业级微服务器+AI诊断模型

未来，随着大模型轻量化、端边云协同架构的持续成熟，边缘侧的智能诊断能力将进一步延伸 —— 从单一故障识别，向故障溯源、剩余寿命预测、维保决策优化演进，最终实现风电场全生命周期的智能运维。集成 2 路千兆网口、USB3.0、HDMI、RS232、RS485、CAN、GPIO 等全类型工业接口，可直接对接风机振动传感器、温度传感器、PLC 等设备，无需额外转接即可实现一站式数据采集与控制联动。硬件体积

 SaturnCloud
2026-06-25 08:49:22

 759

 19

#人工智能 #边缘计算 #服务器 +1
【RK3588S 嵌入式AI系列⑤】INT8量化实战：原理、校准集选择与精度调优全攻略

【摘要】本文深入剖析RK3588S NPU INT8量化的数学原理与实践。从scale/zero_point映射出发，讲解量化误差来源；详解校准集选择四条原则（数量、分布代表性、边缘场景覆盖、类别均衡）；对比normal/mmse/kl_divergence三种量化算法取舍，生产环境推荐mmse；通过accuracy_analysis逐层余弦相似度分析定位精度问题层，给出混合量化（FP16保留关键

 2501_93101488
2026-06-18 17:45:02

 772

 28

#边缘计算
边缘计算中的LLM推理：单板计算机性能优化与实践

大型语言模型(LLM)在边缘计算领域的应用正逐渐成为技术热点，特别是在资源受限的单板计算机(SBC)上实现高效推理。通过量化技术如q4_k_m方案，模型内存占用可大幅降低，使7B参数模型能在6GB内存设备上运行。实测显示，树莓派5和香橙派5 Pro等设备结合优化后的运行时如Llamafile，能实现15 tokens/s的生成速度。这些技术不仅解决了边缘设备计算能力有限的问题，还在智慧农业、医疗数

 孔良
2026-06-25 13:08:25

 349

 12

#边缘计算
LLM引导的自适应视觉模型：让大模型在边缘设备高效运行

视觉基础模型（VFM）作为计算机视觉领域的核心技术，通过大规模预训练获得了强大的图像理解与生成能力。其原理基于Transformer等架构，能够从海量数据中学习通用视觉表征。然而，这类模型通常参数量巨大、计算需求高，在资源受限的边缘设备上部署面临严峻挑战。传统模型压缩方法往往以牺牲精度或灵活性为代价，难以适应多样化的实际场景。为此，业界探索引入大语言模型（LLM）作为智能控制器，构建自适应推理框架

 爬一手好线杆
2026-06-21 16:36:20

 321

 9

#边缘计算
Ryzen AI 与 Instinct GPU 协同工作的推理架构

本文深入解析 Ryzen AI 与 Instinct GPU 协同工作的异构推理架构。通过 NPU 处理轻量任务、GPU 承载大模型的智能调度，实现能效与性能最优。结合 ROCm 生态与 vLLM 引擎，该方案为边缘计算与大模型落地提供高效解决方案。

2600_96323235
2026-06-22 09:51:54

 136

 1

#Instinct GPU #边缘计算
告别云端：用Jetson Nano+ollama打造你的第一个离线AI聊天机器人（通义千问0.5B实测）

本文详细介绍了如何利用Jetson Nano和ollama打造离线AI聊天机器人，特别针对通义千问0.5B模型进行实测。从硬件选型、环境搭建到模型优化与性能调校，提供全栈实战指南，帮助开发者在边缘计算场景下实现隐私保护的智能对话系统。

林尧彬
2026-06-01 14:08:49

 441

 13

#边缘计算
SLED框架：边缘计算中的高效LLM推理新范式

边缘计算作为分布式计算的重要分支，通过在数据源头就近处理信息，有效解决了云端计算的延迟和带宽瓶颈问题。其核心技术原理涉及计算卸载、资源调度和网络优化，在工业物联网、智能终端等领域展现出巨大价值。随着大语言模型（LLM）的普及，如何在资源受限的边缘设备上高效部署LLM成为关键挑战。SLED框架创新性地结合推测解码（Speculative Decoding）和动态批处理技术，通过轻量级草稿模型与高精度

 森林知乎
2026-05-24 14:32:46

 270

 10

#边缘计算
SLED框架：边缘计算中的LLM推理加速方案

边缘计算通过将计算任务下沉到靠近数据源的设备，有效解决了云端计算的延迟和隐私问题。在自然语言处理领域，大语言模型（LLM）的推理任务面临着模型规模与边缘设备资源限制的矛盾。SLED框架创新性地采用推测解码技术，将计算任务分为边缘设备生成候选token序列和服务器验证两部分，既利用了边缘设备的分布式计算能力，又通过服务器的高性能硬件保障了输出质量。这种方案特别适合实时交互应用和隐私敏感场景，如智能客

 西踢踢
2026-05-24 10:36:59

 299

 8

#边缘计算
RecServe框架：优化LLM边缘计算部署的三级推理方案

边缘计算通过将计算任务下沉到靠近数据源的网络边缘，有效解决了云端AI部署的高延迟问题。其核心技术原理在于构建设备-边缘-云协同的计算层级，通过动态卸载机制实现负载均衡。这种架构特别适用于大型语言模型(LLM)部署，能显著降低通信开销同时保持推理精度。RecServe框架创新性地采用三级推理设计，设备层处理简单请求，边缘层应对中等任务，云层解决复杂计算。通过置信度阈值动态调整和递归卸载策略，在IMD

KTunstal
2026-05-21 09:18:43

 315

 9

#边缘计算
边缘设备LLM推理性能与热管理对比研究

大型语言模型(LLM)的边缘部署正成为AI落地的关键技术方向，其核心挑战在于如何在资源受限的设备上实现高效推理。从技术原理看，边缘计算通过将计算任务下沉到数据源附近，能显著降低延迟并保护隐私。在工程实践中，热管理和能效比成为制约性能的关键因素，特别是对需要持续推理的智能助手类应用。测试数据显示，专用NPU如Hailo-10H在能效比上可达270.5mJ/token，而移动设备普遍受限于热节流，iP

金融先生-Frank
2026-05-09 15:54:58

 333

 8

#边缘计算
边缘AI计算平台MBB1002：性能与部署全解析

边缘计算作为分布式计算的重要分支，通过在数据源头就近处理信息，显著降低了网络延迟和带宽压力。其核心技术原理依赖于高性能嵌入式硬件与AI加速架构的融合，在智能制造、自动驾驶等领域展现出巨大价值。以IBASE MBB1002 eATX主板为代表的边缘AI平台，搭载AMD EPYC Embedded 8004系列处理器和DDR5-4800 ECC内存，提供了高达576GB容量和PCIe Gen5扩展能力

 十二月极光
2026-04-28 14:43:29

 369

 9

#边缘计算
从零到一：TDA4VM开发环境搭建与SDK配置全攻略（避坑指南）

本文详细介绍了TDA4VM开发环境搭建与SDK配置的全流程，涵盖硬件选型、系统配置、SDK部署、TIDL工具链使用及OpenVX视觉流水线开发等关键环节。针对常见问题提供避坑指南，帮助开发者快速掌握边缘计算和自动驾驶领域的核心技术，提升开发效率。

美剧商务英语口语
2026-04-30 09:03:31

 424

 9

#边缘计算 #自动驾驶