边缘计算标签_龙虾开发者社区

边缘计算

Jetson Nano上编译onnxruntime-gpu的避坑指南：从源码到Python/C++实战

本文详细介绍了在Jetson Nano上编译onnxruntime-gpu的完整流程，从环境准备、CUDA配置到Python/C++实战部署。通过优化编译参数、解决内存限制问题，并整合TensorRT加速，帮助开发者高效实现边缘计算场景下的AI模型部署。特别针对JetsonNano的硬件特性提供了实用的性能优化技巧和常见问题解决方案。

qsc901234
2026-02-16 07:21:02

 257

 2

#边缘计算
2026 嵌入式 AI Agent 部署实战：5 个轻量框架拆解 + MCU 端裁剪优化全指南

本文深度拆解 5 个 GitHub 热门嵌入式 AI Agent 轻量框架，提供 MCU / 边缘端本地部署的裁剪路径与实测数据，帮助开发者快速落地端侧智能体应用。

游荡于BIM与机器人
2026-08-15 08:15:00

 1257

 33

#人工智能 #边缘计算
Qwen3-VL:30B模型蒸馏：知识迁移到小型模型

本文介绍了如何在星图GPU平台上自动化部署“星图平台快速搭建 Clawdbot：私有化本地 Qwen3-VL:30B 并接入飞书（上篇）”镜像，实现大模型知识蒸馏。通过该镜像，开发者可以便捷地将大型多模态模型的知识迁移到更小的学生模型上，从而在资源受限的边缘设备上部署轻量化智能客服等应用，平衡性能与效率。

恋爱大魔头
2026-02-11 00:07:17

 377

 8

#边缘计算
Qwen3-ForcedAligner-0.6B量化压缩实践：INT8精度保持方案

本文介绍了Qwen3-ForcedAligner-0.6B语音强制对齐模型的INT8量化压缩实践，旨在降低其资源消耗。通过星图GPU平台，用户可以自动化部署该量化后的镜像，轻松应用于视频字幕生成等场景，在边缘设备上实现高效、精确的语音与文本时间戳对齐。

又可乐
2026-02-11 00:08:30

 406

 3

#边缘计算
物联网创新：GLM-Image边缘设备部署方案

本文介绍了如何在星图GPU平台上自动化部署智谱AI GLM-Image 文本生成图像模型的 Web 交互界面，赋能边缘智能场景。用户可快速启用该镜像，在工业质检、农业监测等物联网终端实现低延迟文本到图像生成，如根据自然语言描述实时生成PCB缺陷模拟图，提升现场决策效率。

目楚
2026-02-12 10:45:55

 246

 4

#边缘计算
Qwen3-0.6B-FP8效果实测：Jetson Orin NX上成功运行的帧率截图

本文介绍了如何在星图GPU平台上自动化部署Qwen3-0.6B-FP8（内置模型版）v1.0镜像，并展示了其在边缘设备上的应用效果。该轻量级大语言模型经过FP8量化，可在Jetson Orin NX等资源受限的边缘设备上流畅运行，实现本地化的智能问答、逻辑推理等对话交互场景，为边缘AI应用提供了高效便捷的解决方案。

马屿人
2026-03-04 12:48:27

 397

 4

#边缘计算
Qwen3-0.6B-FP8效果实测：Jetson Orin NX上15 tokens/秒稳定推理

本文介绍了如何在星图GPU平台上一键自动化部署Qwen3-0.6B-FP8（内置模型版）v1.0镜像，并展示了其在Jetson Orin NX等边缘设备上实现约15 tokens/秒的稳定推理。该轻量级模型特别适用于构建本地智能助手、客服机器人等对数据隐私和实时响应有要求的边缘AI应用场景。

Rubix-Kai
2026-03-04 16:50:40

 845

 12

#边缘计算
Ollama部署本地大模型：translategemma-4b-it在AI教育硬件中的边缘部署案例

本文介绍了如何在星图GPU平台上自动化部署【ollama】translategemma-4b-it镜像，实现本地化AI翻译模型的快速搭建。该方案特别适用于AI教育硬件，能在无网络或资源受限的边缘环境中，为课堂教学提供即时、低延迟的多语言翻译服务，有效支持外语学习与跨学科资料理解。

Kingston Chang
2026-03-05 00:20:01

 964

 10

#边缘计算
GLM-4.7-Flash部署案例：边缘计算场景下4卡服务器模型压缩部署

本文介绍了如何在星图GPU平台上自动化部署GLM-4.7-Flash镜像，实现边缘计算场景下的高效AI推理。该方案特别适用于智能客服系统，能够快速响应用户查询，为企业提供本地化、低延迟的大语言模型服务，显著提升客户服务效率与体验。

时光派
2026-03-05 00:37:02

 345

 5

#边缘计算
Qwen-Image-2512与物联网结合：边缘设备图像生成方案

本文介绍了如何在星图GPU平台上自动化部署🎨 Qwen-Image-2512 极速文生图创作室镜像，实现边缘设备的本地图像生成。该方案特别适用于智能安防监控场景，如摄像头在检测到异常时直接生成嫌疑人模拟画像，无需云端传输，确保低延迟和数据安全。

李姝瑶
2026-03-06 00:01:13

 244

 8

#边缘计算
AutoGLM-Phone-9B保姆级部署教程：双4090显卡3步快速启动

本文介绍了如何在星图GPU平台上自动化部署轻量级多模态模型AutoGLM-Phone-9B。通过该平台，用户可快速启动并验证该镜像，实现一个集成了视觉、语音和文本理解能力的AI助手，典型应用场景包括为智能硬件或边缘设备提供图像描述、语音交互等综合AI服务。

徐子贡
2026-03-06 00:59:48

 173

 5

#边缘计算
Qwen3-TTS-12Hz部署教程：NVIDIA Jetson Orin边缘设备低功耗运行实测与优化

本文介绍了如何在星图GPU平台上自动化部署【声音设计】Qwen3-TTS-12Hz-1.7B-VoiceDesign镜像，实现高效的多语言语音合成。该平台简化了部署流程，用户可快速搭建语音生成环境，并将其应用于智能客服、离线语音助手等边缘计算场景，满足低延迟、高隐私的实时语音交互需求。

华笠医生
2026-03-07 00:18:22

 349

 7

#边缘计算
Qwen3-ASR-1.7B开源ASR系统：支持RTSP流式语音接入的边缘部署方案

本文介绍了如何在星图GPU平台上自动化部署🎙️ 清音听真 · Qwen3-ASR-1.7B 高精度识别系统，实现高效的语音转文字服务。该系统支持RTSP流式语音接入，特别适用于智能会议实时转录、安防监控语音分析等边缘计算场景，提升语音识别应用的部署效率和实时处理能力。

Fkvision
2026-03-08 00:14:39

 214

 2

#语音识别 #边缘计算
树莓派本地部署大语言模型智能体：Foam-Agent实战指南

大语言模型（LLM）作为人工智能的核心技术，通过海量数据训练获得强大的自然语言理解和生成能力。其工作原理基于Transformer架构，通过自注意力机制处理序列信息。这项技术的核心价值在于能够作为通用任务规划器，理解人类意图并拆解为可执行步骤。在边缘计算和物联网场景中，本地化部署的LLM能实现低延迟、高隐私的智能交互。本文聚焦于如何在树莓派这类资源受限的边缘设备上，通过Foam-Agent框架部署

 陈马登Morden
2026-04-24 16:13:24

 341

 3

#边缘计算
嵌入式AI智能体框架：在MCU上实现轻量级自主决策系统

嵌入式系统开发中，资源受限设备如MCU和物联网终端常面临复杂逻辑处理的挑战。传统硬编码或有限状态机方法在应对多变场景时，代码会变得臃肿且难以维护。智能体（Agent）范式通过引入目标驱动的自主决策机制，将复杂任务分解为感知、规划、决策和执行等核心环节，为设备端智能提供了新的解决方案。在嵌入式AI领域，这一技术价值尤为突出，它使得设备能在本地实时处理数据，降低对云端依赖，提升响应速度与隐私安全性。应

 weixin_33725270
2026-04-24 09:34:14

 418

 6

#边缘计算
轻量级AI智能体框架nanoAgent：从核心原理到嵌入式部署实战

AI智能体（AI Agent）作为连接大语言模型与现实世界的关键技术，其核心在于通过感知、规划、决策与执行的闭环，将自然语言指令转化为具体行动。其技术价值在于能够自动化处理复杂任务，成为人与数字系统间的智能中介。在应用场景上，传统智能体框架往往依赖云端大模型与复杂编排，导致高延迟、高成本与隐私顾虑，难以在资源受限的边缘设备或轻量级应用中部署。本文聚焦的nanoAgent项目，正是针对这一痛点，通过

 weixin_33721344
2026-04-26 10:06:57

 291

 4

#AI智能体 #边缘计算
边缘智能体推理数据集：构建具备系统2思维的AI代理

边缘计算与AI推理的结合正在重塑分布式智能系统的架构设计。在资源受限的边缘设备上部署小型语言模型（SLM）时，如何避免模型产生过度自信的幻觉输出成为关键挑战。Edge-Agent-Reasoning-WebSearch-260K数据集通过结构化训练，使模型具备类似人类专家的系统2思维能力——先拆解问题、识别知识盲区，再生成验证方案。该数据集特别强调真实环境约束，覆盖从桌面系统到嵌入式设备的多样化操

 weixin_30652491
2026-04-28 14:09:57

 316

 2

#边缘计算
开源硬件监控工具openclawwatch：轻量级数据采集与边缘计算监控实践

在嵌入式开发和边缘计算场景中，系统监控是保障设备稳定运行的关键技术。其核心原理是通过操作系统接口（如/proc、/sys文件系统）实时采集硬件运行指标，包括CPU使用率、内存占用、温度传感器数据等。这种低层级数据采集技术为资源受限环境提供了精准的性能洞察能力，避免了传统重量级监控方案带来的开销。openclawwatch作为一款开源硬件监控工具，正是基于这一技术理念构建的轻量级解决方案。它采用插件

 weixin_33717117
2026-04-29 16:30:17

 524

 4

#开源工具 #边缘计算
树莓派智能体开发：从资源整合到实战优化全解析

智能体作为能感知环境、自主决策并执行动作的程序，其核心原理在于通过传感器获取数据，经由模型推理做出决策，并控制执行器完成动作。这一技术为边缘设备赋予了自主智能，在资源受限的物联网和嵌入式场景中极具价值。在树莓派这类流行单板计算机上构建智能体，面临着算力、内存和功耗的多重挑战。开发者需要整合语音识别、计算机视觉、轻量级模型部署等多种技术模块。本文聚焦于如何利用精选的资源列表（Awesome List

weixin_30565327
2026-04-30 13:28:36

 386

 10

#边缘计算
树莓派AI智能体开发：轻量级模型与本地化部署实战指南

在嵌入式AI与边缘计算领域，如何在资源受限的设备上高效部署智能应用是一个核心挑战。其基本原理在于通过模型量化、轻量化架构与专用推理引擎，在有限算力与内存条件下实现AI功能。这一技术对于推动隐私保护、低延迟响应和离线可用的智能终端至关重要，广泛应用于智能家居、教育机器人和工业物联网等场景。本文聚焦于树莓派平台，深入探讨了以**llama.cpp**和**GGUF格式**为代表的轻量级解决方案，系统解

 weixin_33696822
2026-04-30 09:19:51

 536

 5

#AI智能体 #边缘计算
ESP32嵌入式智能体开发：在资源受限设备上实现本地自主决策

在物联网和嵌入式系统开发中，边缘计算正成为关键技术趋势，它旨在将数据处理和决策能力从云端下沉到网络边缘的设备端。其核心原理是通过在设备本地运行精简的计算逻辑，减少对云端服务器的依赖，从而降低延迟、提升系统可靠性并增强隐私保护。这一技术为智能家居、工业自动化和农业监测等场景带来了显著价值，能够实现设备的即时响应和离线运行能力。嵌入式智能体架构正是边缘计算的一种具体实现形式，它通过在资源受限的微控制器

 weixin_30509393
2026-05-01 16:16:20

 458

 9

#边缘计算
开源宠物智能体CoPaw：基于边缘计算与多模态AI的宠物行为分析系统

边缘计算通过在数据源头就近处理信息，有效降低了延迟与带宽消耗，是物联网与嵌入式系统的关键技术。其核心原理是将计算任务从云端下沉至终端设备，实现数据的本地化实时处理。这一技术价值在于平衡了性能、隐私与成本，特别适用于对实时性要求高的场景。在智能家居、工业物联网等领域，边缘计算已成为实现设备智能化的基础架构。结合多模态AI技术，系统能融合视觉、听觉等多维度信息进行综合感知与决策。本文聚焦于如何利用边缘

 单单必成
2026-05-03 15:43:59

 629

 13

#边缘计算
Bird-Skill：构建离线、可定制语音助手的轻量级框架

语音助手技术正从云端向边缘计算演进，其核心在于将语音识别（ASR）与自然语言理解（NLU）能力本地化部署。这一转变通过微内核与插件化架构实现，将核心调度与具体功能解耦，允许开发者灵活集成Vosk等离线识别引擎。这种设计在嵌入式与物联网场景中极具价值，既能保障数据隐私、降低网络延迟，又能实现深度定制。Bird-Skill框架正是这一理念的工程实践，它专注于为智能家居、工业控制等垂直领域提供一套标准化

 weixin_30907935
2026-05-06 09:03:07

 492

 7

#边缘计算
非侵入式边缘智能体控制台：基于CLI与文件系统的工业级管理方案

在边缘计算与智能体技术领域，高效、安全地管理分布式AI系统是核心挑战。其基本原理在于通过标准系统接口（如命令行CLI与文件系统）实现对底层服务的观测与控制，而非深度侵入式集成。这种非侵入式架构的技术价值在于实现了管理平面与业务逻辑的彻底解耦，保障了核心系统的稳定性与升级灵活性。在工业物联网、设备巡检等应用场景中，管理员常需统一管理运行在工控机、边缘服务器上的多个智能体实例，进行网络配置、服务启停与

 weixin_30500473
2026-05-07 10:54:46

 443

 10

#边缘计算
基于Cloudflare Workers的极简Web应用托管：OpenClaw项目实战指南

在Web开发领域，无服务器架构正成为构建现代应用的重要范式，它通过将服务器管理、运维和扩展性交由云平台处理，让开发者能更专注于业务逻辑。其核心原理在于将应用拆解为细粒度的函数，由事件触发执行，按需分配资源。这种模式的技术价值在于显著降低了运维复杂度和成本，同时提供了近乎无限的弹性扩展能力。典型的应用场景包括API网关、实时数据处理、Webhook处理器以及静态站点生成等。本文聚焦于Cloudfla

weixin_30314793
2026-05-07 11:42:43

 433

 6

#边缘计算
C++智能体框架在边缘计算中的高效应用与性能优化

智能体（Agent）作为具备自主感知、决策与执行能力的软件实体，其核心原理在于通过环境感知、内部状态管理和动作输出实现目标导向的行为。在资源受限的边缘计算场景中，传统的云端智能体架构面临延迟、带宽与隐私的挑战，其技术价值转向在本地实现低延迟、高可靠且资源高效的实时智能。C++凭借其接近硬件的性能、精细的内存控制以及确定性的执行行为，成为构建边缘智能体的理想语言，能够有效满足工业质检、自动驾驶、物联

 李放放
2026-05-08 15:59:45

 583

 14

#边缘计算
C++边缘AI智能体开发：从架构解析到实战优化指南

在边缘计算场景中，实现低延迟、高可靠的本地智能决策是核心技术挑战。其原理在于将轻量化AI模型与确定性业务逻辑相结合，在资源受限的设备上形成“感知-推理-行动”的自主闭环。这一技术价值在于解决了云端AI方案在实时性、带宽消耗和数据隐私方面的瓶颈。其典型应用场景包括工业自动化质检、智能安防监控和物联网网关等。本文聚焦于一个专为此目标设计的C++智能体开发框架，深入剖析其如何通过**多模型流水线**与*

张牛顿
2026-05-08 12:01:44

 536

 14

#边缘计算
C++高性能AI智能体SDK开发指南：从架构设计到生产部署

AI智能体（AI Agent）作为现代人工智能应用的核心架构，通过规划、推理与工具调用能力，使大语言模型从被动问答转向主动任务执行。其技术原理基于ReAct（Reasoning + Acting）等执行循环框架，通过模块化设计实现LLM交互、工具执行与状态管理的解耦。在边缘计算、高频交易等对延迟和资源控制要求严苛的场景中，C++因其极致的运行时效率、无缝的系统集成能力和确定性的资源管理，成为构建高

 老爸评测
2026-05-08 15:27:38

 625

 15

#边缘计算
AI智能体驱动Nano硬件实现自动化抓取：从视觉感知到运动控制全流程解析

在嵌入式系统与机器人技术领域，边缘计算和自动化控制是推动智能设备发展的核心。其基本原理在于将感知、决策与执行模块集成于资源受限的硬件平台，通过算法实现物理世界的交互。这一技术架构的价值在于降低了AI落地的门槛，使得低成本硬件也能具备一定的自主能力。典型的应用场景包括教育机器人、轻量级工业分拣及创客项目开发。本文聚焦于如何利用树莓派、Jetson Nano等Nano级硬件，结合TensorFlow

sched yield
2026-05-08 11:31:42

 579

 11

#AI智能体 #边缘计算
OpenClaw网关修复工具：自动化诊断与故障恢复实战

在边缘计算与物联网领域，网关设备的稳定运行至关重要。当设备固件或配置损坏导致服务中断时，传统手动修复方式效率低下且易出错。本文聚焦于网关故障恢复的核心原理，探讨如何通过自动化工具实现高效运维。故障恢复通常遵循诊断、决策、执行、验证的闭环流程，其技术价值在于将运维经验产品化，显著降低设备离线时间与人力成本。具体到应用场景，这类工具尤其适用于资源受限、部署环境复杂的边缘网关设备，能够处理从配置文件错误

 weixin_30458043
2026-05-08 13:23:51

 562

 11

#边缘计算