logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

端侧算力的发展前景:从“边缘补充”到“智能核心”的范式跃迁

端侧算力正迎来,成为人工智能从“云端集中”向“边云协同”范式转型的核心引擎。2026年全球端侧AI硬件市场规模预计突破3200亿元,2030年将达1.2万亿元,年复合增长率维持在30%-40%的高速增长区间。其核心价值在于突破云端算力的延迟、隐私与带宽约束,让智能真正渗透到物理世界的每一个终端,实现“感知-决策-执行”的实时闭环。

#边缘计算
NVIDIA157TOPS边缘算力开发板测评:图为AIBOX‑OrinNX vs 视程空间AIR NX 16G

实际在我对比看来就应用场景不一样,但既然测了就一起说一下。两款产品均基于 NVIDIA Jetson Orin NX 16GB Super 实现 157TOPS INT8 峰值算力,核心算力架构同源,都是nVidia Jetson的算力芯片,但在硬件形态、接口设计、功耗控制与场景适配层面存在一些差异。本文从核心规格、硬件设计、性能表现、生态与落地四大维度展开中立对比,供参考。

#网络#边缘计算
各大AI陆续收费后,我终于看懂:本地边缘大模型才是未来

各大云端AI全面收费,看似是平台商业化的收割,实则也倒逼大家看清了行业的真相:依赖云端的AI,永远要受限于平台、网络和成本。而本地边缘大模型,才是普通人、中小企业能真正自主掌控的AI未来。不用月月续费、不用担忧隐私泄露、不用依赖网络、响应还更快。接下来的AI赛道,绝对不是单纯的“模型越大越强”,而是云端高精、边缘普惠的分布式智能时代。谁能更低成本、更安全、更灵活地用上AI,谁就能在接下来的智能化浪

#人工智能
从云端付费到边缘本地:大模型部署的必然转向与未来格局

云端大模型的付费化是行业商业化的必然选择,但也暴露了集中式服务的固有缺陷。边缘计算本地大模型部署,以隐私安全、实时响应、成本可控、资源高效为核心优势,成为破解云端困境的关键路径。未来,AI 部署将不再是 “云端唯一”,而是云边端协同、分层智能、按需部署的分布式格局。对于个人用户,本地模型将提供免费、私密、实时的基础 AI 服务;对于企业,本地 + 云端的混合架构将平衡成本、安全与能力,推动 AI

#大数据#人工智能
视程空间Pandora(Jetson Orin NX 16G)能跑20B本地大模型?速度19t/s?今天我们来测评一下

我们知道NX16G一般也就跑跑7B的模型,他说能跑20b的GPT-OSS,说实话我是不信的。从落地价值来看,该方案精准适配了体积受限、电池供电、需要离线本地交互的边缘场景,比如小型服务机器人、工业巡检终端、嵌入式智能座舱、离线智能终端等,在不提升硬件规格、不增加体积功耗的前提下,实现了大模型能力的升级。2. 开发板实际性能受固件版本、驱动迭代、模型版本、散热方案、供电质量、系统配置等多重因素影响,

文章图片
#边缘计算#Jetson
视程空间Pandora边缘算力盒子实测评测:基于Orin NX 16G的端侧大模型务实方案

一、产品定位与官方参数 视程空间 Pandora 是面向端侧离线大模型、工业视觉、机器人场景的紧凑型边缘算力设备,核心基于NVIDIA Jetson Orin NX 16G Super打造,定位为工业级量产型边缘算力平台,区别于英伟达公版开发板的原型验证属性,主打小体积、强算力、大模型优化、工业级稳定,面向 B 端设备厂商与开发者。接口精准匹配工业 / 机器人场景 砍掉冗余消费级接口,保留双网口、

#人工智能#边缘计算
本地跑、断网用、够智能:GPT-OSS 20B边缘大模型的落地价值与场景能力

在边缘大模型的选型里,参数规模是一道精准的平衡题:7B 级模型虽然更容易部署,但逻辑推理、专业知识、长文本理解能力有限,只能应对简单问答,无法支撑专业场景;34B 及以上参数模型能力更强,但显存与算力需求大幅提升,紧凑型边缘平台难以承载,部署成本居高不下。GPT-OSS 20B 恰好踩中了边缘场景的 “能力阈值”:在指令遵循、逻辑推导、专业知识适配、多轮对话体验上,相比 7B 级模型有量级提升,足

#边缘计算
JetPack 6.2 超级模式(SUPER Mode)技术解析与全型号基准评测

随着 NVIDIA JetPack 6.2 正式推送,Jetson Orin Nano、Jetson Orin NX 全系列生产模块与开发者套件正式支持超级模式(MAXN SUPER)。该模式通过解锁更高的 CPU、GPU、DLA 与内存调度频率,大幅释放边缘设备生成式AI推理性能,最高可实现2倍生成式AI性能提升。

#Jetson#边缘计算
视程空间Pandora边缘算力盒子实测评测:基于Orin NX 16G的端侧大模型务实方案

一、产品定位与官方参数 视程空间 Pandora 是面向端侧离线大模型、工业视觉、机器人场景的紧凑型边缘算力设备,核心基于NVIDIA Jetson Orin NX 16G Super打造,定位为工业级量产型边缘算力平台,区别于英伟达公版开发板的原型验证属性,主打小体积、强算力、大模型优化、工业级稳定,面向 B 端设备厂商与开发者。接口精准匹配工业 / 机器人场景 砍掉冗余消费级接口,保留双网口、

#人工智能#边缘计算
各大AI陆续收费后,我终于看懂:本地边缘大模型才是未来

各大云端AI全面收费,看似是平台商业化的收割,实则也倒逼大家看清了行业的真相:依赖云端的AI,永远要受限于平台、网络和成本。而本地边缘大模型,才是普通人、中小企业能真正自主掌控的AI未来。不用月月续费、不用担忧隐私泄露、不用依赖网络、响应还更快。接下来的AI赛道,绝对不是单纯的“模型越大越强”,而是云端高精、边缘普惠的分布式智能时代。谁能更低成本、更安全、更灵活地用上AI,谁就能在接下来的智能化浪

#人工智能
    共 26 条
  • 1
  • 2
  • 3
  • 请选择