举个具体的例子 在3576上两个npu核 一个核推理耗时50ms 两个核进行多核推理 是两个核共同推理一帧 耗时40ms 仅减少10ms 总帧率是25 但是两个核进行多线程推理 是两个核分别推理一帧 一个核推理耗时50ms 单核帧率20 两个核总帧率20*2=40 一般为了高帧率而选择使用多线程推理。官方文档对多核推理的使用和调优有详细的说明 多核推理适用于模型网络更复杂的场景 多核推理的调度需要

解除NVIDIA 4090编码并发限制可通过克隆仓库并执行补丁脚本完成。RTX 4090在1080p@30fps的RTSP流测试中，H.265解码路数（64路）远高于H.264（32路），而编码路数均为36路。

127%（满载 800%）

总 CPU 占用率反超非零拷贝（↑12%），可能因输出数据处理逻辑复杂或内存拷贝未优化，导致 CPU 资源低效占用。（较非零拷贝↓58.7%），表明输出零拷贝可能通过轻量化存储或避免结果缓存减少内存占用，适合内存敏感型场景。，尽管 CPU 负载较高，但应用程序内存消耗大幅减少（↓74.4% 对比全零拷贝），需权衡性能与内存资源。，以降低 CPU 负载、提升处理效率，尤其输入零拷贝对应用程序 CPU

其他图形界面程序同理 但是一些用到gpu渲染的程序可能不行 之前自己写的opengles对接x11渲染的程序就不能这样远程打开。然后在mobaXterm连接3588的ssh终端上直接执行qtcreator 就能在pc上打开3588上的qtcreator。有桌面环境的系统可以安装ide在板子系统上直接开发 但是这样需要另外的屏幕鼠标键盘 不太方便。选择non-qt project 选择plain c

核心操作：放缩、NV12 转 RGB，采用 Letterbox 方式（宽高等比放缩、黑边填充、图像居中，需位移填充和坐标处理）。- 总系统：11.5%+22.7%+7.6%+11.1%+19.6%+8.6%+4.1%+10.2%=95.4%功能：NMS 过滤、画框画点线（CPU 实现，直接在 NV12 图像上操作，减少格式转换耗时），暂未实现标签打标。分辨率：1080×1920，帧率：30fps，

测试基于Atlas 300I Duo的单310P3核心，实现了10路1080p视频的YOLOv8n实时检测，核心处理流程包含14个关键步骤，覆盖拉流、解码、推理、可视化到推流全链路。开发时需重点关注昇腾Device/Context管理及DVPP V2接口的使用规范，可参考官方Demo快速落地。

整套方案基于RTX 4090+TensorRTx优化，实现了8路1080p@30fps的YOLOv8n实时检测，核心瓶颈在模型推理环节；全程最大化利用GPU算力（解码、预处理、推理、后处理、可视化均在GPU完成），CPU占用率低，硬件资源利用效率高；关键优化点包括TensorRTx的CUDA核函数加速、NPP库的格式转换、LetterBox预处理减少精度损失。

在 NVIDIA 4090 上，YOLOv5s 的 TensorRTx 推理速度比原生 TensorRT 快 15-25%，FP16 精度下可达 350+ FPS（可参考该性能表现，YOLOv8 部署后性能优势一致）。TensorRTx 封装了版本适配逻辑，同一套代码可兼容 TensorRT 8.0-8.6，且提供了跨平台的 CUDA 核函数实现，无需额外修改代码即可适配不同环境。（对应 COCO

测试基于Atlas 300I Duo的单310P3核心，实现了10路1080p视频的YOLOv8n实时检测，核心处理流程包含14个关键步骤，覆盖拉流、解码、推理、可视化到推流全链路。开发时需重点关注昇腾Device/Context管理及DVPP V2接口的使用规范，可参考官方Demo快速落地。