【代码】mindie+openai格式的API+base64编码图片。

摘要 本文介绍了基于华为昇腾Atlas800T A2服务的YOLOv8目标检测推理任务优化方案，重点阐述了如何通过DVPP和AIPP模块协同加速数据预处理流程。方案将原8步CPU预处理操作合理分配到三个环节：DVPP负责大尺寸图像缩放(12000→4096)和内存连续性处理；AIPP完成色彩空间转换(BGR→RGB)、维度转换(BHWC→BCHW)、数据类型转换(uint8→fp16/32)和归一

本文介绍如何使用量化工具在昇腾服务器上做量化，量化工具使用msModelSlim，推理框架使用MindIE，昇腾卡为Atlas300I Duo卡，以量化多模型模型Qwen2.5-VL-7B-Instruct为例。

【代码】mindie+openai格式的API+base64编码图片。

点击API设置，选择使用 OpenAI Compatible 接口类型，然后按照下图配置url等，如果没有 api key 可随意填写。略（部署 DeepSeek-R1-Distill-Qwen-32B 量化版模型）启动VSCode后，点击 扩展 进入 扩展商店，搜索出 cline 后安装。

点击API设置，选择使用 OpenAI Compatible 接口类型，然后按照下图配置url等，如果没有 api key 可随意填写。略（部署 DeepSeek-R1-Distill-Qwen-32B 量化版模型）启动VSCode后，点击 扩展 进入 扩展商店，搜索出 cline 后安装。