本文介绍了在Ascend NPU环境下部署DeepSeek-V4-Flash-w8a8-mtp大语言模型的完整流程。首先通过docker_run.sh脚本创建容器，挂载必要的设备驱动和目录；然后下载模型文件并安装依赖；接着配置环境变量并启动vllm服务，设置并行参数和量化选项；最后通过curl命令调用API接口进行模型推理。整个过程详细说明了容器配置、模型部署和服务调用的关键步骤，适用于Ascen

本文介绍了在Ascend NPU环境下部署DeepSeek-V4-Flash-w8a8-mtp大语言模型的完整流程。首先通过docker_run.sh脚本创建容器，挂载必要的设备驱动和目录；然后下载模型文件并安装依赖；接着配置环境变量并启动vllm服务，设置并行参数和量化选项；最后通过curl命令调用API接口进行模型推理。整个过程详细说明了容器配置、模型部署和服务调用的关键步骤，适用于Ascen

本文介绍了在Ascend NPU环境下部署DeepSeek-V4-Flash-w8a8-mtp大语言模型的完整流程。首先通过docker_run.sh脚本创建容器，挂载必要的设备驱动和目录；然后下载模型文件并安装依赖；接着配置环境变量并启动vllm服务，设置并行参数和量化选项；最后通过curl命令调用API接口进行模型推理。整个过程详细说明了容器配置、模型部署和服务调用的关键步骤，适用于Ascen

本文介绍了AISBench的安装和使用流程：1）通过git下载安装包并执行pip安装；2）修改vllm_api_general_chat.py配置文件；3）下载并解压gsm8k数据集；4）执行测试命令，使用vllm_api_general_chat模型和demo_gsm8k_gen_4_shot_cot_chat_prompt数据集进行性能测试，设置8个prompts并开启debug模式。整个过程

昇腾平台推理工具链项目msit提供Qwen系列模型的量化案例路径，用户可通过msit/msmodelslim/example/Qwen/README.md查看具体实现。该项目托管于AtomGit/GitCode平台，支持基于昇腾芯片的模型优化与部署，帮助开发者高效完成大模型量化任务。量化方案可根据实际需求灵活选择，适用于不同推理场景的性能优化。

昇腾平台推理工具链项目msit提供Qwen系列模型的量化案例路径，用户可通过msit/msmodelslim/example/Qwen/README.md查看具体实现。该项目托管于AtomGit/GitCode平台，支持基于昇腾芯片的模型优化与部署，帮助开发者高效完成大模型量化任务。量化方案可根据实际需求灵活选择，适用于不同推理场景的性能优化。

昇腾平台推理工具链项目msit提供Qwen系列模型的量化案例路径，用户可通过msit/msmodelslim/example/Qwen/README.md查看具体实现。该项目托管于AtomGit/GitCode平台，支持基于昇腾芯片的模型优化与部署，帮助开发者高效完成大模型量化任务。量化方案可根据实际需求灵活选择，适用于不同推理场景的性能优化。

2、如果没有free mybatis plugin 可以安装MybatisX插件。1、进入setting界面安装Free Mybatis plugin。

一、查找java的安装路径。二、配置JAVA_HOME。

1、在Idea中View-->Tool Windows-->Database。注：如果在表中右击没有“MybatisX-Generator选项”选项。3、填入对应的数据库信息，点击OK。1、需要安装Mybatisx插件。5、database生成实体。