本文介绍了在昇腾AI硬件平台上部署ComfyUI服务的详细步骤。首先列出硬件和软件环境要求，包括Atlas 800T/I A2设备、64GB NPU显存及相应驱动版本。安装过程包含克隆项目、修改依赖文件、安装Python包等步骤，特别指出了升腾平台不支持fp8_e4m3fn类型模型的注意事项。最后提供了模型下载和工作流验证方法，指导用户将下载的模型文件放置到正确目录并运行验证。整个过程详细说明了在

本文介绍了在昇腾AI硬件平台上部署ComfyUI服务的详细步骤。首先列出硬件和软件环境要求，包括Atlas 800T/I A2设备、64GB NPU显存及相应驱动版本。安装过程包含克隆项目、修改依赖文件、安装Python包等步骤，特别指出了升腾平台不支持fp8_e4m3fn类型模型的注意事项。最后提供了模型下载和工作流验证方法，指导用户将下载的模型文件放置到正确目录并运行验证。整个过程详细说明了在

本文介绍了在昇腾910B2芯片上运行PyTorch训练代码时遇到的DynamicGRUV2算子不支持问题的解决方案。当使用torch.nn.GRU模块时，系统会报错显示该算子不被支持。通过将DynamicGRUV2算子添加到二进制黑名单中，并将nn.GRU模块的输入输出参数都设为float16类型，成功解决了该问题。具体实现方法包括设置NPU_FUZZY_COMPILE_BLACKLIST选项为&

LLM API 管理 & 分发系统，支持 OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeek、字节豆包、ChatGLM、文心一言、讯飞星火、通义千问、360 智脑、腾讯混元等主流模型，统一 API 适配，可用于 key 管理与二次分发。单可执行文件，提供 Docker 镜像，一键部署，开箱即用。

前端用的是vue, 由于源生sse并不支持post的方式请求，因此使用fetch-event-source包进行post的请求。后端用的是langchain+fastapi，用到了starlette的一个插件包，sse_starlette返回。最近流行的ChatGPT,好奇他的流文字是怎么传输，所以去研究了，并复现了一下。