**Xinference** | 国产分布式推理 | vLLM/SGLang/llama.cpp/transformers | **国产、Dify 集成最好、分布式** | 生态新、运维门槛 | ⭐⭐⭐⭐⭐ || **TGI** | HF 生态生产推理 | Rust + Python | 稳定可靠、HF 生态原生 | LLM 为主、性能略弱于 vLLM | ⭐⭐⭐⭐ || **Xinference

一、更改STS编码格式  二、从新启动STS;三、生成API添加的信息:-encoding utf-8 -charset utf-8