使用gptq量化的模型，比如qwen-1.5-14B，对于auto-gptq 和optimum两个依赖有着版本要求。

华为泰山服务器相关小记开机猛击Del进入BIOS默认BIOS密码写在机器上面进入BIOS选择启动顺序，用U盘安装，选择PXE设备镜像使用了CentOS，镜像下载地址(选择AltArch Releases下的aarch64，Minimal (ISO))制作安装盘，linux教程，mac教程也有可以使用Ubuntu的是不是Docker能给ARM用的镜像不多？...

#!/usr/bin/python3#coding=utf-8import jsonimport requestsfrom fastapi import FastAPIfrom pydantic import BaseModelfrom chat_util import *app = FastAPI()@app.get("/")async def read_root():answer="泰凡科技"