注意需要按照如上格式，否则报错。

以上就兼容好了openai的api请求，本地将外网的8092转发到本地443端口，最终请求的url为。使用nginx，使用https进行访问ollama，并添加api-key的校验。2. 自己申请https需要的key，修改nginx配置，增加如下配置。其中这部分是对apikey进行验证，不匹配则返回。api key填写nginx 配置里的key。1. 安装nginx。

cmd输入nvidia-smi显示 cuda version:12.2 即是最大支持的cuda版本。