HugePages 是宿主机 CPU 大页内存，是昇腾 CANN 驱动、NPU 通信、显存辅助缓存的底层依赖资源；推理服务异常退出会造成巨页共享内存内核残留无法释放，HugePages 耗尽会造成昇腾 Runtime 运行异常、显存管理错乱、假性显存不足；清理ipcs -m里的 ascend 共享内存，是清理驱动遗留的巨页内存垃圾，让 CANN Runtime 初始化恢复正常，NPU 显存分配逻辑

HugePages 是宿主机 CPU 大页内存，是昇腾 CANN 驱动、NPU 通信、显存辅助缓存的底层依赖资源；推理服务异常退出会造成巨页共享内存内核残留无法释放，HugePages 耗尽会造成昇腾 Runtime 运行异常、显存管理错乱、假性显存不足；清理ipcs -m里的 ascend 共享内存，是清理驱动遗留的巨页内存垃圾，让 CANN Runtime 初始化恢复正常，NPU 显存分配逻辑

引言：最近在做nlp2sql的项目，就是用大模型把人话转成sql语句的项目，所以才会有这一篇文章,文章重点在vanna,NL2SQL-benchmark。这是我接触的第一个大模型的项目，所以这边文章会以这个项目为线索，混杂许多内容去讲，涉及到大模型、dify、spider、vanna、NL2SQL-benchmark等学习，反正就是很杂，每个都会讲，但是都不一定足够的深入，如果以后有机会把每个都学

这个说白了就是，做一个前端界面出来，把接口封装起来，让这个工具给普通人也可以用（毕竟是要做成一个完成的应用服务的），没有这一层的话，也可以，但是吧不美观，没有人想每次都在终端命令行中敲IP地址以及各种符号，况且，还记得前面说过得多模态模型，也就是说大模型返回的东西，可能不仅是文本，它也可以是图片、音视频、或者是ppt工程文件等等，所以这些返回结果不是像文本返回结果那样人可以读懂的，所以就需要辅助周

引言：最近在做nlp2sql的项目，就是用大模型把人话转成sql语句的项目，所以才会有这一篇文章,文章重点在vanna,NL2SQL-benchmark。这是我接触的第一个大模型的项目，所以这边文章会以这个项目为线索，混杂许多内容去讲，涉及到大模型、dify、spider、vanna、NL2SQL-benchmark等学习，反正就是很杂，每个都会讲，但是都不一定足够的深入，如果以后有机会把每个都学