基于大模型与milvus库构建简单的输入查询迭代器

dify访问宿主机milvus服务遇到报错Fail connecting to serve

本文梳理了大模型相关核心术语：LLM（大语言模型）通常指参数≥10亿的模型；Prompt是用户输入的提示词；MCP为模型提供标准化外部接口；Agent整合LLM和MCP实现智能交互；RAG通过检索增强减少模型幻觉；Embedding将词语向量化表达语义关系；LangChain是快速开发框架；vLLM优化GPU内存提升推理效率；Token是基本处理单元；数据蒸馏让小模型学习大模型生成的数据。这些概念

本文梳理了大模型相关核心术语：LLM（大语言模型）通常指参数≥10亿的模型；Prompt是用户输入的提示词；MCP为模型提供标准化外部接口；Agent整合LLM和MCP实现智能交互；RAG通过检索增强减少模型幻觉；Embedding将词语向量化表达语义关系；LangChain是快速开发框架；vLLM优化GPU内存提升推理效率；Token是基本处理单元；数据蒸馏让小模型学习大模型生成的数据。这些概念

关于我在windows想使用milvus库，又不想麻烦的部署docker，所以总结了如何在本地部署milvus服务器。