有时候问一些特定名词（比如“报销流程”、“错误代码 502"），向量检索找出来的全是些“意思相近”但不沾边的废话。

有时候问一些特定名词（比如“报销流程”、“错误代码 502"），向量检索找出来的全是些“意思相近”但不沾边的废话。

【大模型实战 3】向量数据库选型：Chroma / Milvus / FAISS 怎么选？

【大模型实战 3】向量数据库选型：Chroma / Milvus / FAISS 怎么选？

有些朋友可能会说：“现在的模型上下文窗口都 128K、200K 了，一本书都能装下，直接喂不行吗？”

前阵子咱们刚聊完怎么把大模型跑起来。模型跑通了，很多人第一个念头就是：“喂，这玩意儿怎么老瞎编？”或者“怎么连昨天的新闻都不知道？”

该教程介绍了如何使用Qwen2，一个由阿里云通义实验室研发的开源大语言模型，进行指令微调以实现文本分类。

将开源的大语言预训练模型部署到用户设备上进行推理应用，特别是结合用户专业领域知识库构建AI应用，让AI在回答时更具有专业性，目前已经有很多成熟的应用方案。其中，支持大模型本地化部署的平台及工具很多，比较出名的有ollama、vLLM、LangChain、Ray Serve等，大大简化了模型的部署工作，并提供模型全生命周期管理。

我对产品的理解是：通过一种精妙的方法解决了一个问题，而这个问题恰好是大多数人所面临的共性问题。然而，不可能将这种方法逐一传授给每个人。

32B比肩671B，阿里千问QwQ杀疯了！本地电脑就可部署，大模型本地化部署，收藏这篇就足够了！