logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

企业级本地知识库部署教程:MaxKB + vLLM + BGE-M3 完全指南

本文提供了一套完整的本地知识库部署方案,基于Ubuntu 22.04和Docker环境,整合了MaxKB知识库平台、vLLM大模型推理和BGE-M3向量化模型。教程包含8个关键步骤:从Docker环境配置、基础服务部署(PostgreSQL/Elasticsearch/Milvus)、MaxKB主程序安装,到本地大模型接入、向量模型部署和知识库创建。特别针对存储优化提供了详细指导,包括Docker

#程序人生#学习方法#开源协议 +1
[特殊字符] 最强本地AI编程助手:Claude Code + vLLM + Qwen3 本地部署教程

本文介绍如何通过本地部署Claude Code CLI工具,实现完全离线的AI编程助手解决方案。主要内容包括: 系统架构:基于vLLM推理引擎和Qwen3-35B(AWQ)模型,搭配NVIDIA V100 GPU实现本地化部署。 核心优势: 零订阅成本 数据隐私安全 毫秒级响应 充分利用GPU资源 部署步骤: 配置vLLM服务(需开启特定参数) 安装Node.js环境 安装Claude Code

文章图片
#github#vscode#pycharm +2
[特殊字符] 最强本地AI编程助手:Claude Code + vLLM + Qwen3 本地部署教程

本文介绍如何通过本地部署Claude Code CLI工具,实现完全离线的AI编程助手解决方案。主要内容包括: 系统架构:基于vLLM推理引擎和Qwen3-35B(AWQ)模型,搭配NVIDIA V100 GPU实现本地化部署。 核心优势: 零订阅成本 数据隐私安全 毫秒级响应 充分利用GPU资源 部署步骤: 配置vLLM服务(需开启特定参数) 安装Node.js环境 安装Claude Code

文章图片
#github#vscode#pycharm +2
到底了