logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

企业级大模型K8s部署方案(开源千问)

│ 企业应用层 ││ │ 智能客服系统 │ │ 企业知识库 │ │ AI机器人 │ │ 数据分析平台 │ ││ │ API 网关层 (Kong / APISIX) │ ││ │ 认证 · 限流 · 路由 · 负载均衡 · 审计 │ ││ │ ││ │ 服务编排层 (RAG / Agent) │ ││ │ │ RAG 服务 │ │ Agent 服务 │ │ 工具调用 │ │ 会话管理 │ │ ││

文章图片
#kubernetes#开源#容器
企业级大模型K8s部署方案(开源千问)

│ 企业应用层 ││ │ 智能客服系统 │ │ 企业知识库 │ │ AI机器人 │ │ 数据分析平台 │ ││ │ API 网关层 (Kong / APISIX) │ ││ │ 认证 · 限流 · 路由 · 负载均衡 · 审计 │ ││ │ ││ │ 服务编排层 (RAG / Agent) │ ││ │ │ RAG 服务 │ │ Agent 服务 │ │ 工具调用 │ │ 会话管理 │ │ ││

文章图片
#kubernetes#开源#容器
私有化 AI Agent实现思路

大模型 (vLLM Qwen-32B):大脑。负责意图理解、逻辑推理和最终文本生成。Dify:中枢神经。负责编排 Workflow、管理 Prompt 模板、调度工具调用。向量数据库 (Milvus/Qdrant) + Embedding:海马体。负责将非结构化企业文档转化为向量,并提供精准的语义检索 (RAG)。LangChain / 自定义 Tool:手脚。负责执行具体动作(如查询内部订单数据

文章图片
#人工智能#java#开发语言
centos7 搭建ngrok穿越内网

场景需要一个有固定公网ip地址的主机,通过这个主机穿透办公室的内网主机,可以理解代理功能1、gityum -y install gitgit是1.8及其以上的版本就行2、go环境wget https://redirector.gvt1.com/edgedl/go/go1.9.2.linux-amd64.tar.gztar -zxvf go1.9.2.linux-amd64.tar.gz -C /u

文章图片
#golang#linux#centos
ollama支持的模型简介

好的,以下是各个模型的主要能力和用途的中文介绍:Llama 3Phi 3 MiniPhi 3 MediumGemma 2Gemma 2 27BMistralMoondream 2Neural ChatStarlingCode LlamaLlama 2 UncensoredLLaVASolar

文章图片
nacos平滑下线思路集成deployment

方式优点缺点推荐场景写接口灵活,可加逻辑、日志、监控需开发,暴露接口有风险需要复杂逻辑(如通知、审计)preStop直接调 REST API简单,无需改代码不够灵活,难调试大多数场景推荐。

文章图片
#k8s
jenkins pipeline前端构建加入报错跳出机制

新增try-catch机制,当失败时将终止后续步骤并跳过部署阶段。通过在编译阶段检测的退出码,可以确保构建失败时不会继续执行。

文章图片
#jenkins#前端#运维
Ubuntu 22.04 安装nginx+php环境

通过以上步骤,你已完成:✅ Ubuntu 22.04 下安装 PHP 8.0✅ 安装常用扩展(支持现代 PHP 框架)✅ 配置内存、上传限制、时区等关键参数✅ 安装并验证 Composer✅ 可选集成 Nginx + PHP-FPM 部署环境。

文章图片
#php#ubuntu#composer
Command “python setup.py egg_info“ failed with error code 1 in /tmp/pip-build-wp7bhkqo/cryptography/

1. 升级 pip 和工具链 pip3 install --upgrade pip setuptools wheel # 2. 安装 Rust 构建支持 pip3 install setuptools-rust # 3. 安装 ansible(自动解决 cryptography) pip3 install ansible。

文章图片
#python#pip#开发语言
    共 172 条
  • 1
  • 2
  • 3
  • 18
  • 请选择