logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

oneapi私有化部署failed to get gpt-3.5-turbo token encoder解决方案

摘要 本文记录了在无网络环境的Linux服务器上部署oneapi服务的解决方案。通过以下步骤实现:1) 在本地使用docker-compose运行oneapi和MySQL服务;2) 将本地镜像保存为tar文件并传输到服务器;3) 服务器加载镜像并启动服务。遇到的关键问题是oneapi需要联网下载词库文件,通过从本地容器中提取缓存文件(cl100k_base.tiktoken等)并手动复制到服务器容

文章图片
#oneapi#gpt-3
银河麒麟V10 aarch64架构安装mysql教程

国产化操作系统银河麒麟V10 aarch64架构安装mysql教程

文章图片
#架构#mysql#数据库
配置ollama使用GPU

本文介绍了在Windows系统上配置Ollama使用GPU加速的步骤

文章图片
Fastgpt学习(5)- FastGPT 私有化部署问题解决

从给出的日志可知,PostgreSQL 的 Docker 镜像启动失败是因为数据目录 /var/lib/postgresql/data 的。Windows系统下修改文件目录权限存在诸多问题,直接在Docker Desktop下进行File Sharing进行修改。Windows系统下修改文件目录权限存在诸多问题,直接在Docker Desktop下进行File Sharing进行修改。MongoD

文章图片
#RAG#mongodb
From Local to Global: A Graph RAG Approach to Query-Focused Summary 阅读笔记

GraphRAG:基于知识图谱的增强检索方法 传统RAG在高级抽象查询上表现不佳,GraphRAG通过构建知识图谱解决这一问题。该方法分为索引和查询两阶段:索引阶段利用LLM提取实体、关系形成知识图谱,应用Leiden算法进行层次化社区划分;查询阶段通过多级社区摘要生成答案。相比传统RAG,GraphRAG在回答全面性、多样性问题上优势显著,尤其在8k tokens上下文窗口时表现最佳,但在回答直

文章图片
#RAG
oneapi本地部署接口测试(curl命令方式+postman方式)

本文展示了两种AI模型API的测试方法:1)基础对话模型测试,通过curl命令调用本地3001端口的QwQ-32B模型进行简单对话;2)嵌入模型测试,使用GLM-Embedding-2模型获取文本"你好,世界"的向量表示。文中提供了完整的curl请求示例和响应截图,并附带了获取授权令牌的方法图示。测试结果表明两个模型均能正常响应请求,适用于本地开发环境下的AI应用集成。

文章图片
#oneapi#postman#测试工具
FastGPT数据迁移 --PG、Mongo、mysql

本文介绍了三种Docker容器中数据库迁移方案:1)PG数据库可直接使用官方迁移方案;2)MongoDB需通过mongodump/restore命令进行跨架构迁移,详细说明了备份、传输和恢复步骤;3)MySQL可通过Navicat导出SQL文件后在目标主机执行。重点针对MongoDB的特殊性(wiredTiger引擎的架构不兼容问题)提供了完整的命令行操作流程,包括数据备份、容器间文件传输及恢复验

文章图片
#mysql#数据库#mongodb
配置ollama使用GPU

本文介绍了在Windows系统上配置Ollama使用GPU加速的步骤

文章图片
配置ollama使用GPU

本文介绍了在Windows系统上配置Ollama使用GPU加速的步骤

文章图片
    共 13 条
  • 1
  • 2
  • 请选择