logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

win本地部署文字转语音tts

Mozilla TTS 已经停止更新,所以这里用 Coqui TTS ,。

大模型项目(二)国产化kylin适配

本文介绍了国产化Kylin系统适配大模型项目的完整部署流程,包括Python环境和Docker容器两种部署方式。在Python部署部分,详细说明了从删除Miniconda、安装全量Python环境、创建虚拟环境到打包迁移的全过程,重点解决了系统依赖、版本兼容和离线安装问题。Docker部署部分则涵盖了镜像构建、国内源配置、容器运行测试及镜像导出等内容,特别提供了目录挂载和端口映射的实用方法。两种方

文章图片
#kylin#大数据
文搜图/图搜图

本文介绍了如何在Linux环境下搭建基于Milvus的图搜图系统。主要内容包括:1) 安装Docker并配置阿里云镜像源,部署Milvus(2.5.0)和可视化工具Attu;2) 使用Python连接Milvus,创建包含向量字段的集合;3) 利用Chinese-CLIP模型对图像进行向量化处理,支持图搜图功能。系统实现了从环境搭建到图像向量入库的完整流程,使用IVF_FLAT索引和余弦相似度进行

#nlp#自然语言处理
玩alfworld

一开始在win上安装一直出错,后来发现Jericho库安装一直失败,后来在github上看到需要linux环境,本来打算用虚拟机,但我的win内存不够了,在虚拟环境里面安装anconda一直装不上,所以只能放弃win部署。是一个轻量级的 Python 库,用于连接学习代理与交互式小说游戏。由微软开发并维护,它提供了一个直观的接口,使人工智能和机器学习模型能够理解、互动,并通过经典的文本冒险游戏进行

文章图片
#nlp
大模型项目(一)模型部署

本文介绍了大模型项目中的模型部署方法,主要分为ollama和llama.cpp两种方案。在ollama方案中,详细说明了模型下载、打包(获取gguf文件和Modelfile)和内网部署步骤,以及Python环境的打包与迁移方法。在llama.cpp方案中,涵盖了系统环境配置、Python环境搭建、llama.cpp编译、模型转换(将HF格式转为GGUF格式)以及模型推理测试等完整流程。两种方案均提

文章图片
#microsoft#服务器#网络
大模型项目(二)国产化kylin适配

本文介绍了国产化Kylin系统适配大模型项目的完整部署流程,包括Python环境和Docker容器两种部署方式。在Python部署部分,详细说明了从删除Miniconda、安装全量Python环境、创建虚拟环境到打包迁移的全过程,重点解决了系统依赖、版本兼容和离线安装问题。Docker部署部分则涵盖了镜像构建、国内源配置、容器运行测试及镜像导出等内容,特别提供了目录挂载和端口映射的实用方法。两种方

文章图片
#kylin#大数据
开源模型部署及使用

具体用什么模型实现什么任务可以在flagai\auto_model\auto_loader.py里面看到可用的模型和方法,如果你用的不对也会有输出,可以根据提示选择。修在configs/model_config.py里面模型文件的地址,这里确保你的两个模型文件都放在MODEL_ROOT_PATH ,并名字都和代码里的一样。据说要开源33b大模型,而且还是中英双语,有些期待,可以先试试他们的7b,这

文章图片
到底了