logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

在Docker上部署Dify

本文介绍了在CentOS7系统上使用Docker部署Dify AI平台的详细步骤。主要内容包括:1) Docker环境配置,包括卸载旧版本、安装依赖、设置阿里云镜像源;2) Dify项目部署,涉及环境变量设置、密钥文件挂载、缓存清理等关键操作;3) 常见问题解决方法,特别是SELinux权限问题和挂载目录配置。通过docker-compose命令启动11个容器服务后,用户可通过浏览器访问8080端

文章图片
#docker#容器#运维
通过手写代码的方式,微调Qwen-7B-Chat模型

这可能是由于量化配置或混合精度训练设置的问题,所以需要将训练参数(training_args)中的fp16 = True , bf16=True。虽然目前市面上的LLM,都很厉害,知识面也很全了,但是针对某些特殊应用场景,比如公司业务流程,还不是很了解,所以就需要对大模型进行微调。首先,要确保预处理(preprocess_function)中的输入和目标数据在批次处理时保持一致,确保。硬件环境:显

#python
上传大模型到魔塔社区

本文介绍两种将大模型上传到魔塔社区的方法。

#python
用Nacos管理Agent和MCP

本文介绍了如何利用Nacos 3.0+版本管理AI系统中的Agent和MCP服务。通过Docker部署Nacos服务,并演示了SpringBoot应用集成Nacos实现服务注册与发现的完整流程。主要内容包括:1)使用Docker-compose部署Nacos和MySQL;2)开发MCP Server实现时间服务并通过Nacos自动注册;3)构建MCP Client调用注册的MCP服务;4)开发自定

#spring
在魔塔社区上,微调大模型

微调AI大模型,要求非常高的电脑配置,特别是高配置的GPU,如果要使用个人电脑配置,那成本有点高,目前魔塔社区,为新用户提供了几十个小时高配置电脑的使用服务,话不多说,直接开始。

文章图片
上传大模型到魔塔社区

本文介绍两种将大模型上传到魔塔社区的方法。

#python
到底了