logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

通过手写代码的方式,微调Qwen-7B-Chat模型

这可能是由于量化配置或混合精度训练设置的问题,所以需要将训练参数(training_args)中的fp16 = True , bf16=True。虽然目前市面上的LLM,都很厉害,知识面也很全了,但是针对某些特殊应用场景,比如公司业务流程,还不是很了解,所以就需要对大模型进行微调。首先,要确保预处理(preprocess_function)中的输入和目标数据在批次处理时保持一致,确保。硬件环境:显

#python
在魔塔社区上,微调大模型

微调AI大模型,要求非常高的电脑配置,特别是高配置的GPU,如果要使用个人电脑配置,那成本有点高,目前魔塔社区,为新用户提供了几十个小时高配置电脑的使用服务,话不多说,直接开始。

文章图片
上传大模型到魔塔社区

本文介绍两种将大模型上传到魔塔社区的方法。

#python
用Nacos管理Agent和MCP

本文介绍了如何利用Nacos 3.0+版本管理AI系统中的Agent和MCP服务。通过Docker部署Nacos服务,并演示了SpringBoot应用集成Nacos实现服务注册与发现的完整流程。主要内容包括:1)使用Docker-compose部署Nacos和MySQL;2)开发MCP Server实现时间服务并通过Nacos自动注册;3)构建MCP Client调用注册的MCP服务;4)开发自定

#spring
在魔塔社区上,微调大模型

微调AI大模型,要求非常高的电脑配置,特别是高配置的GPU,如果要使用个人电脑配置,那成本有点高,目前魔塔社区,为新用户提供了几十个小时高配置电脑的使用服务,话不多说,直接开始。

文章图片
上传大模型到魔塔社区

本文介绍两种将大模型上传到魔塔社区的方法。

#python
在魔塔社区上,微调大模型

微调AI大模型,要求非常高的电脑配置,特别是高配置的GPU,如果要使用个人电脑配置,那成本有点高,目前魔塔社区,为新用户提供了几十个小时高配置电脑的使用服务,话不多说,直接开始。

文章图片
上传大模型到魔塔社区

本文介绍两种将大模型上传到魔塔社区的方法。

#python
在魔塔社区上,微调大模型

微调AI大模型,要求非常高的电脑配置,特别是高配置的GPU,如果要使用个人电脑配置,那成本有点高,目前魔塔社区,为新用户提供了几十个小时高配置电脑的使用服务,话不多说,直接开始。

文章图片
到底了