logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

本地模型+LoRa+FastApi微调模型参数实操步骤

摘要:本文介绍了一个完整的LoRA微调大语言模型并部署FastAPI服务的流程。主要包括:1)环境准备与依赖安装;2)LoRA模型训练脚本,使用4bit量化和peft库进行高效微调;3)训练数据JSON格式要求;4)FastAPI部署脚本实现模型推理接口;5)训练和API启动命令。关键技术点包括:4bit量化加载、LoRA参数配置(r=8)、2e-4学习率等超参数设置。最后提供了cURL调用示例,

文章图片
#fastapi#python#深度学习
本地模型 + RAGFlow 构建知识库实操过程

本文详细介绍了使用本地大模型和RAGFlow构建私有化知识库的完整流程。通过Ollama部署LLaMA3/Qwen等本地模型,结合RAGFlow实现文档解析、分块和向量检索。重点包括:1)Docker和Ollama环境配置;2)RAGFlow部署及对接本地模型;3)文档上传与知识库创建;4)本地问答流程及问题排查。整个过程确保数据不上传云端,支持PDF/Word等多种格式,提供混合检索功能。文章还

文章图片
#深度学习#transformer
Transformer的自注意力机制原理

Transformer模型的核心自注意力机制通过计算序列元素间的相关性权重,动态整合全局信息。其核心步骤包括:将输入转换为查询、键、值向量,计算注意力分数并归一化,最后加权求和生成新表示。多头自注意力机制进一步扩展该能力,通过并行计算多个注意力头捕获不同子空间特征。该机制具有并行计算、长距离依赖建模、结构灵活和可解释性强等优势,是Transformer处理序列数据的核心创新。

文章图片
#transformer#深度学习#人工智能
Trae AI 辅助编程超全技巧:从入门到提效

Trae 是字节跳动推出的 AI 原生 IDE,核心价值在于深度上下文理解与全流程自动化,能显著提升编码、调试与项目构建效率。以下是分场景的实用技巧,帮你快速上手并发挥最大价值。

文章图片
#策略模式
本地部署智能体OpenClaw

OpenClaw 这是目前最成熟、社区最活跃的选项之一。它不仅能聊天,核心价值在于执行——将你的指令转化为实际的电脑操作。如果你想找一个能立刻帮忙干活、且对中文支持极佳的助手,选它准没错。

文章图片
#人工智能
人工智能技术相关课程学习(浙大和清华的设计对比)

浙大与清华人工智能专业课程体系对比显示,两校均构建了涵盖核心理论、技术应用、交叉学科和实践项目的完整课程框架。浙大侧重算法基础与社会伦理的结合,开设《人工智能哲学基础与伦理》等特色课程;清华则突出数学基础与前沿技术,由姚期智院士亲自讲授《人工智能应用数学》。两校均设置大量实践环节,浙大通过MO实训项目(如机器人走迷宫)培养应用能力,清华则开展AI+X跨学科项目。通识教育方面,浙大针对不同背景学生开

文章图片
#人工智能#学习
【升华】深度学习框架Keras详解

Keras是一个高级神经网络API,支持快速构建和训练深度学习模型。它建立在TensorFlow、Theano和CNTK等后端之上,为开发者提供了简单易用的API,以便快速构建和训练深度学习模型。在本文中,我们将对Keras框架进行总结,重点介绍其关键特性、使用场景、与其他框架的比较以及未来发展方向。一、Keras关键特性简单易用:Keras提供了简单易用的API,使得开发者可以快速上手,并且可以

文章图片
#深度学习#keras#人工智能
JAVA开发运维(DevOps过程)

DevOps开发运维的一套方法论。这边文章主要借鉴万达的DevOps的建设过程。谈谈DevOps主要解决那些问题和怎么解决。DevOps的是一种IT项目开发管理方法论,它旨在提供全面的持续集成、持续交付等能力,并持在续进行过程度量和改进,不断提升 IT 运行效率。

文章图片
#架构#devops
JAVA开发(开发工具与部署)

在我的项目开发中,目前使用到的开发工具与组件。操作系统版本:Linux CentOS 7.6JAVA环境:openjdk version "1.8.0_312"数据库:MYSQL8.0 或PostgreSQL 12.8。

文章图片
#java#开发语言
springCloud和springboot升级

springCloud和springBoot较低版本有时候会有网络漏洞,所以随着springCloud和springBoot的升级会修复这些漏洞。那么有时候就遇到在升级过程中,遇到不兼容的问题。需要总结下来记录一下。

文章图片
#spring boot#spring cloud#后端
    共 153 条
  • 1
  • 2
  • 3
  • 16
  • 请选择