logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Windows环境下,通过docker部署agent运行平台dify

本文介绍了在Windows系统下安装Docker并部署Dify应用的全过程。首先需要启用虚拟机功能并下载Docker安装包完成安装。然后从GitHub获取Dify源码,通过Docker容器进行部署:配置环境变量后,使用docker-compose命令拉取镜像(如速度慢可配置镜像加速地址)。最终在本地80端口成功运行Dify应用。整个流程包含详细的操作步骤和界面截图,适合初学者按指南完成部署。

文章图片
#windows#docker#容器
使用LLaMA-Factory,对选定的大模型Qwen2-1.5B进行微调步骤

本文介绍了使用LLaMA-Factory工具微调Qwen2-1.5大模型的完整流程。作者在算多多平台上完成了模型训练,选择identity数据集进行微调,展示了训练过程和结果评估。文章详细说明了模型会话测试和导出步骤,最终将微调好的模型下载至ollama中使用。整个过程操作简便,验证了LLaMA-Factory工具在大模型微调中的实用性,为资源有限的开发者提供了可行的解决方案。

#LLaMA-Factory
【大模型格式转换】将.safetensors格式转换为ollama能够本地加载的模型!!!

本文介绍了将LLaMA-Factory微调的.safetensors格式模型转换为ollama可加载格式的全过程。首先通过Python程序实现模型格式转换,自动创建ollama_models目录并生成使用说明。随后展示ollama成功加载转换后的GGUF格式模型,最后演示了使用Postman调用该模型的完整流程。整个方案解决了第三方平台ollama无法直接加载.safetensors格式模型的问题

文章图片
#AI
Window下安装OpenClaw,结合本地Qwen3大模型,打造自己的本地龙虾!!

本文详细记录了在Windows系统上部署OpenClaw AI开发平台的完整流程。首先配置了Node.js v24.14.0、pnpm 10.32.1和Git 2.53等基础环境,通过镜像源加速依赖安装。接着使用Git Bash完成源码克隆、依赖安装和项目构建。重点展示了初始化向导配置过程,包括选择本地Qwen3大模型作为自定义提供者,并调整上下文窗口参数解决token限制问题。最后通过创建多级目

文章图片
#AI
在本地(Windows环境)部署LLaMa-Factory,进行模型微调步骤!!!

本文详细介绍了在Windows11系统下配置LLaMA-Factory运行环境的完整流程。硬件配置为RTX3060显卡、i7-12700处理器和32GB内存。安装步骤包括:1)Python 3.10环境搭建;2)CUDA工具包安装与验证;3)GPU版PyTorch安装;4)LLaMA-Factory的克隆与依赖安装。最后通过web界面成功启动LLaMA-Factory,所有环境验证均显示正常,包括

文章图片
#windows#LLaMA-Factory#AI
在使用开源IOT平台Thingsboard时,遇到的编译问题一内存不足

遇到以下情况时,属于nodejs的内存不足,解决方法如下修改前"build:prod": "ng build --prod --vendor-chunk",修改后"build:prod": "node --max_old_space_size=8048 ./node_modules/@angular/cli/bin/ng --prod --vendor-chunk",...

#iot
Ollama默认只监听127.0.0.1(本地回环),改为0.0.0.0以接受来自局域网的连接

本文介绍了Ollama服务的网络配置方法,包括:1)通过环境变量设置监听地址;2)配置防火墙规则允许访问;3)多网卡环境下指定监听接口;4)验证服务连通性的步骤。提供了Windows和Linux/macOS系统的具体操作命令,最后给出了访问API的示例地址。这些配置步骤确保Ollama服务能够正常提供网络访问功能。

#人工智能#AI
在本地(Windows环境)部署LLaMa-Factory,进行模型微调步骤!!!

本文详细介绍了在Windows11系统下配置LLaMA-Factory运行环境的完整流程。硬件配置为RTX3060显卡、i7-12700处理器和32GB内存。安装步骤包括:1)Python 3.10环境搭建;2)CUDA工具包安装与验证;3)GPU版PyTorch安装;4)LLaMA-Factory的克隆与依赖安装。最后通过web界面成功启动LLaMA-Factory,所有环境验证均显示正常,包括

文章图片
#windows#LLaMA-Factory#AI
使用llama-factory微调Qwen2-1.5B-Instruct模型,导出微调后的Hugging Face格式模型,并通过llama.cpp转换成ollama可运行的GGUF格式的模型

本文详细介绍了Qwen2-1.5B-Instruct模型的微调与部署全流程:1)数据准备阶段配置JSON数据集;2)使用LLaMA-Factory进行LoRA微调;3)模型评估与对话测试;4)导出Hugging Face格式模型;5)通过llama.cpp转换为GGUF格式;6)最终部署到Ollama平台运行。整个过程涵盖了从数据配置、模型训练到格式转换和本地部署的关键步骤,为基于大语言模型的定制

文章图片
#AI
windows下使用ollama部署、运行deepseek!!!

本文介绍了两种运行ollama深度学习模型的方法。第一种方法是通过下载安装包,管理员权限运行PowerShell执行命令"ollama pull deepseek-coder:1.3b"和"ollama run deepseek-coder"来启动模型。第二种方法是使用"ollama serve"命令启动服务后,通过Postman调用接口

#AI
    共 58 条
  • 1
  • 2
  • 3
  • 6
  • 请选择