logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

本地-从零开始-源码-运行-大模型

《低配环境下的Qwen2-0.5B大模型本地部署实践》摘要 本文提供了两种在低配Windows10环境(4G内存/无显卡)本地运行Qwen2-0.5B小模型的方法。方式一通过HuggingFace生态实现:使用git克隆模型后,通过PyTorch+Transformers框架加载,特别注意了CPU运行设置和内存优化参数。方式二采用Ollama工具链,演示了从模型下载到API调用的完整流程,包含流式

文章图片
#transformer#pytorch#python
本地-大模型-封装运行为web服务

本文介绍了如何将本地大模型封装为Web服务,使用FastAPI框架实现API调用。主要内容包括:1)安装FastAPI和相关依赖;2)构建代码结构,包含模型加载、配置和路由处理;3)实现模型单例模式,确保全局共享一个模型实例;4)创建聊天接口,支持动态添加系统提示。该方案解决了本地模型单次使用问题,通过Web服务实现持续访问,为构建类似商业大模型的交互式应用提供了基础框架。

文章图片
#python#fastapi#人工智能 +1
服务器安装向量数据库-Docker版本

本文介绍了一个使用Docker Compose部署向量数据库Milvus及相关组件的配置方案。通过YAML文件定义了五个服务:etcd(分布式键值存储)、minio(对象存储)、milvus-standalone(向量数据库核心)、attu(管理界面)以及redis和rabbitmq(辅助服务)。配置包含了各服务的容器设置、端口映射、数据卷挂载、环境变量和资源限制,并建立了名为milvus的默认网

文章图片
#服务器#数据库#docker
DevOps Toolkit:用 PySide6 打造一站式 Windows 运维桌面工具集

文章摘要 本文介绍了使用 PySide6 开发的 Windows 桌面运维工具集 DevOps Toolkit,旨在解决开发者日常重复性运维工作痛点。工具整合了 SSH 部署、Git 管理、Maven 构建、打包发布等功能,采用本地化设计保障数据安全。文章重点阐述了三种异步模型并发的架构设计(线程、QProcess、信号路由)、响应式配置管理、流水线状态机可视化等关键技术实现,以及机器特征绑定的密

文章图片
#运维#devops#windows
IDEA 刚下载下来,使用起来特别卡顿,打开一个项目就很容易卡死如何解决:

摘要:IDEA运行卡顿可能是JVM内存限制导致,可通过调整JVM参数优化性能。建议配置包括:设置初始和最大堆内存为4096MB(-Xms4096m/-Xmx4096m),保留代码缓存512MB(-XX:ReservedCodeCacheSize),启用ZGC垃圾回收器(-XX:+UseZGC),并调整软引用策略(-XX:SoftRefLRUPolicyMSPerMB)。这些参数可显著改善IDEA运

文章图片
#intellij-idea#java#ide
SSE 流式响应 Chunk 被截断问题的排查与修复

摘要: 本文分析了SSE流式响应中JSON chunk被截断的问题及其解决方案。问题表现为前端偶尔收到不完整的JSON片段,导致解析失败。根本原因是后端代码在处理DataBuffer时错误地按换行符拆分,导致跨Buffer的JSON数据被错误分割。修复方案是引入LineBuffer行缓冲器,通过累积数据直到遇到完整换行符才输出,确保JSON数据的完整性。该方案解决了偶现的截断问题,适用于所有流式处

文章图片
#java#spring#maven +3
基于Layui Vue Admin + Spring Boot 3.x 的企业级前后端分离管理系统

Lay-Vue-Super是一个基于Spring Boot 3.x和Vue 3的企业级前后端分离管理系统。后端采用Spring Boot 3.3.10+JDK 21+MyBatis Plus技术栈,前端使用Vue 3.3.4+Layui Vue构建。系统提供完善的权限管理(基于Sa-Token)、丰富的功能模块(用户/角色/菜单/日志管理等)、响应式UI设计以及代码生成支持。项目架构清晰,包含完整

文章图片
#vue.js#layui#spring boot
Lay-Vue-Super前后端分离的通用后台管理项目

Lay-Vue-Super是一个基于Spring Boot 3.x+Vue 3+Layui Vue的前后端分离企业级管理系统框架。后端采用Spring Boot 3.3.10+JDK 21+MySQL 8.4.0+MyBatis Plus等技术栈,前端使用Vue 3.3.4+Layui Vue 2.21.1构建。项目提供完整的权限管理、系统监控、文件管理等功能模块,包含用户管理、角色权限配置、字典

文章图片
#vue.js#前端#javascript
Claude Code 安装 Skills

标题:例如“Claude Code技能(Skills)安装指南:国内加速+实战演示”引言:介绍Skills是什么,为什么需要安装,推荐市场。准备工作:说明需要Claude Code已安装。步骤一:访问skills市场,推荐两个技能(superpowers、frontend-design)。步骤二:使用国内镜像加速安装(清华镜像),提供原始命令和替换后的命令对比。步骤三:执行安装命令,展示关键输出(

文章图片
#java#spring
RuoYi-AI 本地运行全流程指南

RuoYi-AI 本地部署指南 本文提供 RuoYi-AI 项目在本地环境的完整部署流程,包含以下关键步骤: 项目准备:克隆 GitHub 仓库并配置后端数据库 模型部署:安装 Ollama 平台并加载 qwen2:0.5b 问答模型和 embeddinggemma:300m 向量模型 基础设施:使用 Docker Compose 部署 Milvus 向量数据库及相关组件(Etcd、MinIO)

文章图片
#人工智能#java#spring boot +1
    共 36 条
  • 1
  • 2
  • 3
  • 4
  • 请选择