logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

OpenCloudOS9(RHEL9系 dnf)安装 Hermes-Agent完整教程

摘要:本文介绍在OpenCloudOS9系统上部署Hermes-Agent的两种方法。源码部署需手动安装Python3.11、Node22等依赖,通过uv管理虚拟环境并编译安装;Docker方案则更简便。关键步骤包括:1)安装系统依赖;2)配置Node22;3)使用uv搭建Python环境;4)源码编译或容器化部署。常见问题涉及依赖缺失、版本冲突等,文中提供了对应的解决方案。两种方式均需通过her

#人工智能
第七十六篇-V100+llama-cpp-python+Qwen3-30B+GGUF

本文介绍了在配备Tesla V100-32G显卡的CentOS-7系统上部署Qwen3大语言模型的过程。通过conda创建Python 3.12环境,使用CUDA 12.2和CMake 3.17.5编译llama-cpp-python,成功加载30B参数的Qwen3-30B-A3B模型。配置参数包括50层GPU卸载、32768上下文窗口、26线程CPU并行等,充分利用硬件资源。测试显示模型推理时G

#python#开发语言
Dify中Chatflow(对话流)和Workflow(工作流)有什么区别

Dify中的Chatflow与Workflow是两种不同定位的可视化编排工具。Chatflow专注于多轮对话交互,支持上下文关联,适用于客服机器人、智能助手等需要记忆会话历史的场景;Workflow则是无状态的任务自动化工具,适合数据清洗、批量处理等一次性任务。两者在交互模式、状态管理、节点类型和触发方式等方面存在显著差异,且API接口严格隔离,不可混用。实际应用中可配合使用,Workflow处理

Docker-构建自己的Web-Linux系统-镜像kasmweb/ubuntu-jammy-desktop

摘要 本文介绍了两种通过Docker快速部署Ubuntu桌面环境的方法。第一种使用kasmweb/ubuntu-jammy-desktop镜像(8GB大小),运行命令包含shm-size设置和VNC密码配置,访问地址为https://IP:6901,默认用户名为kasm_user。第二种推荐方案使用colinchang/ubuntu-desktop镜像,配置类似但密码格式不同。两种方法都提供了基于

#linux#docker#ubuntu
Docker-构建自己的Web-Linux系统-镜像colinchang/ubuntu-desktop:22.04

Ubuntu桌面环境Docker镜像使用指南 本文提供了Ubuntu 22.04桌面环境Docker镜像的下载和运行方法。镜像大小为3G,可从两个源下载。运行命令包含容器配置参数,如共享内存大小、端口映射和VNC密码设置。访问方式为HTTPS协议,默认用户名为"kasm_user",密码与VNC_PW参数相同。文章最后展示了运行效果截图,证实该镜像能成功提供基于网页的Ubunt

#linux#docker#ubuntu
Docker-构建自己的Web-Linux系统-Ubuntu:22.04

本文介绍了基于Ubuntu 22.04构建支持SSH服务的Docker镜像的详细过程。主要内容包括:1) 使用阿里云镜像源替换默认源;2) 安装openssh-server并配置root登录权限;3) 通过Dockerfile构建190MB大小的精简镜像;4) 创建容器时映射28521端口,并设置privileged权限和自动重启;5) 主机防火墙配置端口开放。最终可通过SSH客户端使用root/

#linux#docker#前端
Spring 远程接口幂等是什么意思

Spring远程接口中的幂等性是指多次调用产生的影响与单次调用相同。RESTful API部分HTTP方法(GET/PUT/DELETE)天然幂等,而POST方法需要额外处理。实现技术包括:唯一请求ID校验、乐观锁、状态机约束和数据库唯一索引。幂等性对保障分布式系统的数据一致性、可靠性和用户体验至关重要,尤其在支付等关键场景。Spring中可通过请求ID检查等机制实现接口幂等性。

#spring boot
第五十篇-AutoDL+Ollama+V100+Qwen3:32B

在AutoDL云平台上使用V100-32GB GPU部署Qwen3-32B大模型的测试报告:配置环境包括PyTorch 2.5.1、Python 3.12和CUDA 12.4。模型下载后测试显示,推理速度达29.64 tokens/s,GPU利用率94%,显存占用20.8GB/32GB。整个测试过程耗时27.5秒,其中prompt处理速度284.28 tokens/s。该配置成功运行了32B参数规

#人工智能
第五十四篇-Ollama+V100+Qwen3:14B-性能

在CentOS-7系统下,使用E5-2680V4处理器和Tesla V100-32G显卡测试ollama运行qwen3:14b模型。测试显示,模型加载耗时47.8ms,生成2556个token耗时50.87秒,推理速度为50.24 token/s。GPU利用率达92%,显存占用15.2GB/32GB,温度36℃,功耗246W。系统配置和性能表现均衡,满足大模型推理需求。

#人工智能
第五十三篇-Ollama+V100+Qwen3:4B-性能

摘要:在CentOS-7系统环境下,使用Tesla V100-32G显卡运行qwen3:4b模型进行测试。结果显示处理3787个token耗时40.46秒,评估速率为93.98 tokens/s。GPU在84%负载下温度保持在29℃,显存使用4466MB/32768MB。测试表明V100性能显著优于P40,水冷散热效果良好,但转接板噪音问题明显。整体升级效果令人满意,运行速度表现优异。

#人工智能
    共 64 条
  • 1
  • 2
  • 3
  • 7
  • 请选择