logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

bitbrick_k1集群使用prima_cpp分布式部署大模型推理

本文介绍了prima.cpp(llama.cpp的分布式实现)的部署过程及性能测试。首先配置4节点集群,安装必要工具并下载Q8_0量化模型。测试发现Qwen3-14B模型存在兼容性问题,改用Qwen2.5系列后,3B模型速度仅1.5 token/s,0.5B模型达5 token/s。对比单节点ollama部署(3B模型1.21 token/s,0.5B模型6.99 token/s),发现prima

文章图片
#分布式
OpenClaw 树莓派 / 香橙派部署

摘要:本文详细介绍了在树莓派5和香橙派5 Ultra(RK3588)等ARM开发板上部署OpenClaw AI助手的完整流程。文章首先分析了ARM开发板作为7x24运行设备的优势(低功耗、低成本),并对比了两款设备的性能差异。随后分步骤讲解了环境准备、Node.js安装、OpenClaw部署等关键环节,特别强调了SSH真实登录、网络连通性检查等易错点。最后提供了系统服务配置和运行验证方法,为开发者

文章图片
树莓派在 terminal 渲染 markdown

背景介绍:最近在通勤上时间较多,考虑通过移动设备连接家里的文件服务器(树莓派5)来阅读各种文档,利用通勤时间来学习一些东西。通过移动终端(手机,墨水屏阅读器)利用终端模拟器来连接设备,考虑使用终端的情况,最好是能够在 terminal 渲染 markdown 文件,提升阅读体验。主要是使用 mdcat 在终端渲染 markdown 文件,由于 mdcat 没有提供 aarch64 的版本,因此核心

Arch Linux 系统配置

本文介绍了Linux系统(KDE桌面环境)的优化设置指南,主要包括:1)调整系统设置(空会话启动、文件打开方式、触摸板功能);2)字体管理(Windows字体安装);3)输入法配置(Fcitx5+Rime输入法及雾凇拼音方案);4)Zsh终端优化(插件安装与配置)。通过详细的命令行操作和图形界面设置步骤,帮助用户打造更符合个人使用习惯的Linux工作环境。

文章图片
#linux#服务器
# OpenClaw 部署指北

向导会显示摘要:模型选择、工作区路径、端口、守护进程状态。过目无误后回车完成。

文章图片
OpenClaw 树莓派 / 香橙派部署

摘要:本文详细介绍了在树莓派5和香橙派5 Ultra(RK3588)等ARM开发板上部署OpenClaw AI助手的完整流程。文章首先分析了ARM开发板作为7x24运行设备的优势(低功耗、低成本),并对比了两款设备的性能差异。随后分步骤讲解了环境准备、Node.js安装、OpenClaw部署等关键环节,特别强调了SSH真实登录、网络连通性检查等易错点。最后提供了系统服务配置和运行验证方法,为开发者

文章图片
OpenClaw Skill 实现公众号自动排版

摘要:文章介绍了如何利用AI工具快速完成公众号排版工作流,从飞书文档到微信后台实现一键推送。核心步骤包括:1)安装排版工具;2)配置微信公众号API;3)选择主题风格一键推送。该方案可节省排版时间,支持多种主题风格适配不同内容类型,并提供了常见问题的解决方案。用户只需完成写作和简单配置,即可实现从文档到公众号的高效发布流程。(149字)

文章图片
ThinkPad X220 安装 Arch Linux 完美指南

Arch Linux安装指南摘要 本文详细介绍了Arch Linux的安装过程,包括镜像准备、基础安装和系统配置。主要内容: 镜像准备:推荐从国内镜像站下载最新ISO,使用dd命令制作安装U盘 安装环境设置:禁用reflector服务、确认UEFI模式、配置网络连接 磁盘分区:使用GPT分区表,创建EFI、Swap和Btrfs分区 文件系统:采用Btrfs格式并创建子卷,支持快照和透明压缩功能 系

文章图片
#linux#服务器
bitbrick_k1集群使用prima_cpp分布式部署大模型推理

本文介绍了prima.cpp(llama.cpp的分布式实现)的部署过程及性能测试。首先配置4节点集群,安装必要工具并下载Q8_0量化模型。测试发现Qwen3-14B模型存在兼容性问题,改用Qwen2.5系列后,3B模型速度仅1.5 token/s,0.5B模型达5 token/s。对比单节点ollama部署(3B模型1.21 token/s,0.5B模型6.99 token/s),发现prima

文章图片
#分布式
Arch Linux GPU 驱动配置

本文介绍了ArchLinux系统中各类显卡驱动的安装方法,主要分为集成显卡、独立显卡和双显卡三种情况。对于集成显卡,Intel显卡建议安装mesa和vulkan-intel驱动,AMD显卡需根据架构选择AMDGPU或ATI驱动。NVIDIA独立显卡推荐使用闭源驱动,不同型号对应不同驱动包。双显卡用户可安装optimus-manager进行切换,AMD显卡则使用DRI_PRIME环境变量。文章还提供

文章图片
#linux#运维#服务器
    共 31 条
  • 1
  • 2
  • 3
  • 4
  • 请选择