logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型的“瘦身”秘籍:一文读懂量化技术

本文介绍了大模型量化技术的核心概念和应用。量化是一种通过降低模型参数精度来减少资源占用的技术,将高精度浮点数转换为低精度整数(如FP32到INT8)。文章通过实例解释了量化的基本原理,包括缩放因子和零点的计算方法,以及量化与反量化的过程。量化能显著降低内存和计算需求,同时保持模型性能在可接受范围内。文中还展示了量化后模型大小的直观对比,并提供了相关学习资源链接。量化技术是大模型优化的重要手段,在效

文章图片
#人工智能#算法#机器学习
Hugging Face vs ModelScope:两大开源模型平台深度对比与高效下载指南

本文对比了Hugging Face和ModelScope两大开源模型平台,分享了模型下载体验。作者因设备限制(8GB显存)选择尝试本地运行大模型,详细介绍了两个平台的安装方法:Hugging Face通过PowerShell安装并使用镜像加速下载(速度尚可),ModelScope通过pip安装且下载速度优异。测试下载了Qwen3.6-35B和gemma4-12b两个模型。推荐下载优先级为:1.Mo

文章图片
#人工智能
让那个最没用的NPU也忙起来:通过openvino跑大模型

本文探讨了如何利用Intel CPU中常被认为"无用"的NPU(神经网络处理单元)运行大语言模型。作者通过OpenVINO工具链成功部署了优化后的大模型,展示了在本地NPU上运行AI对话的可行性。具体步骤包括:安装OpenVINO开发环境、下载适配的大模型、编写交互程序以及接入Cherry-Studio界面。实测表明,虽然NPU算力有限,但功耗优势明显,适合笔记本本地轻量级AI应用。作者认为随着模

文章图片
#openvino#人工智能
Docker 入门之单机常用命令总结

这篇文章总结了Docker单机环境下的常用命令,分为镜像管理、容器管理和资源管理三大类。主要内容包括:镜像拉取与推送命令(pull/push)、容器生命周期管理(run/stop/start/rm)、日志查看(logs)、数据卷管理(volume)以及系统清理(prune)。文章提供了详细的命令示例和效果截图,并附上了速查表方便新手快速掌握基础操作。这些命令涵盖了Docker单机使用的主要场景,适

文章图片
#docker#eureka#容器
大模型的“瘦身”秘籍:一文读懂量化技术

本文介绍了大模型量化技术的核心概念和应用。量化是一种通过降低模型参数精度来减少资源占用的技术,将高精度浮点数转换为低精度整数(如FP32到INT8)。文章通过实例解释了量化的基本原理,包括缩放因子和零点的计算方法,以及量化与反量化的过程。量化能显著降低内存和计算需求,同时保持模型性能在可接受范围内。文中还展示了量化后模型大小的直观对比,并提供了相关学习资源链接。量化技术是大模型优化的重要手段,在效

文章图片
#人工智能#算法#机器学习
SKILL让openclaw起飞的内功-入门篇

摘要 本文介绍了OpenClaw平台中SKILL功能的基本概念和应用。首先解释了提示词(prompt)的工程原理,强调与AI交流需明确具体细节。然后阐述了Model Context Protocol(MCP)协议和SKILLS的概念,说明SKILLS是包含任务目标、行为规范、执行流程等要素的完整说明书。文章还介绍了OpenClaw中SKILL的分类方式,包括内置SKILLS、本地SKILLS、工作

文章图片
openclaw推荐的升级方式

本文介绍了openclaw的两种升级方式:针对普通用户的docker安装方式和针对程序员/运维人员的源码安装升级方式。重点推荐了源码安装升级步骤:1)备份配置文件和数据;2)通过git pull获取最新代码;3)执行pnpm install/build/ui:build命令;4)使用pnpm openclaw doctor进行数据迁移;5)启动服务。文章强调源码安装方式在openclaw快速发展阶

文章图片
Hugging Face vs ModelScope:两大开源模型平台深度对比与高效下载指南

本文对比了Hugging Face和ModelScope两大开源模型平台,分享了模型下载体验。作者因设备限制(8GB显存)选择尝试本地运行大模型,详细介绍了两个平台的安装方法:Hugging Face通过PowerShell安装并使用镜像加速下载(速度尚可),ModelScope通过pip安装且下载速度优异。测试下载了Qwen3.6-35B和gemma4-12b两个模型。推荐下载优先级为:1.Mo

文章图片
#人工智能
还在写 VBScript 处理 Excel?WorkBuddy 零代码替代,效率直接起飞

WorkBuddy零代码工具可替代VBScript处理Excel数据,提供更高效的数据分析解决方案。它能自动完成数据清洗、关联、汇总和可视化,支持本地文件操作和多模态报告生成,无需环境配置或编程。通过自然语言指令即可完成复杂任务,如诊断数据质量、统一格式、生成图表等,适合系统稽核、日志审计等场景。WorkBuddy还具备技能系统固化高频流程,支持Plan/Craft双模式验证,大幅提升效率。使用技

文章图片
    共 67 条
  • 1
  • 2
  • 3
  • 7
  • 请选择