logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

LoRA微调实战:Qwen2-7B SFT 3个关键参数调优,Loss降至0.15

本文详细介绍了如何使用LoRA技术对Qwen2-7B模型进行监督微调(SFT),通过优化学习率、warmup_ratio和epoch数三个关键参数,成功将训练损失(Loss)降至0.15以下。文章提供了可复现的代码示例和量化调优指南,帮助开发者高效实现LLM微调。

#LoRA
本地部署AI工具Claw大龙虾平台实战指南

本地部署AI工具正成为企业数据安全和效率优化的关键技术方案。通过将AI模型部署在本地硬件环境,用户可以获得更快的响应速度和完全的数据控制权。以Claw大龙虾平台为例,其智能硬件检测系统能自动适配不同显卡配置,支持从集成显卡到高端GPU的多种硬件环境。平台内置智谱、Qwen等多个主流模型系列,通过量化加载等技术可显著降低显存占用。在隐私保护方面,本地部署避免了敏感数据上传云端的安全隐患,特别适合法律

从AI平台到智能体网络:Agent Network如何重塑下一代AI应用生态

在人工智能技术演进中,大模型作为通用计算平台,正面临能力泛化与垂直应用需求的矛盾。其技术原理在于通过海量参数模拟通用智能,但单体模型存在能力天花板与成本效率瓶颈。为解决这一问题,技术社区开始探索基于专业化分工与协同的智能体网络架构。这种架构通过标准化通信协议,让多个具备特定能力的AI智能体相互协作,实现任务动态分解与高效执行,从而在复杂业务场景中发挥更大价值。Agent Network作为AI A

程序员如何利用AI工具提升开发效率与职业竞争力

AI辅助编程正从概念走向工程实践,其核心原理是基于大规模代码库训练的语言模型,能够理解开发者意图并生成、补全或优化代码。这项技术的价值在于将程序员从重复性、模式化的编码任务中解放出来,显著提升开发效率与代码质量。在实际应用场景中,AI工具已深度融入软件开发全生命周期,从代码生成、智能补全到自动化测试、代码审查与文档维护,为一线开发者提供了强大的效率杠杆。本文聚焦于如何将AI编程助手,如GitHub

GPT-4稀疏激活原理:MoE架构下2%参数如何驱动万亿模型

大语言模型的参数规模已突破万亿量级,但‘参数量’不等于‘计算量’——现代高性能LLM普遍采用专家混合(MoE)架构,通过稀疏激活实现计算效率跃升。其核心在于token级路由机制,在海量专家中动态选择少数几个参与前向计算,使单token实际激活参数占比仅约2%。这一设计既缓解GPU显存带宽瓶颈,又维持模型表达能力,是平衡精度、延迟与硬件成本的关键工程范式。理解稀疏激活与MoE路由逻辑,对模型部署、推

别只让AI写代码!我是如何用Claude3(Opus)一步步调试出Azure语音识别Python脚本的

本文详细记录了作者如何利用Claude3(Opus)协作调试Azure语音识别Python脚本的全过程。从需求拆解到错误驱动的渐进式优化,再到工程化完善,作者总结出一套AI协作四阶段法,显著提升代码质量和开发效率。文章特别强调了与高级AI模型协作编程时精确描述问题的重要性。

DeepLabv3+魔改指南:如何替换Backbone、修改ASPP并适配自己的分割任务

本文详细介绍了如何对DeepLabv3+进行魔改,包括替换Backbone、优化ASPP模块以及适配特定分割任务。通过轻量化改造、ASPP深度优化和Decoder进阶改造,提升模型在移动端和工业场景中的性能与效率。文章还提供了Pytorch实现的代码示例和工业部署的实战技巧,帮助开发者快速定制高性能分割模型。

mysql数据表损坏的常见原因是_MYSQL数据库中的表损坏的原因分析和修复方法

一、表损坏的愿意分析一下原因是导致mysql表损坏的常见原因:1、服务器突然断电导致数据文件损坏。2、强制关机,没有先关闭mysql服务。3、mysqld(mysqld是用来启动mysql数据库的命令mysql是打开并执行sql语句的命令这两个都在mysql安装文件夹的bin目录下)进程在写表时被杀掉。4、使用mylsamchk的同时,mysqld也在操作表。5、磁盘死机故障。6、服务器死机。7、

Atlas800T A2上部署Qwen2.5-Omni-7B音频模型:从驱动安装到vllm-ascend服务启动的保姆级避坑记录

本文详细介绍了在昇腾Atlas800T A2硬件上部署Qwen2.5-Omni-7B音频模型的完整流程,包括驱动安装、环境配置、vllm-ascend服务启动及性能优化。特别针对音频处理中的常见问题和性能瓶颈提供了实用解决方案,帮助开发者高效完成多模态AI模型的部署与调优。

#昇腾
linux 进程监控 工具,系统运维|你值得拥有 —— 25 个 Linux 性能监控工具

一段时间以来,我们在网上向读者介绍了如何为Linux以及类Linux操作系统配置多种不同的性能监控工具。在这篇文章中我们将罗列一系列使用最频繁的性能监控工具,并对介绍到的每一个工具提供了相应的简介链接,大致将其划分为两类,基于命令行的和提供图形化接口的。基于命令行的性能监控工具1. dstat - 多类型资源统计工具该命令整合了vmstat,iostat和ifstat三种命令。同时增加了新的特性和

    共 20 条
  • 1
  • 2
  • 请选择