logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

InternLMlmdeploy:大模型部署工具包

InternLM/lmdeploy是由上海人工智能实验室开源的大模型部署工具包,专注于语言模型的压缩、部署与服务。该工具提供两种推理引擎(TurboMind和PyTorch),支持主流大模型和多模态模型,具备推理性能优化、量化支持(4bit推理性能提升2.4倍)、分布式服务部署等核心功能。通过持续批处理、块KV缓存等技术,其吞吐量比vLLM最高提升1.8倍。支持Python 3.10-3.13环境

#其他
微软开源的DeepSpeed,大模型训练的必备工具

微软开源的DeepSpeed是深度学习训练的主流优化工具,GitHub Star数超4.2万。它通过ZeRO内存优化、3D并行训练等技术突破硬件限制,使大模型训练门槛大幅降低,已成功应用于530B参数的Megatron-Turing等知名模型。DeepSpeed覆盖预训练、微调和推理全流程,兼容多种深度学习框架和硬件加速器,安装简单且文档完善。作为微软AI at Scale计划的重要部分,它持续更

#其他
微软开源的DeepSpeed,大模型训练的必备工具

微软开源的DeepSpeed是深度学习训练的主流优化工具,GitHub Star数超4.2万。它通过ZeRO内存优化、3D并行训练等技术突破硬件限制,使大模型训练门槛大幅降低,已成功应用于530B参数的Megatron-Turing等知名模型。DeepSpeed覆盖预训练、微调和推理全流程,兼容多种深度学习框架和硬件加速器,安装简单且文档完善。作为微软AI at Scale计划的重要部分,它持续更

#其他
Helm 入门:Kubernetes 包管理器介绍

摘要: Helm是Kubernetes的流行包管理工具,通过Chart打包应用资源(如Deployment、Service等),实现一键部署、版本管理和依赖解决。其核心优势包括:模板化配置(values.yaml)、自动依赖安装、版本回滚及丰富的生态(Artifact Hub提供现成Chart)。典型场景包括中间件部署(如Nginx、MySQL)和多环境配置。虽然模板语法有一定学习成本,但Helm

文章图片
#kubernetes#容器#云原生 +1
Packer 入门:自动化镜像构建工具

Packer是由HashiCorp开发的开源镜像构建工具,能够通过配置文件自动化构建多平台一致的虚拟机镜像和容器镜像。它解决了传统手动构建镜像效率低、一致性差的问题,支持AWS、Azure、GCP等主流云平台,可与Terraform等工具无缝配合实现基础设施即代码。Packer的核心优势在于自动化构建、多平台支持、版本控制和重复一致性,特别适合需要频繁构建标准化镜像的场景。虽然初次配置需要学习平台

文章图片
#自动化#运维#其他
Python零基础入门指南:从Hello World到项目实战(2024最新版)

"""计算BMI指数:param weight: 体重(kg):param height: 身高(m):return: BMI值"""# 调用函数print(calculate_bmi(70, 1.75)) # 输出22.857。

#python#开发语言#其他
手把手教你给Maven换阿里云镜像(下载速度直接起飞!)

每次用Maven下依赖都要等半天?看着进度条卡在界面怀疑人生?(别问我怎么知道的😭)因为Maven默认连的是国外的中央仓库!这网速就跟早高峰挤地铁一样酸爽!今天咱们就给仓库换个阿里云镜像,下载速度直接原地起飞!(亲测能快10倍不止)换完镜像后的你:从此告别龟速下载!如果还有问题,评论区见~ 看到必回!(毕竟谁没被Maven折磨过呢😎)

文章图片
#maven#阿里云#java +1
VMware虚拟机一打开就蓝屏?这些解决方法让你重获新生(亲测有效)!!!

(别问我怎么知道的)刚准备好开发环境,一开机就给你整蓝屏大礼包,这酸爽简直了!今天我就把压箱底的解决方法掏出来,让你告别这个烦人的"蓝屏诅咒"。最后提醒各位:遇到蓝屏先别慌,按本文步骤逐个排查,实在不行就…(重装系统大法好)!(血泪教训)有兄弟更新驱动后反而更惨,记得提前用系统还原点备份!(黑科技)在服务属性里把启动类型改为【自动(延迟启动)】有奇效!(亲测有效)用这个流程成功拯救了3台不同配置的

#其他
到底了