logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

LLM-分布式训练工具(一):DeepSpeed【微软】【大模型分布式训练工具,实现ZeRO并行训练算法】【zero3配置将模型参数切分后分配到不同的显卡中,突破单张显卡容量不足以加载模型参数的限制】

DeepSpeed是微软推出的大规模模型分布式训练的工具,主要实现了ZeRO并行训练算法。本文是huggingface的DeepSpeed文档的笔记,做查询和备忘,初次学习建议结合原始文档食用。

文章图片
#分布式#算法#python
感知损失:VGG损失(VGG损失是训练过程中的损失函数,用来优化模型参数)【不直接比较两张图像的像素差异,而是比较它们经过预训练VGG网络后,在特征空间中的差异】

VGG 损失是一种典型的感知损失。它不直接比较图像像素,而是利用预训练 VGG 网络提取特征,然后比较真实图像和生成图像在特征空间中的差异。LVGG∣∣ϕlx−ϕlx∣∣LVGG​∣∣ϕl​x−ϕl​x∣∣相比像素损失,VGG 损失更关注图像的视觉质量、纹理结构和语义相似性,因此在超分辨率、风格迁移、图像修复和图像生成任务中非常常见。一句话总结:VGG 损失衡量的不是“像素是否一样”,而是“看起来

#人工智能
图算法(十七):共同邻居算法(Common Neighbors)【适用场景:用于电商、社交等多领域的推荐场景】【得到两个节点所共有的邻居节点,直观地发现社交场合中的共同好友,来推测两个节点之间的关系】

一、概述共同邻居算法(Common Neighbors)是一种常用的基本图分析算法,可以得到两个节点所共有的邻居节点,直观地发现社交场合中的共同好友、以及在消费领域共同感兴趣的商品,进一步推测两个节点之间的潜在关系和相近程度。适用场景:共同邻居算法(Common Neighbors)适用于电商、社交等多领域的推荐场景。二、三、参考资料:...

#算法
大数据-案例-离线数仓-电商:【MySQL(业务)-ETL(Kettle)】+【前端JS埋点->日志->Flume->HDFS->ETL(SparkRDD)】->Hive数仓->MySQL->可视化

大数据-BI案例(二)-电商:数据仓库+OLAP【MySQL-ETL(Kettle)-> Hive(ODS层-数据清洗->DW层(DWD-统计分析->DWS))-导出结果->MySQL】-> 可视化

文章图片
#大数据#数据仓库
图算法(十六):实时推荐算法(Real-time Recommendation)【适用场景:适用于电商、社交等多领域的推荐场景】【基于随机游走的实时推荐算法】【推荐与输入节点相近度高、关系近的节点】

一、概述实时推荐算法(Real-time Recommendation)是一种基于随机游走模型的实时推荐算法,能够推荐与输入节点相近程度高、关系或喜好相近的节点。适用场景:实时推荐算法(Real-time Recommendation)可以基于历史购买和浏览数据进行相近商品推荐,也可以为用户进行相近喜好的潜在好友推荐。适用于电商、社交等多领域的推荐场景。二、三、参考资料:实时推荐算法(Real-t

#推荐算法#算法#机器学习
2026: VLA 将死,WAM 当 立 ? ? ? ? ?【视频预训练>VLM预训练:来自视频的物理动态先验,对机器人控制比语义先验更关键】

主流 VLA(Vision-Language-Action) 模型的套 路大家都熟了—拿一个在海量图文数据上预训练 好的VLM当底座,再用机器人数据做post-training , 让模型学会输出动作。从 RT-2 到 πo 再到 πo.5, 这套范式确实 work, 也确 实能做出语义泛化——你给它看没见过的物体,只 要VLM的语义先验够强,模型多半能认出来,然后 执行 ”抓起来放到那儿"之类的

#人工智能
mHC: Manifold-Constrained Hyper-Connections

Zhenda Xie*†, Yixuan Wei*, Huanqi Cao*,Chenggang Zhao, Chengqi Deng, Jiashi Li, Damai Dai, Huazuo Gao, Jiang Chang, Kuai Yu, Liang Zhao, Shangyan Zhou, Zhean Xu, Zhengyan Zhang, Wangding Zeng, Shengdi

#人工智能
自动驾驶世界模型-范式02-BEV&规划-01:OccWorld: Learning a 3D Occupancy World Model for Autonomous Driving

Wenzhao Zheng1,* Weiliang Chen2,* Yuanhui Huang1 Borui Zhang1 Yueqi Duan2 Jiwen Lu1{ \mathrm { L } } { \mathrm { u } } ^ { 1 }Lu1 Department of Automation, Tsinghua University, China Department of Ele

#自动驾驶#3d#人工智能
DevOps03-GitLab&Jenkins集成01:使用GitLab的代码存储&Jenkins的Pipeline功能【不使用GitLab的CI/CD功能】【代码提交自动触发Jenkins】

安装插件后,重启Jenkins。随便找一个pipeline项目,出现下图红框中的选项即表示安装成功。

#gitlab#jenkins#ci/cd
    共 724 条
  • 1
  • 2
  • 3
  • 73
  • 请选择