logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【机器学习300问】139、Post-LN 和 Pre-LN 的区别?

Post-LN与Pre-LN的核心区别在于LayerNorm的位置:Post-LN在残差连接后,导致梯度需经LayerNorm变换,深层易出现梯度衰减或震荡;Pre-LN先做归一化,使输入稳定,残差路径梯度可无损回传,显著提升深层训练稳定性。尽管Pre-LN支持更深层次模型(如LLaMA、Qwen),但存在“深度诅咒”——深层贡献不足。相比之下,Post-LN浅层表现尚可,深层数易发散。因此,现代

文章图片
#人工智能
【学习心得】10个大模型与智能体应用榜单

本文梳理了当前主流AI模型评测榜单的覆盖范围与评测口径,涵盖真实对战(LMArena)、学术基准(OpenCompass)、用量统计(OpenRouter)、中文评测(SuperCLUE)、开源模型(HuggingFace)、API调用指数(ArtificialAnalysis)及行业任务能力(ValsIndex)等多维度指标。各榜单聚焦不同维度:能力、用量、效率、应用表现,助力用户全面评估模型性

文章图片
#人工智能
【学习心得】OpenClaw和Hermes命令速查

本文梳理了OpenClaw与Hermes两大工具的常用命令,涵盖初始化、配置、网关管理、模型与通道控制、日志监控、插件与技能管理等功能,旨在为后续开发智能体技能提供参考。所有命令无需死记,可通过对话获取帮助。

文章图片
#windows#linux#服务器
net start mysql服务名无效

net start mysql报错服务名无效

#mysql#数据库
【密码学】具有特殊功能的数字签名

具有特殊功能的数字签名:盲签名、群签名、环签名、不可否认签名、代理签名等等

文章图片
#密码学
【密码学】哈希函数与加密算法的关系

一、哈希函数的定义;二、哈希函数的功能;三、哈希函数满足条件及安全性定义;四、哈希函数与加密算法的关联

文章图片
#密码学#哈希算法#数据结构
【学习心得】最新!使用PyCharm 2025.1 远程开发教程,附带端口转发教程!

最新!使用PyCharm 2025.1 远程开发教程,附带端口转发教程!

文章图片
#服务器#运维
Win10“始终使用此应用打开”不见了怎么办?

Win10“始终使用此应用打开”不见了怎么办?

#python#windows
    共 222 条
  • 1
  • 2
  • 3
  • 23
  • 请选择