logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

图论·搜索最短路径

【代码】图论·搜索最短路径。

文章图片
#图论#算法#c++
图论·刷题总结

本文总结了图论中的核心算法与应用场景,重点包括: 连通性问题:介绍了DFS染色法和并查集两种方法,强调边带权并查集的应用。 环检测技术: 提出三色标记法的DFS实现,解释其记忆化搜索原理 对比拓扑排序的适用场景 最短路问题: 区分BFS(等权图)、Floyd(多源)等算法 详细说明最小修改次数问题的建模方法 强调网格图坐标转换技巧 二分图应用:包括冲突组检测和匹配问题解决方案。 典型例题分类:涵盖

#图论#深度优先#算法
计算机基础·计算机网络

本文系统梳理了计算机网络的核心模型与协议,重点解析了OSI七层模型和TCP/IP四层模型的架构差异。在物理层详细介绍了信道类型(单工/半双工/全双工)和传输速率计算(奈奎斯特与香农定律);链路层深入探讨了成帧技术、差错检验(汉明码/CRC)和流量控制协议(滑动窗口/CSMA-CD);网络层则聚焦IP协议,涵盖IPv4寻址方式(分类/子网/CIDR)、数据报分片及路由聚合原理。通过多维度技术对比和典

文章图片
#计算机网络
数学建模·熵权法

熵权法的核心在于计算信息熵,信息熵反映了一个信息的紊乱程度,体现了信息的可靠性。

文章图片
#android
论文精读·大模型评审(LLM-as-a-Judge)

摘要:大模型评审(LLM-as-a-Judge)是一种利用大语言模型进行自动化评分和评价的技术。其核心流程包括输入设计、模型选择和后处理,通过优化提示、微调模型和标准化输出来提升性能。评估指标关注模型输出与人类标注的一致性,包括分类准确率、偏差检测和对抗鲁棒性。研究还提出了元评估框架,分析不同优化策略对模型能力的有效性。该技术可应用于文本生成、问答系统等多个领域,但需解决输出格式混乱和潜在偏见等问

文章图片
#深度学习#人工智能
计算机基础·cs336-现代Transformer架构和实现

本文探讨了现代Transformer架构中的关键组件及其实现。主要内容包括: 归一化方式对比:分析了PreNorm和PostNorm的区别,指出大多数LLM采用计算前归一化以确保数值稳定性,并介绍了doubleNorm方法。 归一化层优化:比较LayerNorm和RMSNorm,指出RMSNorm计算效率更高,便于并行化。 前馈网络改进:从传统FFN到SwiGLU的演进,解释了8/3原则以保持参数

文章图片
#transformer#深度学习#人工智能
计算机基础·cs336-编码基础和分词

本文介绍了Python基础中的DefaultDict和Counter工具,以及字符编码相关知识。DefaultDict可设置默认值,Counter用于统计元素频率。在编码部分,讲解了ASCII、Unicode及UTF-8/16/32的区别,重点说明UTF-8的动态存储特性。最后简要提及BPE算法的预分词技术,其作用是确保词语语义完整性,避免跨语义统计。内容涵盖Python数据处理工具和字符编码基础

文章图片
#计算机视觉#深度学习#人工智能
计算机基础·cs336·MoE

混合专家模型(MoE)是一种高效神经网络架构,通过动态分配输入数据给多个专家子模型并整合输出,实现高性能预测。其优势包括推理速度快(仅激活部分专家)、训练参数少和分布式部署能力,但存在设备依赖性强和路由算法不稳定等不足。MoE架构通常采用多个精简MLP或Transformer头,核心路由算法包括TOPK等,通过概率加权选择专家。训练目标通过平衡专家选择比例和路由器偏好来优化性能,避免专家过载。这种

文章图片
#深度学习#人工智能#计算机视觉
计算机基础·cs336-torch基础

本文总结了PyTorch张量操作、模型训练和优化器使用中的关键知识点。主要内容包括:张量连续性概念及view/transpose操作的内存共享特性;矩阵乘法(bmm/einsum)的实现方式;模型参数管理(Parameter/register_buffer区别)和初始化方法;常用张量操作函数(tril/masked_fill/scatter/gather等);训练模式切换(train/eval)注

文章图片
#人工智能#计算机视觉#深度学习
计算机基础·cs336·损失函数,优化器,调度器,数据处理和模型加载保存

本文摘要: 熵与损失函数:介绍了熵公式H(x)=x·logx,二分类交叉熵损失(BCE)的计算方法及其优化思路,重点分析了交叉熵(CE)的两种实现方式及其数值稳定性问题,提出log-sum-exp优化方案。 优化器原理:详细解析了Adam和AdamW优化器的工作机制,包括一阶矩(m_t)和二阶矩(v_t)估计、冷启动修正、权重衰减解耦等技术要点,并提供了优化器的Python实现代码。 可变学习率策

#人工智能#计算机视觉#深度学习 +1
    共 61 条
  • 1
  • 2
  • 3
  • 7
  • 请选择