logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

AI基本结构13-lstm实现nlp

本文介绍了LSTM网络在解决RNN短期记忆问题中的应用。普通RNN存在隐藏状态信息衰减和梯度消失问题,难以学习长距离依赖关系。LSTM通过引入细胞状态和门控机制(遗忘门、输入门、输出门)有效保存长期记忆。文章详细阐述了LSTMCell的实现原理,包括状态初始化、细胞状态更新和隐藏状态更新过程。在此基础上构建了多层LSTM语言模型CharLSTM,结合Dropout和LayerNorm提升模型稳定性

文章图片
#人工智能#pytorch#lstm +1
AI基本结构8、9-cnn实现图像识别

本文介绍了CNN和ResNet的PyTorch实现,包括基础CNN模型(两个卷积池化层+全连接层)和残差网络结构。CNN通过卷积核提取特征,使用最大池化降维;ResNet通过残差块缓解深层网络退化问题,每个块包含主路径(卷积+BN+ReLU)和跳跃连接,通过1x1卷积调整维度后相加。ResNet实现中堆叠6个残差块,逐步增加通道数并降低空间分辨率,最终展平后通过线性层分类。残差结构使梯度传导更顺畅

文章图片
#人工智能#cnn#神经网络
AI的工程基础1-最优化算法

本文介绍了使用PyTorch实现线性回归模型的方法。首先通过torch.linspace生成训练数据,并进行归一化处理。然后定义了一个继承torch.nn.Module的线性回归模型类Linear,包含可训练参数a和b,并实现了前向传播方法。文章展示了两种训练方式:1) 使用PyTorch内置的SGD优化器,2) 手动实现梯度下降。两种方法在20次迭代后都成功收敛。

文章图片
#人工智能#机器学习
Windows下Conda环境OpenSSL异常NOT_ENOUGH_DATA(_ssl.c:4194)导致HuggingFace、Datasets、PyTorch等SSL问题

说明根因不是 Python 包,而是 OpenSSL 版本导致 Windows 证书加载异常。检查 ssl.OPENSSL_VERSION、_ssl.pyd、where libssl-3-x64.dll、where libcrypto-3-x64.dll、PATH、conda list openssl 等。依次检查 HTTP_PROXY、HTTPS_PROXY、HF_ENDPOINT、aiohtt

文章图片
#conda#pytorch#人工智能 +1
AI基础0-人工智能的数学基础

本文摘要分为两部分:矩阵和概率统计。矩阵部分重点解析特征值与特征向量的几何意义,指出特征向量在变换中保持方向不变,仅按特征值比例伸缩,并通过特征值分解展示变换本质。概率部分介绍假设检验流程,包括提出假设、选择统计量、确定显著性水平和决策规则。贝叶斯定理部分则以电竞为例,说明如何通过条件概率逆向推断事件概率。全文通过几何直观和实例阐述数学概念,强调理解而非机械记忆。

文章图片
#人工智能#机器学习
RAG/Agent/Skill/MCP/Tool

摘要:RAG(检索增强生成)通过结合外部知识库提升AI回答准确性,其流程包括数据分片、向量化存储和语义检索。相比传统方法,RAG能突破模型记忆限制,降低推理成本。Agent技术则使AI具备任务执行能力,通过工具调用和自主决策完成复杂工作。MCP协议为AI工具制定统一标准,而Skill机制将工作流程打包成可复用指令,二者分别面向开发者和终端用户。

文章图片
#机器学习#自然语言处理#语言模型
多模态动态融合模型Predictive Dynamic Fusion阅读与代码分析5-校准机制与理论推导

本文提出Predictive Dynamic Fusion方法中的相对校准(RC)机制,用于动态调整多模态系统中各模态的置信度。当某模态输出分布越均匀(如文字模态输出"喜悦/自然/沮丧"均为0.9),其不确定性越高,RC值越低;输出越集中(如"喜悦0.9,其余0"),RC值越高。通过RC值调整置信度,实现模态贡献的动态平衡。理论推导部分证明了该方法能有效控制

文章图片
#人工智能#机器学习
多模态动态融合模型Predictive Dynamic Fusion阅读与代码分析2-对比模型与底层模型的基本结构

本文介绍了多模态融合的三种主要方法:传统静态晚期融合(LateFusion)、动态多模态融合(DynMM)和质量感知多模态融合(QMF)。LateFusion在预测阶段整合各模态独立训练结果;DynMM通过动态机制调整融合策略;QMF则基于模态质量评估进行自适应融合。论文还涉及四种基础模型:词袋模型(BOW)、BERT文本编码器、ResNet图像编码器和MMBT多模态Transformer。通过对

文章图片
#论文阅读
多模态动态融合模型Predictive Dynamic Fusion阅读与代码分析运行1-信度概念与基础参数指标

本文解析了《Predictive Dynamic Fusion》论文的核心概念与代码实现。理论部分重点探讨了置信度在多模态融合中的作用,提出Mono-Confidence(自身可靠性)和Holo-Confidence(相对可靠性)两个指标,通过协同信度确定模态权重。代码分析指出原论文存在数据集缺失、词向量文件需自行下载等问题,并修正了forward函数中的逻辑错误。参数配置部分详细说明了训练优化、

文章图片
#论文阅读
    共 15 条
  • 1
  • 2
  • 请选择