
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
一种常见的异常检测方法是利用对抗网络的生成器来根据输入的重建损失计算异常得分。由于异常情况发生的频率极低,优化此类网络可能是一项繁琐的任务。另一种可能的方法是同时使用生成器和判别器来进行异常检测。然而,由于涉及对抗训练,这种模型往往在某种程度上不稳定,每次训练步骤的性能都会大幅波动。在本研究中,我们提出了一种框架,能够在广泛的训练步骤中有效地生成稳定的结果,并允许我们使用对抗模型的生成器和判别器来
视觉 - 语言模型(VLM)是处理和理解文本与图像的强大工具。本文以主流视觉语言模型 LLaVA 为研究对象,探究其语言模型模块中视觉词元的处理机制。研究重点包括:目标信息的定位、视觉词元表征在各层中的演化规律,以及预测过程中的视觉信息融合机理。通过消融实验发现:移除专属目标词元后,模型的目标识别准确率下降超过70%。实验同时观察到:随着层数加深,视觉词元表征在词表空间中变得越来越可解释,说明视觉
近期研究表明,为大语言模型新增记忆信息展现出广阔前景,借此可以替换过时内容或补充专业知识。但该方向的现有研究,大多仅局限于单次单条关联信息的更新。本文提出 MEMIT 方法,可对语言模型进行批量记忆直接更新。实验证明:该方法能够为 GPT-J(60 亿参数)、GPT-NeoX(200 亿参数)模型一次性更新数千条关联知识,性能相比过往研究提升数个数量级。
高层概念、技能或行为,在模型的内部表征空间中被编码为特定方向。基于这一视角,沿着某个特定方向对隐状态进行干预,能够将模型内部计算推向对应概念,从而在不更新模型参数的情况下影响最终输出。SAE 特别适合这一任务,因为它将模型激活分解为稀疏、更易解释的特征,使得单个方向可以与更具体的行为或语义属性对应。一旦找到目标特征,就可以在残差流中增强或抑制对应特征方向,从而操控模型。h:模型原始隐状态d:SAE
虽然深度神经网络中神经元的激活值通常无法被人类简单直观地解释,但。我们在不同规模、激活函数与损失函数的 SAE 上进行了测试,这些 SAE 分别在两个开源权重的大语言模型上训练。我们提出来衡量解释质量,其运行成本低于现有最优方法。其中一种技术 ——,用于评估对特征进行干预所产生效果的可解释性,我们发现它能够解释现有方法无法覆盖的特征。我们给出了生成更优质解释的指导原则,使其在更广泛的激活上下文下依
高层概念、技能或行为,在模型的内部表征空间中被编码为特定方向。基于这一视角,沿着某个特定方向对隐状态进行干预,能够将模型内部计算推向对应概念,从而在不更新模型参数的情况下影响最终输出。SAE 特别适合这一任务,因为它将模型激活分解为稀疏、更易解释的特征,使得单个方向可以与更具体的行为或语义属性对应。一旦找到目标特征,就可以在残差流中增强或抑制对应特征方向,从而操控模型。h:模型原始隐状态d:SAE
稀疏自编码器是一种极具潜力的无监督方法,它通过稀疏瓶颈层重构模型激活值,从而从语言模型中提取可解释特征。由于语言模型会习得海量语义概念,自编码器必须具备超大容量,才能完整还原所有相关特征。然而,受两大因素制约,稀疏自编码器的规模缩放特性研究一直存在难点:一是需要在重构损失与稀疏性两个优化目标之间做权衡;二是模型中普遍存在死亡隐单元问题。本文引入k - 稀疏自编码器(Makhzani & Frey,
本文提出PatchSAE稀疏自编码器框架,用于解析CLIP视觉Transformer中的可解释视觉概念。通过将ViT中间层输出映射到高维稀疏隐空间,PatchSAE能提取细粒度的图像块级视觉特征(如物体部件、纹理等),并实现概念的空间定位。研究发现:1)适配前后模型的视觉概念激活差异微小,性能提升主要源于预训练模型中固有概念的重新映射;2)SAE提取的概念对分类任务具有决定性影响,屏蔽关键隐变量会
近期研究表明,为大语言模型新增记忆信息展现出广阔前景,借此可以替换过时内容或补充专业知识。但该方向的现有研究,大多仅局限于单次单条关联信息的更新。本文提出 MEMIT 方法,可对语言模型进行批量记忆直接更新。实验证明:该方法能够为 GPT-J(60 亿参数)、GPT-NeoX(200 亿参数)模型一次性更新数千条关联知识,性能相比过往研究提升数个数量级。
大型视觉语言模型(LVLM)是近年来出现的强大架构,能够同时对视觉和文本信息进行理解与推理。这类模型通常依赖两大核心组件:**视觉Transformer(ViT)**与**大语言模型(LLM)**。ViT 将视觉内容编码为图像令牌序列,充当模型的感知前端,即模型的“眼睛”;而 LLM 则对这些令牌进行解析,以完成高级推理、生成回答,充当模型的认知核心,即模型的“大脑”。然而,目前仍不明确:哪些视觉







