
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
大模型的成功很大程度上归功于 scaling law,即更大的训练数据量和更大的模型尺寸可以带来更好的模型性能。在训练数据样本量相同的前提下,使用 Sparrow 的数据增强方案后,一般视频理解与长视频理解的性能相较于基线(视频 caption 和指令数据 1:1 混合)显著提升。来自中国科学技术大学和南京大学等机构的学者合作提出了新的数据增强方法和视频 LLM 训练范式 Sparrow:利用长文
我们的研究发现,现有的方法,如 STG,并不具备良好的鲁棒性,这可能归因于过度的偏差学习,例如记住了关键问题词和答案之间的统计规律性。我们在 MUSIC-AVQA 和 FortisAVQA 数据集上进行了广泛的实验,评估了 12 种最近的多模态 QA 方法,并表明它们不仅在分布内情景中泛化能力有限,而且在分布外情况下泛化能力有限,同时也验证了 MAVEN 的强大性能和去偏差策略的有效性。Forti
2)自适应 token 压缩,结合帧内独特性和帧间独特性,以保留最具信息价值的视觉 token。此外,现有的一些 token 压缩方法受限于其实现方式,往往依赖过时的 [CLS] token 或显式的注意力权重,难以与现代 SigLIP 编码器和 Flash Attention 兼容,反而导致内存占用激增,甚至适得其反。同时,如图 4 所示,通过柱状图可视化帧独特性分数(高度和深度表示分数大小),
一、什么是实体识别与链接 近年来,如何通过知识图谱让机器实现自然语言理解受到越来越多的关注。其中,识别文本中的实体,并将它们链接到知识库中,是让机器理解自然语言的第一步,也是至关重要的一步。比如,当智能问答系统在回答“李娜在哪一年拿到澳网冠军?”这一问题时,第一步就是识别并在知识库中找到网球运动员李娜这一实体,才能继续从知识库中找到相关信息并作出回答。如果识别出错或者没有将“李娜”正确链
首次完整揭秘了 VLM-R1 如何用强化学习颠覆视觉语言模型——从 Reward Hacking 的破解妙招,到让模型突然开窍的 OD Aha Moment,再到 7B→32B 参数下的 Scaling Law 验证…更重要的是,整体框架完全开源!此外,研究还发现,高质量、语义丰富的训练数据能够显著提升模型的推理能力,而低质量或过于简单的数据则可能限制模型的泛化能力。在 OVD 任务中,使用官方的
随着电子商务的飞速发展,购物方式发生了革命性的变化。为了通过快速响应完全满足客户的大量和多样化的在线购物需求,以及购物网站商品入库等需求, AI 零售系统通常需要自动从图像或视频中识别库...
在碎片化阅读充斥眼球的时代,越来越少的人会去关注每篇论文背后的探索和思考。在这个栏目里,你会快速 get 每篇精选论文的亮点和痛点,时刻紧跟 AI 前沿成果。点击本文底部的「阅读原文」即刻加入社区,查看更多最新论文推荐。这是 PaperDaily 的第 59 篇文章本期推荐的论文笔记来自 PaperWeekly 社区用户 @jsh0123。本文来自牛津大学 VGG 组,论文模型结构比较有特点,改变
「论文共读」是由 PaperWeekly 发起的协同阅读小组。我们每周精选一篇优质好文,由学术大咖带大家解读论文并展开讨论,在碎片化时代坚持深度阅读。本期论文共读由 PaperWeekly 社区用户@WarBean 主持,他将带大家通过两篇论文聚焦半监督学习算法。论文介绍 Virtual Adversarial Training: a
©PaperWeekly 原创 · 作者 |张逸骅单位 |密歇根州立大学博士生研究方向 |可信人工智能如果你对大语言模型(LLM)的强化学习(RLHF)感兴趣,又想从最基础的策略梯度优化一路了解、推导出 PPO、GAE,再深入探讨 DPO,那你就来对地方了。本文将从最基础的 Gradient Policy Optimization 开始,逐步介绍经典的 REINFORCE 算法,再讲解如何利...
©作者 |Recommender研究方向 |推荐排序算法前言在大多数搜广推场景中,广泛存在着各种各样的 bias。在不同的场景中,不同的 bias 造成的影响不同。比如推荐系统链路中存在的不一致性导致选择性偏差(多目标架构中的多阶段排序过程,存在于端上曝光以前),在端后影响较大的 bias 为曝光 bias、position bias 等。推荐链路又是一个闭环反馈,在...







