目前信息检索IR几乎都是使用深度学习系列的方法，即NeuIR(neural information retrieval)。而随着预训练在深度学习领域的大放光芒，信息检索中也出现了各种预训练策略。这篇文章博主将为大家整理来自清华大学与中科院的信息检索综述，先上路径。Title：Pre-training Methods in Information RetrievalLink：https://arxi

关于预训练的诸多模型，博主已经在以往的文章中整理过：Cross-modal Pretraining in BERT（跨模态预训练）OpenAI CLIP，DALL-ECLIP在视频领域的应用（CLIPBERT，CLIP4Clip，CLIP2Video，CLIPTV）本篇整理一下最近几篇关于Vision-Language Pre-traning(VLP)的综述文章，以及一篇很不错的，关于各个组件的选

上一篇博文整理了预训练新范式（Prompt-tuning，Prefix-tuning，P-tuning），主要是围绕NLP上的成果，具体的概念本文也不做过多赘述。本篇文章将主要整理几篇有代表性的Prompt方法在多模态领域中的应用。Multimodal Conditionality for Natural Language GenerationPrompt用于Natural Language Ge

STRATEGIES FOR PRE-TRAINING GRAPH NEURAL NETWORKSICLR2020，Stanford出品。用于GNN的预训练策略。paper：https://openreview.net/forum?id=HJlWWJSFDH&noteId=HJlWWJSFDHcode：https://github.com/snap-stanford/pretrain-gn

博主曾经整理过一篇图预训练的文章，此后有很多在Graph上做Pretraning的文章层出不穷，但基本上万变不离其宗，都是在node-level和graph-level上做自监督学习。Learning to Pre-train Graph Neural Networks这篇文章来自AAAI 2021。其核心的思想其实就是：如何缓解GNN预训练和微调之间的优化误差？首先作者论证了 GNN 预训练是一

BERT以及BERT后时代在NLP各项任务上都是强势刷榜，多模态领域也不遑多让…仅在2019 年就有8+篇的跨模态预训练的论文挂到了arxiv上…上图是多篇跨模态论文中比较稍迟的VL-BERT论文中的比较图，就按这个表格的分类（Architecture）整理这几篇论文吧。所有的论文都是基于BERT做改装或者暴力组合的，如果按Architecture可以分为one single和two sing..

本文将整理扩散模型在诸多任务上的实施方案和效果讨论，包括其用于目标检测、图像分割、连贯故事合成、视频生成、3D场景生成和推理、多语言扩展、多模态扩展等任务。

继续整理几篇多模态的Prompt文章。Align and Prompt: Video-and-Language Pre-training with Entity Prompts尽

Reinforcement Learning监督学习–>非监督学习–>强化学习。监督学习：拥有“标签”可监督算法不断调整模型，得到输入与输出的映射函数。非监督学习：无“标签”，通过分析数据本身进行建模，发掘底层信息和隐藏结构。但是1.标签需要花大量的代价进行收集，在有些情况如子任务的组合数特别巨大寻找监督项是不切实际的。2.如何更好的理解数据，学习到具体的映射而不仅仅是数据的底...

Graph图论问题。如生成树算法，最短路径算法，BFS，DFS。概率图模型。将条件概率表达为图结构，如马尔可夫链，条件随机场。图神经网络。结合深度学习，如博主已经整理过的Graph Embedding，Graph LSTM/CNN等结合。基本上Graph+Neural Network，即使用了深度学习技术解决图问题就都是GNN的范畴了。而GNN主要是为了解决Non-Euclidean结构的...