GAE和VGAE快速入门

基本概念与发展过程（1）Re_ID 是图像检索的一个子问题，主要应用于视频监控，智能安防（2）1）早期手工设计视觉特征（如何获得更好的相似度度量），现在主要用深度学习的方法自动进行。A:手工特征：颜色，HOG(Histogram of oriented gradient),SIFT (Scale invariant feature transform),LOMO (Local Maximal Oc

1.Memory:我的出处：ECN。元学习时提及此方式。原理：目标域的图片经网络题取出特征向量，存储到memory中;下一次新的即可和上次的做聚类;公式：(其中是随着epoch不断线性增加的： PS:但为什么新特征的影响会越来越大？)用处：1.Domain Adaptation，用新提取出的特征向量和旧的做聚类，可使模型在目标域上的泛化能力增强...

表征学习将行人重识别问题作为分类问题和验证问题。1.分类问题分类标准：一般是多个结合起来的，即：ID损失+多个属性（如：颜色等）损失的均值损失函数：网络结构：2.验证问题：输入两张图片来判断它们是不是同一张图片具体：输入两张图片，经过同一个CNN,得到两个特征向量，将两个特征向量融合起来到FC层，最后输出只有两个神经元的FC,用以判断是否是同一行人。损失函数：(...

Domain Adaptation 和 Domain Generalization的辨析:Domain Adaptation: 重点在于克服源域和目标域分布不同Doamin Generalization:目标域未知对一定范围下，任何的目标域都要起作用成熟主流的方法主要分三类：feature-based method: 设计跨域不变特征实现classifier-based method：针对每个数据

背景：BP在产生的过程中：会产生梯度消失／梯度爆炸。　为了阻止这种情况发生优点与缺点：优点：简单粗暴缺点：很难找到满意的阈值代码：torch.nn.utils.clip_grad_norm_(model.parameters(), max_norm=20)参考：https://www.cnblogs.com/lindaxin/p/7998196.html...

一.正则化与正规化正则化是正规化更加学术的表达（顾名思义，给模型加入某些规则，来达到某些目的。在机器学习和深度学习中是为了防止过拟合）二.过拟合的解决思路获取更多样本丢弃一部分特征，增强模型的容错能力（如PCA降维，Dropout机制）保留所有特征，但减少参数的大小。确保所有特征对于预测都有一定贡献，而不是”偏爱“几种特征。三 .L2正则化公式： (即：原本的损失...

BCELoss：CE和BCE：CrossEntropy。 B：binary，即用于二分类问题输入：Sigmoid：目标：损失函数：BCEWithLogitsLoss：就是把Sigmoid-BCELoss合成一步BPRLoss：推荐系统领域有两个问题：Raking和RatingRanking：Top-N的推荐Rating：预测物品打分​​​​​​​最新研究都是做排序的：​​​​​​​排序比较贴近实际

一篇国外大佬发文：国外大佬发文：让AI自己给数据加标签，然后把损失函数用相应的方式来表达：把自动加标签的噪音和可能的偏差都考虑进去。最近有两篇研究，都是这方面的例子：一是MixMatch: A Holistic Approach to Semi-Supervised LearningArxiv码：1905.02249二是Unsupervised Data Augmentatio...

一.直接理解作用：解决面对类别不同，模型泛化能力不强的问题方法：meta training阶段：将数据集分成不同的meta task(即：假设有n个类别，每次取出其中的C个类别进行训练，每个类别K个样本——C-way K-shot problem)meta test阶段：面对全新的类别，不需要变动已有的模型就可完成训练。...