ADDA原理理解

ADDA中源域和目标域经过不同的映射来实现对齐。

ADDA的目标函数包括三项:

1.源域的分类误差项

2.域分类器的分类误差项

3.生成器在目标域的误差项

 

1.源域的分类误差项

    源域数据在经过映射Ms后的分类误差最小:

                  

2.域分类器的分类误差项

    在源域和目标域分别经过Ms和Mt的映射后,经过域分类器进行分类,把源域和目标域的域分类问题看作二分类问题,源域的标签为1,目标域的标签为0,判别器的域分类误差定义如下:

Aria
下载可以很简单

                    

 

3.生成器在目标域的误差项

    在训练Mt时引入了对抗的思想,将映射函数Mt(·)看作是生成器,希望Mt(Xt)生成的数据能够愚弄判别器,让判别器判断错误,将它判别为1,所以生成器的损失定义为:

                       

最终ADDA的目标函数:

                        

   ADDA的思想总结:一是希望在利用源域标签信息训练一个分类器,使得源域分类误差最小。二是利用GAN的对抗思想训练目标域的网络,既希望判别器能够将两域分正确,又希望生成器(Mt)能够愚弄判别器将目标域分为源域。对于源域网络的约束只有分类器项和判别项,对于Mt的约束才是对抗思想。

 

ADDA算法网络训练过程

Target CNN 的网络参数初始化使用的是源域预训练得到的模型。

推荐内容
阅读全文
AI总结
GitHub 加速计划 / ar / Aria
2
3
下载
下载可以很简单
最近提交(Master分支:7 个月前 )
b0d3c6dd - 10 个月前
8fd9634d - 10 个月前
Logo

旨在为数千万中国开发者提供一个无缝且高效的云端环境,以支持学习、使用和贡献开源项目。

更多推荐