偏差和方差在统计学习框架下，Error = Bias + Variance。Error指的模型的预测错误率，由两部分组成，一部分是由于模型太简单而带来的估计不准确的部分（Bias），另一部分是由于模型太复杂而带来的更大的变化空间和不确定性（Variance）。如果要降低模型的Bias，就一定程度上会提高模型的Variance，反之亦然。根本原因是如果我们更相信训练数据的真实性，忽视对模型的...

这是六月刚刚挂上arXiv的文章，杨老师学生的工作摘要这篇文章提出了联邦化的矩阵分解算法，作者发现传梯度也会泄露信息，所以利用同态加密来进一步保证用户数据的隐私性。框架基本框架和federated collaborative filtering那篇文章是一样的：一个标准的横向联邦框架，user vector保留在本地训练，只上传加密后的更新梯度，服务器进行汇总，然后训练product ve...

这是UIUC的一篇刚刚挂在arXiv上的文章：Asynchronous Federated Optimization。我对边缘计算和异步算法不太了解，直观的理解是作为一个user，我上传的梯度参数是延迟的，也就是说central server当前已经更新过这次的梯度了，并且已经开始计算下一次甚至下下次的global gradient了，那么我这次的参数实际上是混在其他用户下一次更新的数据中的。..

本篇笔记是RL学习的入门，介绍N-Bandit问题和解决算法。N-Bandit问题N-Bandit问题指在每一步你都有n种选择，每一个选择会给你一定的回报，目标是尽量获得最高的收益。先定义估计值Qt(a)=(R1+R2+...+RKa)/Ka{Q_t(a) = (R_1 + R_2 + ... + R_{K_a}) / K_a}Qt​(a)=(R1​+R2​+...+RKa​​)/Ka​，即...

论文地址2018cvpr的论文，作者提出了一个L2T的框架，目的是对于一个新的任务，利用以前的经验来帮助决定如何进行迁移，从而避免之前需要尝试多种迁移方法的情况。实验分为两个步骤：第一步：从以往的经验中得到三个数据，源领域和目标领域对，代表迁移知识的潜在特征矩阵以及相比较不用迁移学习时模型性能提升。那么可以建立一个表示迁移知识和模型性能提升的映射关系，成为响应函数，用于决定迁移的内容和方法...

Taskonomy: Disentangling Task Transfer Learning是CVPR2018的最佳论文，斯坦福大学Guibas组的文章。论文地址：http://taskonomy.stanford.edu/taskonomy_CVPR2018.pdf作者在知乎有一个非常详细的解释文章：https://zhuanlan.zhihu.com/p/38425434个人笔记：迁...

这篇文章是探索联邦学习的框架下的多任务学习，稍后会整理一下之前的那篇multi task learningto be continued