一个session指的是一次用户请求返回的一个batch的视频，通常是5个到10个，一个session内的视频通常会考虑到用户兴趣、连贯性和多样性等多种因素。我们将RQ-VAE的方法改进为使用一个多层的平衡的量化机制，用残差K-means量化算法来进行embedding的转换。然而过往的推荐系统采用召回-粗排-精排的级联结构，导致某一级的上限受到前面一级的限制。，然后为生成的每个session计算

题目： A Fast Learning Algorithm for Deep Belief Nets作者： Geoffrey E. Hinton, Simon Osindero, Yee-Whye Teh单位： University of Toronto, University of Singapore出版： Neural Computation, 2006Logistic b

一次跟着deepseek记笔记的尝试，由于CSDN没有思维导图，只能按层级记录提问。

在得到与业务信息对齐的多模态表示后，下一步就是通过MLLM的世界知识提升下游模型的准确率。首先利用k-mean将全部embedding聚成L个簇，然后对每个embedding，用与它距离最近的聚类中心来表示，并求出它与聚类中心点的残差。然后对全部embedding的残差执行相同的操作。上面的问题，以往的解决办法通常是在模型中增加额外的对比模块，然而这样的对比loss作用很弱并且容易过拟合。而我们的

解决的问题当前CTR预估模型中一般都有embedding和MLP组件，我们提出一个新的GateNet模型，通过引入特征embedding门来学习特征级别的潜在信息，而hidden gate帮助模型更好地习得高阶交互特征。

解决的问题长尾item的用户反馈数据稀疏是推荐系统中长期存在的一个问题。近期受到CV和NLP领域在自监督学习任务上进展的启发，我们提出了一个针对大规模item推荐的自监督学习(SSL)框架。框架主要通过更好地学习item特征之间的潜在联系来解决label稀疏的问题。特别地，SSL既优化了item表征，又优化了线上服务，从而提升了模型的泛化能力。除此之外，我们还在框架中提出一种新颖的利用特征交互来进

给自己留档，说不定什么时候又用到了。其实我觉得是我的软件源出了问题然而并不能知道是什么问题orz安装时出现问题：下列软件包有未满足的依赖关系：virtualbox-5.1 : 依赖: libqt5core5a (>= 5.7.0) 但是 5.5.1+dfsg-16ubuntu7.5 正要被安装依赖: libqt5widgets5 (&gt...

模型的优化对于传统机器学习和深度学习都是很重要的，尤其是深度学习，在训练过中很可能需要解决一些更加困难的挑战。目前来说，流行且使用较广泛的优化算法有随机梯度下降，具动量的随机梯度下降，RMSProp算法，具动量的RMSProp，AdaDelta和Adam等，以下会选择几种进行具体说明，大部分抄自《深度学习》和tensorflow官方文档。如有错漏欢迎指正。随机梯度下降随机梯度下降(SGD)

之前用过TensorFlow的CPU版，现在买了个新电脑，就想把GPU也用起来，又因为目前大部分工作是在linux下做，所以有了在linux下安装cuda和TensorFlow的计划，快一个礼拜一直在搞这件事，重装了N次系统，cuda和TensorFlow终于是能用了。姑且写一下攻略吧，也算自己留个档。注意事项此攻略适用于广大使用Nvidia显卡的Ubuntu用户，CentOS，RedHat，Wi

给自己留档，用自己的话记录一些简单的机器学习算法。全篇几乎都是抄的，其中一些算法也没有用过，轻信以下内容造成不良后果不负责任（你。深度学习深度学习最初是为了解决什么问题最早的深度学习模型被用来识别裁剪紧凑且非常小的图像中的单个对象（1986）。RNNRecurrent NN和Recursive NN的区别Recurrent Neural Networks...