一.transformer编码器transformer模型的直觉：positional encoding(位置嵌入|编码)self attention mechanism（自注意力机制与注意力矩阵可视化）layer normalization和残差连接transformer encoder整体结构二.transformer代码解读参考视频：https://www.bi...

一.GAN的基本要素1.真实数据集，初始化虚假数据集（噪音）2.生成器，鉴别器：生成器：输入：原始数据的维数（一条数据）输出：原始数据的维数（一条数据）...

整体概述：第一步：降维----特征值第二步：k-means聚类基于图论的聚类方式：拉普拉斯矩阵的特征向量进行聚类连点成线构成图：图的度矩阵-图的邻接矩阵=拉普拉斯矩阵：归一化拉普拉斯矩阵：生成该拉普拉斯矩阵最小的k个特征值+特征向量：特征向量kmeans聚类：谱聚类的优点与缺点：优点：稀疏处理：只要数据之间的相似度矩阵对于处理稀疏数据的聚类很有效高维处理：使用降维...

慢慢理解GNN谱域和空域

良昊秩矩阵分解的意师兄的低思是:这里的元学习器是参数(其实就是一个矩阵)但是要customized context representations for user-specific multi-behaviors就有点困难是hold不住, 所以, 要先把这一个用两个transformation先变成两个小的然后, 再把这两个小的乘回原来的形状....

直述：随着时间，学习率加快代码：# Reduce learning rate when validation accuarcy plateau.scheduler = torch.optim.lr_scheduler.ReduceLROnPlateau(optimizer, mode= max , patience=5, verbose=True)for t in range(0, 80):tra

慢慢理解GNN谱域和空域

wget https://datarepo.eng.ucsd.edu/mcauley_group/data/amazon_2023/raw/meta_categories/meta_All_Beauty.jsonl.gzwget https://datarepo.eng.ucsd.edu/mcauley_group/data/amazon_2023/raw/meta_categories/meta

一.直接理解作用：解决面对类别不同，模型泛化能力不强的问题方法：meta training阶段：将数据集分成不同的meta task(即：假设有n个类别，每次取出其中的C个类别进行训练，每个类别K个样本——C-way K-shot problem)meta test阶段：面对全新的类别，不需要变动已有的模型就可完成训练。...