import pandas as pdimport numpy as np//data_df为已有DataFrame//取出指定列data_df["name1", "name2"]//提取某一列某个范围内的数据，可删除不在范围内的数据data_df = data_df[data_df["risk"] >=0]data_df = data_df[data_df["risk"] >=0 &

论文地址：github地址：参考解读：快速傅立叶变换：本文是阿里达摩院的一篇文章，也是针对长序列预测的，文章背景有以下几点：整体架构感觉和Autoformer有点类似，但是细节层面上的创新点主要体现在以下几个方面：Xx1​...xd​]Aa1​...am​∈Rm∗ddssdxqx∗wQQ​RY^UdL)UsL)XL1。

LLM推理技巧

文章目录1. 局部敏感哈希2. 可逆层3. ChunkTransformer无法处理比较长的序列数据（通常是500左右的长度），而且十分消耗GPU资源。Reformer可以处理的序列长度可以高达64k，GPU资源消耗也降低了很多。Reformer的重点部分在于：Locality sensitive hash attention（局部敏感哈希注意力）：空间换时间Reversible layers（可

大模型微调理论概述

NLP大爆炸

本文是上海交通大学的团队发表的，背景仍然是如何降低计算复杂度&更好地进行长期依赖性关系的表征。

文章目录1. 语音识别概述1.1 Token的表示1.2 Acoustic Feature2. 语音识别深度学习模型2.1 Listen，Attend，and Spell（LAS）2.2 CTC2.3 RNN-T2.4 Neural Transducer2.5 MoChA3. 语音识别传统模型3.1 隐马尔可夫模型3.2 Tandem3.3 DNN-HMM Hybrid4. alignmentB站

逻辑回归一、逻辑回归理论概述二、sklearn逻辑回归的使用1. 正则化参数2. 特征工程：embedded3. 梯度下降：重要参数max_iter4. 二元回归和多元回归重要参数：solver和multi-class5. 样本不平衡与参数class_weight三、案例：用逻辑回归制作评分卡1. 数据预处理1.1 处理缺失值1.2 处理异常值1.3 样本不均衡问题1.4 训练集和测试集的划分2.

多层级Encoder-Decoder：由于上一步会进行two-stage的注意力运算，因此在Decoder中会分别对不同阶段的结果进行解码，模型的输入最开始是细粒度patch，随着层数增加逐渐聚合成更粗粒度的patch。Dimension-Segment-Wise Embedding：对于多维时间序列，应该对每个维度的数据进行单独的数据表征，而不是在每个点位基于所有维度的数据进行数据表征，因此本文