一、过拟合1.过拟合现象过拟合（overfitting）是指在模型参数拟合过程中的问题，由于训练数据包含抽样误差，训练时，复杂的模型将抽样误差也考虑在内，将抽样误差也进行了很好的拟合。具体表现就是最终模型在训练集上效果好；在测试集上效果差。模型泛化能力弱。2.过拟合产生的原因？（1）在对模型进行训练时，有可能遇到训练数据不够，即训练数据无法对整个数据的分布进行估计的时候（2）权值学习迭代次数足够多

一、过拟合1.过拟合现象过拟合（overfitting）是指在模型参数拟合过程中的问题，由于训练数据包含抽样误差，训练时，复杂的模型将抽样误差也考虑在内，将抽样误差也进行了很好的拟合。具体表现就是最终模型在训练集上效果好；在测试集上效果差。模型泛化能力弱。2.过拟合产生的原因？（1）在对模型进行训练时，有可能遇到训练数据不够，即训练数据无法对整个数据的分布进行估计的时候（2）权值学习迭代次数足够多

聚类(Clustering)是按照某个特定标准(如距离)把一个数据集分割成不同的类或簇，使得同一个簇内的数据对象的相似性尽可能大，同时不在同一个簇中的数据对象的差异性也尽可能地大。也即聚类后同一类的数据尽可能聚集到一起，不同类数据尽量分离。聚类和分类的区别聚类(Clustering)：是指把相似的数据划分到一起，具体划分的时候并不关心这一类的标签，目标就是把相似的数据聚合到一起，聚类是一种无监督学

DeepFM 中，很重要的一项就是 embedding 操作，所以我们先来看看什么是 embedding，可以简单的理解为，将一个特征转换为一个向量。在推荐系统当中，我们经常会遇到离散变量，如 userid、itemid。对于离散变量，我们一般的做法是将其转换为 one-hot，但对于 itemid 这种离散变量，转换成 one-hot 之后维度非常高，但里面只有一个是 1，其余都为 0。这种情况

1. 保存经过部分训练的模型Estimators 在训练过程中会自动将以下内容保存到磁盘：chenkpoints：训练过程中的模型快照。event files：其中包含 TensorBoard 用于创建可视化图表的信息。

平均绝对误差MAE（mean absolute error） 和均方根误差 RMSE（root mean squared error)是衡量变量精度的两个最常用的指标，同时也是机器学习中评价模型的两把重要标尺。那两者之间的差异在哪里？它对我们的生活有什么启示？平均绝对误差MAE（mean absolute error）是绝对误差的平均值，它其实是更一般形式的误差平均值。因为如果误差是[-1,0,1

总结：如果你希望复制一个list，使得新list跟之前的list没有任何瓜葛，请使用copy.deepcopy(a)方法得到的新列表。直接看代码：import copya = [[10], 20]b = a[:] # 方法1c = list(a) # 方法2d = a * 1 # 方法3e = copy.copy(a) # 方法4f = copy.deepcopy(a) # 方法5a.append

tokenizer.tokenize() ：使用 tokenize() 函数对文本进行 tokenization（分词）之后，返回的分词的 token 词。tokenizer.encoder()：encode() 函数对 文本 进行 tokenization 并将 token 用相应的 token id 表示。

问题现场：背景：Python3.6，pytorch1.+，使用huggingface.co工具去finetuning bert模型，在多gpu上训练保存模型，在cpu上加载去做预测。加载模型，对同一条数据测试结果不一样。当时检查了：11.模型的状态是否是model.eval()?————不是这个问题2.是否使用torch.no_grad()，这句代码的意思是使得本次过的样本不会更新梯度。————不

    当用Spark和Hadoop做大数据应用的时候，你可能会反复的问自己怎么解决这一的一个问题：“Container killed by YARN for exceeding memory limits. 16.9 GB of 16 GB physical memory used. Consider boosting spark.yarn.executor.memoryOverhead”这个错