Conda创建环境相当于创建一个虚拟的空间将这些包都装在这个位置，不需要了可以直接打包放入垃圾箱，同时也可以针对不同程序的运行环境选择不同的conda虚拟环境进行运行。例如：env1装了pytorch1.0，env2装了pytorch1.2，需要使用1.0的时候激活env1，需要使用pytorch版本1.2的时候激活env2，这样就不用每次配环境一个一个包重新安装。

注意力机制：在处理信息的时候，会将注意力放在需要关注的信息上，对于其他无关的外部信息进行过滤，这种处理方式被称为注意力机制。注意力机制可以使模型在处理序列数据时更加准确和有效。在传统的神经网络中，每个神经元的输出只依赖于前一层的所有神经元的输出，而在注意力机制中，每个神经元的输出不仅仅取决于前一层的所有神经元的输出，还可以根据输入数据的不同部分进行加权，即对不同部分赋予不同的权重。这样可以使模型更

这里注意一点，你换了源之后就最好不要开代理了，要不然搞不好下载失败，pip和conda都是。

李宏毅深度学习笔记《深度学习原理Pytorch实战》

捷径学习的另一个有趣案例发生在训练有偏见的神经网络时。众所周知，偏见通常发生在模型专注于一个或一组敏感属性以做出最终预测，而忽略其余输入特征时。以贷款审批应用为例，在这种情况下，当模型特别关注某个敏感属性（如邮政编码）来决定是否批准贷款申请时，就会出现偏见。尽管这个概念很容易理解，但通常很难追踪机器学习模型（尤其是视觉领域的DNN模型）内部是如何处理特征的。我们可以在神经网络的偏见和公平性问题中看

李宏毅深度学习笔记。

为了防御后门攻击，以往的研究主要集中在使用干净数据在模型部署前去除后门攻击。在本文中，我们研究了利用测试时部分被污染的数据来去除模型中的后门的可能性。为了解决这个问题，我们提出了一种两阶段方法 TTBD。在第一阶段，我们提出了一种后门样本检测方法 DDP，用于从一批混合的、部分被污染的样本中识别出被污染的样本。一旦检测出被污染的样本，我们利用Shapley 估计来计算神经元的重要性贡献，定位受污染

机器学习从业者通常通过监控模型的某些指标来估计其泛化误差，并在训练数值收敛之前停止训练，以防止过拟合。通常，这种误差度量或任务相关的指标是通过一个验证集（holdout set）来计算的。因为这些数据没有直接用于更新模型参数，通常假设模型在验证集上的表现可以作为泛化误差的代理，只要验证集具有代表性，能够代表模型在推理时面对的数据。然而，如果验证集在超参数搜索中被重复使用，模型可能会对其过拟合。因此

高并发的哲学原理》（基本来自本书）《亿级流量系统架构设计与实战》

操作系统：centos7.9_x64K8s：1.23操作系统最小硬件配置（在vmmare安装时需要选择）：2核CPU、2G内存、20G硬盘。