LLM、ML、DL常用激活函数

Pearson是对线性关系的度量，对于非线性关系和非正态分布的数据可能不是很敏感。Kendall和Spearman是非参数方法，它们对于非正态分布的数据和非线性关系更为稳健，但通常具有较低的统计效能。Spearman通常对异常值更为敏感，而Kendall在处理小样本数据或有许多重复值的数据时更为可靠。

本文介绍了LLAMA模型在Transformer架构上的两个关键改进：1) 使用Pre-RMSNorm替代Post-LayerNorm，通过仅对输入向量的均方根进行归一化，提高了计算效率和训练稳定性；2) 采用分组查询注意力(GQA)机制替代多头注意力(MHA)，通过将查询分组并与共享的键值对交互，显著减少了KV缓存的内存占用。文章详细阐述了两种技术的数学原理、实现细节和性能优势，并提供了PyTo

不同的任务和应用可能需要不同类型的tokens。例如，在机器翻译中可能会使用子词tokens来处理未知词汇，而在文本分类任务中，则可能更倾向于使用单词tokens。在选择tokenizer时，需要考虑文本的特点、处理任务的需求以及计算资源。通常，基于机器学习的tokenizer虽然性能较好，但计算成本也更高，而简单的基于规则的tokenizer则适用于快速处理或资源有限的场景。Tokenizer是

介绍常见机器学习模型的优缺点，比如逻辑回归，k近邻，朴素贝叶斯，支持向量机

核函数（Kernel functions）在机器学习中尤其是在支持向量机（SVM）中扮演着重要的角色，它们能够将数据映射到高维空间，从而解决非线性问题。在实际应用中，选择核函数通常取决于问题的具体需求和数据集的特性。通常需要通过交叉验证等方法来调整核函数的参数，以达到最佳的模型性能。

LLM、ML、DL常用激活函数

伯努利分布（Bernoulli Distribution）是概率论中一种离散概率分布，描述只有两种可能结果的单次随机试验。MLE的核心思想是找到使观测数据出现概率最大的参数值。的先验分布是均匀分布时，即先验分布为常数时，最大后验估计与最大似然估计重合，因为此时。优化时需同时考虑似然和先验的权重（如L2正则对应高斯先验）。通过优化算法（如梯度下降）求解使对数似然最大的参数。MAP在MLE的基础上引入

本文介绍了LLAMA模型在Transformer架构上的两个关键改进：1) 使用Pre-RMSNorm替代Post-LayerNorm，通过仅对输入向量的均方根进行归一化，提高了计算效率和训练稳定性；2) 采用分组查询注意力(GQA)机制替代多头注意力(MHA)，通过将查询分组并与共享的键值对交互，显著减少了KV缓存的内存占用。文章详细阐述了两种技术的数学原理、实现细节和性能优势，并提供了PyTo

逻辑回归是一种基于Sigmoid函数的二分类模型，通过线性组合和概率映射实现预测。其核心是交叉熵损失函数和梯度下降优化，适用于线性可分数据和大规模稀疏特征场景。优点包括计算高效、可解释性强，但存在对非线性数据拟合不足、易受多重共线性影响的缺点。相比树模型，逻辑回归是参数化线性方法，而树模型能自动处理特征交互和非线性关系。针对多重共线性问题，可采用特征筛选、正则化或PCA等方法解决。逻辑回归特别适合