大模型数据知识点总结01
1、矩阵的对角化判断
参考:https://zhuanlan.zhihu.com/p/151391027
定义:对于一个 n×n 的方阵 A ,如果存在一个可逆矩阵 P 和一个对角矩阵 Λ ,使得:
P^(−1)AP=ΛP^(−1)AP=Λ
则称矩阵 A 可对角化。其中 Λ 的对角元素是 A的特征值, P 的列向量是 A 对应的线性无关特征向量。
2、矩阵分解
2.1、矩阵的奇异值分解
参考:https://zhuanlan.zhihu.com/p/29846048
2.2、QR分解
将 X 分解为 QR ( Q 正交, R 上三角)。QR 分解主要用于求解线性方程组、最小二乘问题等,不提供按重要性排序的分量,截断后无法保证重构误差最小。
2.3、LU分解
将 X 分解为 LU (下三角×上三角),主要用于求解线性方程组和计算行列式。LU 分解不保持正交性,且分量无能量/方差排序意义,截断后重构误差不可控。
2.4、Cholesky分解
仅适用于对称正定矩阵,将 A=LLTA=LLT 。样本矩阵 XX 一般不是方阵,更不是对称正定的,Cholesky 分解根本不适用。即使对协方差矩阵 XTXXTX 做 Cholesky,也无法直接得到最优低秩近似。
3、矩阵方程
3.1、矩阵方程的列向量线性无关
矩阵方程(A^T A x = A^T b 有唯一解的充分必要条件是矩阵A的列向量线性无关 (即 列满秩 )。当该条件满足时,其唯一解可表示为 x = (A^T A)^{-1} A^T b 。
3.2、Ax=b有解的条件
参考:https://zhuanlan.zhihu.com/p/76698110
Ax=b有解 等价于 rank(A)=rank(A,b) 即矩阵A的列向量中的线性无关的列向量数目和其增广矩阵的线性无关的列向量数目相等,则意味着列向量b可以被A中的列向量的线性组合表示。
3.3、矩阵的逆
求解参考:矩阵逆的三种求法-CSDN博客
定义参考:矩阵逆运算详解与应用-CSDN博客
A
= I(I是单位矩阵)
3.4、不同特征值对应的特征向量是线性无关的
参考:https://zhuanlan.zhihu.com/p/30454490
3.5、正定矩阵与半正定矩阵
𝐴是n阶方阵,如果对任何非零向量𝑥,都有𝑥^𝑇𝐴𝑥>0,其中𝑥𝑇 表示𝑥的转置,就称𝐴正定矩阵。
3.6、有限交错几何级数恒等式矩阵计算方法
题目:设A=[−11,4;−30,11],则(A+E)(E−A+A²−A³+A⁴−A⁵+A⁶)的结果是多少,提供一个简单的计算方法
求解方法:综合后为 E + A^7
4、随机变量
4.1、随机变量的定义
4.2、连续型随机变量
-
A. 连续型随机变量的概率密度函数(PDF)在任意点的值可以大于1 ✅
正确。概率密度函数 f(x) 的值不是概率,而是“概率密度”,单点取值完全可以大于1。 -
B. 连续型随机变量的累积分布函数(CDF)一定是连续函数 ✅
正确。这是连续型随机变量的定义性质之一。 -
C. 若X是连续型随机变量,则P(X=a)=0对任意实数a成立 ✅
正确。这是连续型随机变量的核心特征。因为:(由 CDF 连续性直接推出)。这也意味着连续型随机变量取任何单个具体值的概率为零,概率只在区间上有意义。 - D. 对于连续型随机变量X,若其概率密度函数f(x)是常数,则X的分布关于0对称 ❌
错误。若 f(x) 是常数,则 X 服从均匀分布。但均匀分布的定义区间不一定关于0对称。
5、概率分布
5.1、常见概率分布
参考:https://blog.csdn.net/Anne033/article/details/109303806
5.2、伯努利分布
参考:几种概率分布(伯努利分布、二项分布、泊松分布、均匀分布、正态分布、指数分布、伽马分布)-CSDN博客
5.3、泊松分布
参考:概率分布介绍:泊松分布_泊松分布的lamuda-CSDN博客
为什么泊松不得不发明泊松分布?
当时主要的问题是预测未来中发生事件的次数,更正式地说,预测在固定间隔的时间里,预测该事件发生n次的概率。
“事件”可理解为一天中访问你网站的访客数、一天中所接到的电话数。
6、互斥事件和独立事件
参考:https://zhuanlan.zhihu.com/p/518916437
7、期望值和方差性质
参考:https://zhuanlan.zhihu.com/p/673594756
(1)方差变换性质:
非负性:方差总是非负的,即 Var(X) ≥ 0。这是因为方差是偏差平方的平均,而平方总是非负的。
常数的方差:任何常数 c 的方差为零,即 Var(c) = 0。
线性变换:对于任何常数 a 和 b,Var(aX + b) = a^2 Var(X)。这说明,加上或减去一个常数不会改变方差,但乘以一个常数会按该常数的平方来缩放方差。
(2)期望值性质:
线性:如果有两个随机变量 X 和 Y,以及两个常数 a 和 b,那么 E(aX + bY) = aE(X) + bE(Y)。这意味着期望值运算可以分配到每个随机变量和常数上。
常数的期望值:任何常数 c 的期望值就是它本身,即 E(c) = c。
独立随机变量的乘积:如果 X 和 Y 是独立的,则 E(XY) = E(X)E(Y)。
8、对数和指数函数性质
9、拉格朗日插值
参考:线性插值、抛物插值、Lagrange插值 | Lagrange拉格朗日插值法(一)-CSDN博客
10、插值
10.1、三次样条插值
当已知某些点而不知道具体方程时候,最经常遇到的场景就是做实验,采集到数据的时候,我们通常有两种做法:拟合或者插值。拟合不要求方程通过所有的已知点,讲究神似,就是整体趋势一致。插值则是形似,每个已知点都必会穿过,但是高阶会出现龙格库塔现象,所以一般采用分段插值。今天我们就来说说这个分段三次样条插值。
考点:关于三次样条插值正确的是?
解答:
❌ A. 插值函数在节点处二阶导数不连续(错误描述,本题答案)
这恰恰与三次样条的定义相反。
三次样条插值的核心定义是:
在每个子区间上为三次多项式,且在整个区间上具有 C2C2 连续性,即函数值、一阶导数、二阶导数在内部节点处均连续。
✅ B. 在每个子区间上用三次多项式逼近函数(正确)
✅ C. 插值函数通过所有给定数据点(正确)
✅ D. 相比高次多项式插值,三次样条能避免 Runge 现象(正确)
| 方法 | 问题 |
|---|---|
| 高次全局多项式插值 | 等距节点下边界剧烈振荡(Runge 现象),次数越高越严重 |
| 三次样条 | 分段低次 + C2C2 光滑约束 → 局部控制、全局稳定,有效避免 Runge 现象 |
更多推荐
所有评论(0)