排列特征重要性测量我们在排列了特征值后模型预测误差的增加，这打破了特征与真实结果之间的关系。

这种预测过程通常需要接受某种数据或输入，并产生一个输出，对于我们乐观的灵魂来说，这将是他们的股票或密码在第二天下午的价格。事实证明，多使用一个变量只能给我们更多的信息，而使用三个以上的变量并不能给我们更多的信息。一个吸引子有几个重要的特征:所有的轨迹将遵循一个类似蝴蝶的模式，一个轨迹将不会访问同一个点超过一次，并且开始彼此接近的轨迹将在以后看起来非常不同。这里的要点是，当只使用两个数据点时，神经网

在这一章节首先我们介绍什么是shapley value(夏普利值)和什么是SHAP。接下来先从原理上解释shapley的数学原理。

这种预测过程通常需要接受某种数据或输入，并产生一个输出，对于我们乐观的灵魂来说，这将是他们的股票或密码在第二天下午的价格。事实证明，多使用一个变量只能给我们更多的信息，而使用三个以上的变量并不能给我们更多的信息。一个吸引子有几个重要的特征:所有的轨迹将遵循一个类似蝴蝶的模式，一个轨迹将不会访问同一个点超过一次，并且开始彼此接近的轨迹将在以后看起来非常不同。这里的要点是，当只使用两个数据点时，神经网