机器学习中的领域适应与隐藏变量

领域适应概述

领域适应是一个与因果关系自然相关的机器学习问题。我们假设在不同领域 $e \in E = {1, \ldots, D}$ 中获得目标变量 $Y_e$ 和 $d$ 个可能的预测变量 $X_e = (X_{e1}, \ldots, X_{ed})$ 的数据，并希望预测 $Y$。这里使用“领域”或“任务”的术语，以下是领域适应中三个问题的分类：
| 方法 | 训练数据来源 | 测试领域 |
| — | — | — |
| 领域泛化 | $(X_1, Y_1), \ldots, (X_D, Y_D)$ | $T := D + 1$ |
| 多任务学习 | $(X_1, Y_1), \ldots, (X_D, Y_D)$ | $T \in {1, \ldots, D}$ |
| 非对称多任务学习 | $(X_1, Y_1), \ldots, (X_D, Y_D)$ | $T := D$ |

我们的主要假设是存在一个集合 $S^ \subseteq {1, \ldots, d}$，使得条件 $Y_e | X_{eS^ }$ 对于所有领域 $e \in E$（包括测试领域）都是相同的，即对于所有 $e, f \in E$ 和所有 $x_{S^ }$，$Y_e | X_{eS^ } = x_{S^ }$ 和 $Y_f | X_{fS^ } = x_{S^*}$ 具有相同的分布。

不变预测与领域适应的关系

在之前的讨论中，我们使用“环境”而非“领域”的术语，并将上述性质称为“不变预测”。如果存在一个潜在的结构因果模型（SCM），并且环境对应于对目标 $Y$ 以外的节点的干预，那么对于 $S^* = PA_Y$，该性质成立。不过，该性质也可能对因果父母以外的集合成立。

由于我们的目标是预测，我们最感兴趣的是满足上述性质且能尽可能准确预测 $Y$ 的集合 $S^ $。在协变量偏移的设置中，通常假设条件 $Y_e | X_e = x$ 在所有任务 $e$ 中保持不变。而我们的假设意味着协变量偏移对于变量的某个子集 $S^ $ 成立，这是协变量偏移假设的一种推广。

对于领域泛化，如果集合 $S^ $ 已知，我们可以对这个子集 $S^ $ 应用传统的协变量偏移方法。例如，如果输入空间中数据的支持集重叠（或系统是线性的），我们可以在测试领域 $T$ 中使用估计器 $f_{S^ }(X_{TS^ })$，其中 $f_{S^ }(x) := E[Y_1 | X_{1S^ } = x]$。可以证明，在对抗性设置中，这种方法是最优的，其中测试领域的分布可能与训练领域的分布任意不同，但我们要求条件分布保持不变。

在多任务学习中，如何利用这样一个集合 $S^ $ 的知识并不那么明显。在实践中，需要将从合并任务和对 $S^ $ 回归 $Y$ 中获得的信息与单独考虑测试任务获得的知识相结合。

如果集合 $S^*$ 未知，我们建议在可用领域中搜索满足上述性质的集合 $S$。在学习因果预测器时，人们倾向于保守，因此不变因果预测方法输出满足该性质的所有集合 $S$ 的交集。但在这里，我们更关注预测，因此可以在所有导致不变预测的集合中选择导致最佳预测性能的集合 $S$，通常是这些集合中较大的一个。如果数据由 SCM 生成，并且领域对应于不同的干预，那么在无限数据的极限下，满足该性质且具有最佳预测能力的集合 $S$ 可以被证明是 $Y$ 的马尔可夫毯的一个子集。

相关问题

1. 半同胞回归问题 ：考虑图 8.1 中的有向无环图（DAG），$X$ 提供了关于 $Q$ 的额外信息，这一事实源于因果忠实性。
2. 逆概率加权问题 ：考虑一个形式为 $Z := N_Z$，$Y := Z^2 + N_Y$ 的 SCM $C$，其中 $N_Y, N_Z$ 独立同分布于 $N(0, 1)$，以及一个干预版本 $\tilde{C}$，其中 $do(Z := \tilde{N}_Z)$，$\tilde{N}_Z \sim N(2, 1)$。
   • （可选）计算 $E[Y] := E_{P_C}[Y]$ 和 $\tilde{E}[Y] := E_{P_{\tilde{C}}}[Y]$。
   • 从 SCM $C$ 中抽取 $n = 200$ 个独立同分布的数据点，并实现用于估计 $\tilde{E}[Y]$ 的估计器。
   • 计算上述估计值以及随着样本大小 $n$ 从 5 增加到 50,000 时估计器中权重的经验方差，并得出结论。
3. 不变预测器问题 ：考虑一个关于变量 $Y$、$E$ 和 $X_1, \ldots, X_d$ 的 DAG，其中 $E$ 不是 $Y$ 的父节点且自身没有父节点。记 $Y$ 的马尔可夫毯为 $M$。证明对于任何满足 $Y \perp!!!\perp E | S$ 的集合 $S \subseteq {X_1, \ldots, X_d}$，存在另一个集合 $S_{new} \subseteq M$，使得 $Y \perp!!!\perp E | S_{new}$ 且 $Y \perp!!!\perp (S \setminus S_{new}) | S_{new}$。

隐藏变量相关概念

在实际应用中，我们通常需要定义“因果相关”变量的概念。这里引入了“因果充分性”和“干预充分性”的术语。

干预充分性

一个变量集合 $X$ 通常被称为因果充分的，如果不存在不在 $X$ 中的隐藏共同原因 $C$ 导致 $X$ 中的多个变量。但这个定义使用了“共同原因”的概念，应该相对于一个更大的变量集合 $\tilde{X} \supseteq X$ 来理解。在对应的结构因果模型中，如果存在从 $C$ 到 $X$ 和 $Y$ 的有向路径，且分别不包括 $Y$ 和 $X$，则变量 $C$ 是 $X$ 和 $Y$ 的共同原因，共同原因也称为混杂因素。

我们提出了因果充分性的一个小修改，称为干预充分性。一个变量集合 $X$ 被称为干预充分的，如果存在一个关于 $X$ 的 SCM，它作为干预模型不能被证伪，即它诱导的观测和干预分布与我们在实践中观察到的一致。

考虑两个变量时，如果存在潜在的共同原因，通常是不充分的。辛普森悖论表明，忽略混杂因素的 SCM 不仅会导致错误的干预分布，甚至可能反转因果效应的符号。然而，有时即使存在潜在的混杂因素，我们仍然可以计算正确的干预分布。例如，对于 SCM $Z := N_Z$，$X := 1_{Z \geq 2} + N_X$，$Y := Z \mod 2 + X + N_Y$，其中 $N_Z \sim U({0, 1, 2, 3})$，$N_X, N_Y$ 独立同分布于 $N(0, 1)$，变量 $X$ 和 $Y$ 虽然因果不充分，但干预充分。原因是“混杂因素” $Z$ 可以分为两个独立的部分 $Z_1 := 1_{Z \geq 2}$ 和 $Z_2 := Z \mod 2$，分别影响 $X$ 和 $Y$。

一般来说，因果充分性和干预充分性之间存在以下关系：
- 如果一个子集 $O \subseteq X$ 是因果充分的，那么它是干预充分的。
- 反之，存在干预充分但因果不充分的集合。

此外，示例表明，不能仅通过图形标准来确定一个变量子集是否干预充分。不过，省略一个“中间”变量可以保留干预充分性：
1. 假设存在一个关于 $X, Y, Z$ 的 SCM，其图为 $X \to Y \to Z$ 且 $X \not\perp!!!\perp Z$，并且该 SCM 诱导了正确的干预，那么由于关于 $X, Z$ 且满足 $X \to Z$ 的 SCM，$X$ 和 $Z$ 是干预充分的。
2. 假设存在一个关于 $X, Y, Z$ 的 SCM $C$，其图为 $X \to Y \to Z$ 且还有 $X \to Z$，并且 $P_{C_{X,Y,Z}}$ 关于该图是忠实的，那么同样，由于关于 $X, Z$ 且满足 $X \to Z$ 的 SCM，$X$ 和 $Z$ 是干预充分的。
3. 如果情况与上述相同，但对于所有 $x$ 有 $P_{C_Z | X = x} = P_{C;do(X := x) Z} = P {C_Z}$（特别是 $P_{C_{X,Y,Z}}$ 关于该图不忠实），那么由于关于 $X, Z$ 的空图 SCM，$X$ 和 $Z$ 是干预充分的，但反事实可能无法正确表示。

当我们找到一个关于观测变量的 SCM，它与关于所有变量的原始 SCM 干预等价时，我们可以称前者为边缘化 SCM。确定边缘化 SCM 的结构不能仅依靠图形标准，还需要一些关于因果机制的信息，即赋值的具体形式。

辛普森悖论

以肾结石数据集为例，我们有 $P_C(R = 1 | T = A) < P_C(R = 1 | T = B)$，但 $P_{C;do(T := A)}(R = 1) > P_{C;do(T := B)}(R = 1)$。如果我们没有测量变量 $Z$（结石大小），甚至不知道它的存在，可能会假设 $T \to R$ 是正确的图。由于模型指定错误，因果陈述会反转。即使我们知道共同原因 $Z$，也可能存在另一个未校正的混杂变量，这可能导致因果结论的任意多次反转。

辛普森悖论并不是真正的悖论，而是提醒我们在写下潜在因果图时要小心。在某些情况下，我们可以从描述数据采集的协议中推断出 DAG。如果分配治疗的医生除了结石大小之外对患者没有其他了解，那么除了结石大小之外就不可能有其他混杂因素。

工具变量

工具变量可以追溯到 20 世纪 20 年代，在实践中被广泛使用。考虑一个线性高斯 SCM，其图如图 9.2（左）所示。结构赋值 $Y := \alpha X + \delta H + N_Y$ 中的系数 $\alpha$ 是我们感兴趣的量，有时称为平均因果效应（ACE）。由于隐藏的共同原因 $H$，不能直接通过对 $X$ 回归 $Y$ 并取回归系数来估计 $\alpha$，因为这样通常会得到有偏的估计器。

形式上，如果一个变量 $Z$ 满足以下条件，则称其为 $(X, Y)$ 的工具变量：
1. $Z$ 与 $H$ 独立。
2. $Z$ 与 $X$ 不独立（相关性）。
3. $Z$ 仅通过 $X$ 影响 $Y$（排除限制）。

在线性情况下，我们可以利用 $Z$ 的存在来估计 $\alpha$。首先，由于 $(H, N_X)$ 与 $Z$ 独立，我们可以将 $X := \beta Z + \gamma H + N_X$ 中的 $\gamma H + N_X$ 视为噪声，从而一致地估计系数 $\beta$，并得到 $\beta Z$。然后，通过对 $\beta Z$ 回归 $Y$ 来一致地估计 $\alpha$。总结来说，我们先对 $Z$ 回归 $X$，然后对第一次回归的预测值 $\hat{\beta}Z$ 回归 $Y$。在无限数据的极限下，平均因果效应 $\alpha$ 变得可识别，这种方法通常被称为“两阶段最小二乘法”。

可识别性并不局限于线性设置，例如：
1. 如果 $X$ 以非线性但可加的方式依赖于 $Z$ 和 $H$，两阶段最小二乘法仍然有效。
2. 如果变量 $Z, X, Y$ 是二进制的，ACE 定义为 $P_{C;do(X := 1)}(Y = 1) - P_{C;do(X := 0)}(Y = 1)$。

机器学习中的领域适应与隐藏变量（下半部分）

工具变量的进一步探讨

工具变量在处理隐藏共同原因导致的因果效应估计问题中具有重要作用。除了前面提到的线性高斯 SCM 情况，在更广泛的场景下，工具变量的应用也有其独特之处。

在实际应用中，确定一个变量是否为工具变量需要依靠领域知识来论证其满足独立性、相关性和排除限制这三个条件。例如，在医学研究中，可能会选择一个与治疗方案相关但与潜在混杂因素独立的变量作为工具变量。

对于不同结构的 SCM，只要满足工具变量的条件，都可以使用类似的方法来估计因果效应。比如，允许 $Z$ 和 $X$ 之间存在隐藏共同原因的结构，依然可以通过合理的分析来利用工具变量进行因果效应的估计。

在非线性情况下，虽然两阶段最小二乘法的直接应用可能会受到限制，但依然可以通过一些扩展方法来利用工具变量。例如，当 $X$ 以非线性但可加的方式依赖于 $Z$ 和 $H$ 时，依然可以通过适当的变换和回归来估计因果效应。

下面通过一个 mermaid 流程图来展示使用工具变量估计平均因果效应 $\alpha$ 的步骤：

graph LR
    A[数据收集] --> B[判断 Z 是否为工具变量]
    B -- 是 --> C[对 Z 回归 X，估计 β]
    C --> D[计算 βZ]
    D --> E[对 βZ 回归 Y，估计 α]
    B -- 否 --> F[重新寻找工具变量]

隐藏变量的影响与处理

隐藏变量在因果分析中可能会带来诸多问题，如辛普森悖论所展示的那样，可能导致因果结论的错误。因此，正确处理隐藏变量是因果分析中的关键环节。

因果充分性与干预充分性的实际意义

因果充分性要求不存在隐藏的共同原因影响多个变量，这在实际中往往难以满足。而干预充分性则从可操作性的角度出发，关注是否能够通过现有的变量集合构建一个不能被证伪的干预模型。

在实际应用中，我们可能更关注干预充分性，因为它直接关系到我们能否准确地计算观测和干预分布。例如，在市场营销中，我们可能无法测量所有可能影响销售的因素，但如果能够找到一个干预充分的变量集合，就可以对营销策略的效果进行有效的评估。

边缘化 SCM 的构建

构建边缘化 SCM 是处理隐藏变量的一种方法。通过从原始 SCM 出发，只考虑观测变量的结构赋值，并将隐藏变量的赋值代入右侧，得到一个具有多元、可能相关噪声变量的 SCM。在某些情况下，可以进一步选择一个干预等价且具有单变量噪声变量的 SCM。

下面是一个简单的表格，总结了因果充分性和干预充分性的特点：
| 充分性类型 | 定义 | 实际应用中的难点 |
| — | — | — |
| 因果充分性 | 不存在隐藏共同原因影响多个变量 | 难以确定所有隐藏变量 |
| 干预充分性 | 存在关于变量集合的 SCM 不能被证伪作为干预模型 | 确定干预等价的 SCM 结构较复杂 |

领域适应的实际应用与挑战

领域适应在实际的机器学习应用中具有广泛的需求，例如在图像识别、自然语言处理等领域。不同的数据集可能来自不同的领域，其数据分布可能存在差异，这就需要进行领域适应来提高模型的泛化能力。

集合 $S^*$ 的确定

在领域适应中，确定满足条件的集合 $S^ $ 是一个关键问题。如果集合 $S^ $ 已知，可以直接应用传统的协变量偏移方法；但如果未知，则需要在可用领域中进行搜索。

在搜索过程中，需要平衡保守性和预测性能。不变因果预测方法倾向于保守，输出满足条件的所有集合的交集；而我们更关注预测时，可以选择导致最佳预测性能的集合。

多任务学习中的挑战

在多任务学习中，如何利用集合 $S^*$ 的知识是一个挑战。需要将合并任务和单独考虑测试任务的信息相结合，这需要根据具体的数据集和任务进行合理的设计。

例如，在一个多领域的图像分类任务中，不同领域的图像可能具有不同的特征和分布。我们需要找到一个合适的集合 $S^*$，并将不同领域的数据信息进行有效的整合，以提高分类的准确性。

总结

本文主要介绍了机器学习中的领域适应和隐藏变量相关的内容。领域适应通过假设存在一个满足条件的集合 $S^*$，将协变量偏移假设进行了推广，并提出了在不同情况下利用该集合进行预测的方法。隐藏变量的存在可能导致因果结论的错误，因此引入了因果充分性和干预充分性的概念，并介绍了处理隐藏变量的方法，如工具变量和边缘化 SCM 的构建。

在实际应用中，我们需要根据具体的问题选择合适的方法来处理领域适应和隐藏变量。例如，在医学研究中，需要谨慎处理隐藏的混杂因素，利用工具变量来估计因果效应；在机器学习的多领域任务中，需要通过合理的搜索和信息整合来进行领域适应。

未来，随着因果分析和机器学习的不断发展，我们有望找到更有效的方法来处理领域适应和隐藏变量的问题，提高因果分析的准确性和模型的泛化能力。