如果你用过 PC、FCI 这类基于约束的因果发现算法一定遇到过这种场景同一份数据换一个indep_test参数画出来的因果图就像换了个人画的把显著性水平alpha从 0.05 改成 0.01刚才还在的一条边又消失了。遇到这种情况很多人第一反应是“算法是不是不稳定”但真正的根源往往藏在算法内部被反复调用上千次的那个统计判断里条件独立性检验Conditional Independence Test简称 CI Test。这篇综述主题讨论的正是约束基因果发现中的条件独立性检验问题。它看起来只是 PC 算法中的一个函数参数实际上却是整个约束基因果发现的“引擎”。选错了 CI 检验后续所有方向判定都会跟着错选对了才有可能从数据中还原出接近真实结构的因果图。这篇文章会把 CI 检验从概念、数学本质、主流方法到 Python 工程实现完整梳理一遍重点回答三个问题它到底在做什么不同方法之间差在哪里以及实际数据上应该如何选择与排查。1. 为什么说 CI 检验是约束基因果发现的引擎因果发现领域目前大致有三条技术路线约束基方法通过条件独立性检验判断变量间的边是否存在以及方向代表算法是 PC、FCI。得分基方法通过定义评分函数搜索最优 DAG代表算法是 GES、NOTEARS。函数基方法通过噪声分布和函数形式假设识别因果方向代表算法是 LiNGAM。其中约束基方法的逻辑非常特别它不直接找“谁影响谁”而是先找“谁和谁之间不存在关系”。这个思路很像犯罪调查里的“排除法”如果 A 和 B 在给定 C 之后变得完全独立那么在因果图上A 和 B 之间就不应该有直接相连的边。以最经典的 PC 算法为例它的流程可以分为两步骨架学习从完全无向图出发对每一对变量执行条件独立性检验条件集从小到大逐渐扩展。如果发现 X 和 Y 在给定某个变量集合 S 后条件独立就把 X-Y 这条边删除。方向判定根据 V 结构collider以及已删除边的信息为剩下的无向边确定方向。在整个流程中CI 检验处于绝对核心的位置。因为骨架学习的每一个“删边”决定都要依赖一次或多次 CI 检验的结果。一旦某个 CI 检验误判比如把本不该删的边删掉了那么后续所有依赖这条边存在的方向判定都会失效。更麻烦的是CI 检验不是只做一次而是指数级地反复执行。PC 算法在高阶阶段每一对相邻节点都要尝试不同大小的条件集总检验次数很容易达到几千甚至几万次。即使单次误判概率只有 5%在大量重复检验下整体出错率也会被显著放大。所以这里可以下一个明确的结论在约束基因果发现里CI 检验决定的是骨架层的地基质量。它比后续的 V 结构识别、方向传播规则更值得投入精力去理解。如果你想稳定地跑出可靠的因果图第一步不是调 PC 算法的参数而是搞清楚自己选择了什么样的 CI 检验以及这个检验到底在验证什么假设。2. 条件独立性与 d-分离先把概念放到因果图里在深入 CI 检验之前必须先说清楚“条件独立”这个概念本身。从概率论角度X 和 Y 在给定 Z 的条件下独立定义为P(X, Y | Z) P(X | Z) * P(Y | Z)记作 X ⊥ Y | Z。通俗地说就是当你已经知道了 Z 之后再知道 X 不会对 Y 的分布带来任何额外信息反之亦然。从因果图的角度这个概念对应的是 d-分离d-separation。d-分离描述的是在有向无环图中给定一组节点 Z 后如果 X 到 Y 的所有路径都被人为阻断那么 X 和 Y 就是 d-分离的也就意味着它们在所有与图兼容的分布下都条件独立。这里的“阻断”有两种情况非碰撞器路径路径中间节点出现在 Z 中则路径被阻断。碰撞器路径路径中间节点是碰撞器且该节点及其后代都不在 Z 中则路径被阻断。举个例子假设因果图是 X → Z → Y那么 X 和 Y 之间有一条经过 Z 的链。给定 Z 之后这条链被阻断所以 X ⊥ Y | Z。但如果只看边际相关性X 和 Y 是相关的因为 X 的变化会影响 ZZ 的变化又会影响 Y。这正好解释了为什么“相关不等于因果”相关可能通过中间变量传递而 CI 检验所做的就是判断这种传递是否在给定某些变量后被完全切断。约束基因果发现有效依赖两个关键假设因果马尔可夫条件如果图中 X 和 Y 被 Z d-分离那么数据分布中 X 和 Y 在给定 Z 下也独立。忠实性条件反过来如果数据表现出 X ⊥ Y | Z那么图中 X 和 Y 也确实被 Z d-分离没有额外的隐藏结构。这两个假设共同保证了“图上的 d-分离”和“数据中的条件独立”可以互相翻译。CI 检验的统计工作就是从有噪声的有限样本中判断某个条件独立关系是否成立。因此CI 检验的本质可以理解成一个统计探针它试图从数据中读出 d-分离关系然后把这些关系反馈给因果发现算法由算法组合出完整图结构。新手最容易误解的一点是CI 检验不是在检验“两个变量是否有因果关系”。它只回答一个更窄的问题在控制住变量集合 Z 后X 和 Y 之间是否还残留统计依赖。真正判断有没有因果关系、方向如何是 PC 算法基于大量 CI 结果综合推理出来的。3. CI 检验的统计本质假设检验框架所有 CI 检验都建立在一个经典假设检验框架上零假设 H0X 和 Y 在给定 Z 的条件下独立备择假设 H1X 和 Y 在给定 Z 的条件下不独立检验输出通常有两种形式一是 0/1 的拒绝结果二是 p 值。PC 算法内部会根据用户设定的显著性水平 alpha判断 p 值是否小于 alpha。如果小于则拒绝 H0认为“存在条件依赖”保留候选边如果不小于则无法拒绝 H0认为“没有充分证据说明条件依赖”于是删除候选边。这里有一个非常关键的判断要点因果发现里一个 CI 检验并不是在“证明存在关系”而是在“拒绝独立关系”。这一点很多人会搞反。p 值大并不代表 X 和 Y 真的独立只能说明当前样本量下没有足够证据拒绝独立假设。样本量不够、检验功效低、条件集维度过大都可能导致本应被发现的依赖关系没有被发现。因此理解 CI 检验要从两个统计性质入手第一类错误率在真实条件独立时错误地拒绝 H0 的概率。第一类错误过大会导致图中出现大量假边。统计功效在真实条件不独立时正确拒绝 H0 的概率。功效不足会导致图中漏掉真实存在的边。在约束基因果发现中第一种错误和第二种错误的代价是不对称的。假阳性会增加多余边后续的方向判定会基于错误边继续推导最终图会变得过于复杂假阴性则会丢失真实边导致骨架残缺而且这种丢失很难在后期阶段被找回来。从工程经验看假阴性往往比假阳性更危险因为骨架一旦缺边后面的定向逻辑根本没有机会运行到那条边上。另一个容易被忽视的问题是因果发现中的 CI 检验不是单次判断而是一系列并行的多重检验。如果你用一个非核心的变量对、一个较大的条件集做了一次低功效的检验这个误差可能只影响一条边但如果你在骨架学习早期阶段因为某个检验失误删掉了一个连接多个变量的枢纽边这个错误就会沿着图结构级联传播最终导致完全不同的因果图。这也是为什么不能简单用机器学习的评价指标比如准确率、F1 值来衡量 CI 检验的好坏。CI 检验真正需要优化的是在大量重复判断下的整体错误控制能力。4. 主流 CI 检验家族与选型对比围绕“如何判断条件独立”统计和机器学习社区提出了大量方法。从工程选型角度看可以分成五大类。4.1 线性参数化方法Fisher-Z 检验Fisher-Z 检验是最常用、也最容易理解的 CI 检验。它假设变量之间的关系是线性的且数据服从多元高斯分布。检验逻辑如下计算 X 和 Y 在控制 Z 之后的偏相关系数 r(X, Y; Z)。对偏相关系数做 Fisher 变换z 0.5 * ln((1 r) / (1 - r))。构造统计量 z * sqrt(n - |Z| - 3)近似服从标准正态分布。根据正态分布计算 p 值。这个检验的实现成本很低在低维线性系统中非常稳定。但它有两个硬伤第一如果真实机制是非线性的线性偏相关系数可能接近 0从而导致漏检第二如果数据明显非高斯正态近似会失真p 值不再可靠。4.2 离散数据方法G² 检验与卡方检验当变量是离散类型时不能直接用 Fisher-Z。常见做法是根据 X、Y、Z 的取值构造列联表然后计算 G² 统计量或卡方统计量再与卡方分布进行比较。G² 统计量的定义是G² 2 * Σ O_ij * ln(O_ij / E_ij)其中 O 是观测频数E 是零假设下的期望频数。G² 和卡方检验在思想上都属于“频数对比”如果 X 和 Y 在给定 Z 后真的独立那么各条件单元格的观测频数应该接近期望频数。这个方法的优点是直接面向离散数据缺点是当列联表稀疏时例如某个单元格观测次数为 0检验结果会非常不稳定。4.3 非参数方法条件互信息与 kNN 估计如果不想做线性假设一个自然思路是直接估计条件互信息 I(X; Y | Z)。互信息可以捕捉任意非线性依赖零假设下 I 0。问题在于条件互信息的估计本身是高难度任务。常见做法是利用 k 近邻方法估计分布密度然后计算互信息。这类方法的灵活性很高但有几个实际问题近邻数 k 的选择会影响估计偏差和方差。在高维 Z 下条件互信息估计需要指数级样本量。需要排列检验或自举方法来计算 p 值计算量偏大。在实际代码中PC 算法里的cmiknn或类似方法就是这类思路。适合中小规模连续数据尤其是在你怀疑数据存在非线性关系但非线性形式未知的情况下。4.4 核方法KCI 检验KCIKernel Conditional Independence Test是目前约束基因果发现中比较受重视的非参数检验之一。它的核心思想是把分布嵌入到再生核希尔伯特空间中比较条件分布嵌入的差异。如果 X 和 Y 在给定 Z 下独立那么对应的条件嵌入应该接近相等。KCI 的优势是能够处理非线性、非高斯的关系在各类 CI 检验中属于“高鲁棒性”选项。但它的计算代价很高复杂度近似 O(n³)样本量超过一两千时会明显变慢。在 PC 算法中如果使用 KCI 作为indep_test整体运行时间会比 Fisher-Z 高一个数量级甚至更多。4.5 基于回归的方法残差独立性与条件随机化近年来基于回归的方法在工程领域越来越流行。这类方法的基本思路是用 Z 分别预测 X 和 Y得到残差。检验残差之间是否独立。如果残差仍然依赖则说明给定 Z 后 X 和 Y 不独立。这种做法的优势是比非参数核方法计算更快并且可以利用成熟的回归模型处理高维数据。但它的有效性强烈依赖回归模型能否正确拟合条件分布。如果回归欠拟合残差中残留相关信息会导致假阳性如果回归过拟合则可能吸收过多信息导致假阴性。4.6 核心对比表方法核心思路数据类型计算成本优点局限Fisher-Z偏相关 Fisher 变换连续、线性、高斯很低简单快速适合大数据集非线性、非高斯场景失效G² / 卡方列联表频数比较离散中等面向类别特征稀疏单元格不稳定CMI / kNN条件互信息估计连续中高可检测非线性依赖k 值敏感高维样本需求大KCI核嵌入条件分布连续很高非参数鲁棒性强计算慢样本效率较低回归残差法残差独立性检验连续或混合中等可结合任意回归模型适合高维对回归模型设定敏感从这张表可以看出不存在一个“在所有数据上都最优”的 CI 检验。这一点和机器学习里的“没有免费午餐”原则一致。选择哪种检验本质上是根据数据规模、分布假设、计算预算和业务场景做的一个权衡。5. 用 Python 快速跑通条件独立性检验理解了理论后下面用一个最小示例来跑通 CI 检验。代码会同时使用causal-learn库和scipy手写实现方便你后续在项目里灵活选用。5.1 环境准备首先安装依赖库pip install numpy scipy causallearn这里causallearn是因果发现领域常用的 Python 库封装了 PC、FCI 等算法以及多种 CI 检验方法。本文不指定具体版本如果你安装遇到 API 差异以官方文档为准。5.2 生成模拟数据先构造一个简单的线性结构方程模型真实因果图为 X → Y → Zimport numpy as np from numpy.random import default_rng rng default_rng(42) n 500 X rng.normal(0, 1, sizen) Y 1.2 * X rng.normal(0, 0.6, sizen) Z 0.9 * Y rng.normal(0, 0.5, sizen) data np.column_stack([X, Y, Z])在这个结构中X 和 Z 在给定 Y 后条件独立所以理论上检验 X ⊥ Z | Y 时 p 值应该较大。而 X 和 Y 在给定 Z 后条件不独立p 值应该较小。5.3 使用 causal-learn 执行 CI 检验causal-learn提供了一个统一入口CIT可以方便地切换不同检验方法from causallearn.utils.cit import CIT # 构造 Fisher-Z 检验器 cit_fisherz CIT(data, fisherz) # 检验 X(第0列) 和 Z(第2列) 在给定 Y(第1列) 下是否条件独立 p1 cit_fisherz.p_value(0, 2, [1]) print(fX ⊥ Z | Y 的 p 值: {p1:.4f}) # 检验 X 和 Y 在给定 Z 下是否条件独立 p2 cit_fisherz.p_value(0, 1, [2]) print(fX ⊥ Y | Z 的 p 值: {p2:.4f})理论上p1应该大于 0.05表示不能拒绝条件独立p2应该小于 0.05表示存在条件依赖。如果结果显示相反多半是数据生成过程或变量索引写错了。5.4 手写一个轻量 Fisher-Z 检验有些项目不需要引入完整因果发现库只想快速判断一组变量是否条件独立。这时候可以用scipy手写一个极简版import numpy as np from scipy.stats import norm def fisher_z_pvalue(data, i, j, cond[]): cols [i, j] list(cond) sub data[:, cols] # 计算相关矩阵并求逆 corr np.corrcoef(sub, rowvarFalse) try: prec np.linalg.inv(corr) except np.linalg.LinAlgError: return 0.0 # 偏相关系数 r -prec[0, 1] / np.sqrt(prec[0, 0] * prec[1, 1]) # Fisher 变换 n_samples data.shape[0] k len(cond) z_score np.sqrt(n_samples - k - 3) * np.arctanh(r) p_value 2 * (1 - norm.cdf(abs(z_score))) return p_value print(Fisher-Z p 值:, fisher_z_pvalue(data, 0, 2, cond[1]))这段代码的关键在于偏相关系数不是直接对 X 和 Y 做相关计算而是通过相关矩阵的逆矩阵求解这样才能真正排除 Z 的影响。5.5 切换到非参数 KCI 检验如果你怀疑数据是非线性的可以用 KCI 检验跑同样的任务cit_kci CIT(data, kci) p1_kci cit_kci.p_value(0, 2, [1]) p2_kci cit_kci.p_value(0, 1, [2]) print(fKCI: X ⊥ Z | Y 的 p 值: {p1_kci:.4f}) print(fKCI: X ⊥ Y | Z 的 p 值: {p2_kci:.4f})在线性数据上KCI 和 Fisher-Z 的结论通常是一致的。但在非线性数据上两者可能会产生明显分歧这也正是做敏感性分析的意义所在。5.6 如何判断检验结果是否可信运行结束后不要只盯着 p 值大小。更稳妥的做法是生成多组随机种子下的数据重复检验观察 p 值稳定性。把 p 值分布画出来检查是否大量集中在 0 或 1 附近。如果数据量小于 200不要依赖渐进近似结果。如果条件集变量数量接近样本量任何检验都会失去意义。6. 把 CI 检验接入 PC 算法完整示例与效果验证单独跑 CI 检验只能验证局部关系。真正有价值的是把它接入 PC 算法观察整体因果图的还原效果。6.1 数据生成与不同引擎对比继续使用上一节的线性数据先跑 PC Fisher-Z再跑 PC KCI最后对比两张图的边结构。from causallearn.search.ConstraintBased.PC import pc # 方式一直接传字符串 cg_fisherz pc(data, indep_testfisherz, alpha0.05) # 方式二传入 CIT 对象 cit_kci CIT(data, kci) cg_kci pc(data, indep_testcit_kci, alpha0.05)输出图结构的方法可以写成一个简单函数def print_edges(cg, title): print(f {title} ) for edge in cg.G.get_edges(): print(edge) print() print_edges(cg_fisherz, PC Fisher-Z) print_ 条件独立性检验：约束因果发现的引擎与选型指南
如果你用过 PC、FCI 这类基于约束的因果发现算法一定遇到过这种场景同一份数据换一个indep_test参数画出来的因果图就像换了个人画的把显著性水平alpha从 0.05 改成 0.01刚才还在的一条边又消失了。遇到这种情况很多人第一反应是“算法是不是不稳定”但真正的根源往往藏在算法内部被反复调用上千次的那个统计判断里条件独立性检验Conditional Independence Test简称 CI Test。这篇综述主题讨论的正是约束基因果发现中的条件独立性检验问题。它看起来只是 PC 算法中的一个函数参数实际上却是整个约束基因果发现的“引擎”。选错了 CI 检验后续所有方向判定都会跟着错选对了才有可能从数据中还原出接近真实结构的因果图。这篇文章会把 CI 检验从概念、数学本质、主流方法到 Python 工程实现完整梳理一遍重点回答三个问题它到底在做什么不同方法之间差在哪里以及实际数据上应该如何选择与排查。1. 为什么说 CI 检验是约束基因果发现的引擎因果发现领域目前大致有三条技术路线约束基方法通过条件独立性检验判断变量间的边是否存在以及方向代表算法是 PC、FCI。得分基方法通过定义评分函数搜索最优 DAG代表算法是 GES、NOTEARS。函数基方法通过噪声分布和函数形式假设识别因果方向代表算法是 LiNGAM。其中约束基方法的逻辑非常特别它不直接找“谁影响谁”而是先找“谁和谁之间不存在关系”。这个思路很像犯罪调查里的“排除法”如果 A 和 B 在给定 C 之后变得完全独立那么在因果图上A 和 B 之间就不应该有直接相连的边。以最经典的 PC 算法为例它的流程可以分为两步骨架学习从完全无向图出发对每一对变量执行条件独立性检验条件集从小到大逐渐扩展。如果发现 X 和 Y 在给定某个变量集合 S 后条件独立就把 X-Y 这条边删除。方向判定根据 V 结构collider以及已删除边的信息为剩下的无向边确定方向。在整个流程中CI 检验处于绝对核心的位置。因为骨架学习的每一个“删边”决定都要依赖一次或多次 CI 检验的结果。一旦某个 CI 检验误判比如把本不该删的边删掉了那么后续所有依赖这条边存在的方向判定都会失效。更麻烦的是CI 检验不是只做一次而是指数级地反复执行。PC 算法在高阶阶段每一对相邻节点都要尝试不同大小的条件集总检验次数很容易达到几千甚至几万次。即使单次误判概率只有 5%在大量重复检验下整体出错率也会被显著放大。所以这里可以下一个明确的结论在约束基因果发现里CI 检验决定的是骨架层的地基质量。它比后续的 V 结构识别、方向传播规则更值得投入精力去理解。如果你想稳定地跑出可靠的因果图第一步不是调 PC 算法的参数而是搞清楚自己选择了什么样的 CI 检验以及这个检验到底在验证什么假设。2. 条件独立性与 d-分离先把概念放到因果图里在深入 CI 检验之前必须先说清楚“条件独立”这个概念本身。从概率论角度X 和 Y 在给定 Z 的条件下独立定义为P(X, Y | Z) P(X | Z) * P(Y | Z)记作 X ⊥ Y | Z。通俗地说就是当你已经知道了 Z 之后再知道 X 不会对 Y 的分布带来任何额外信息反之亦然。从因果图的角度这个概念对应的是 d-分离d-separation。d-分离描述的是在有向无环图中给定一组节点 Z 后如果 X 到 Y 的所有路径都被人为阻断那么 X 和 Y 就是 d-分离的也就意味着它们在所有与图兼容的分布下都条件独立。这里的“阻断”有两种情况非碰撞器路径路径中间节点出现在 Z 中则路径被阻断。碰撞器路径路径中间节点是碰撞器且该节点及其后代都不在 Z 中则路径被阻断。举个例子假设因果图是 X → Z → Y那么 X 和 Y 之间有一条经过 Z 的链。给定 Z 之后这条链被阻断所以 X ⊥ Y | Z。但如果只看边际相关性X 和 Y 是相关的因为 X 的变化会影响 ZZ 的变化又会影响 Y。这正好解释了为什么“相关不等于因果”相关可能通过中间变量传递而 CI 检验所做的就是判断这种传递是否在给定某些变量后被完全切断。约束基因果发现有效依赖两个关键假设因果马尔可夫条件如果图中 X 和 Y 被 Z d-分离那么数据分布中 X 和 Y 在给定 Z 下也独立。忠实性条件反过来如果数据表现出 X ⊥ Y | Z那么图中 X 和 Y 也确实被 Z d-分离没有额外的隐藏结构。这两个假设共同保证了“图上的 d-分离”和“数据中的条件独立”可以互相翻译。CI 检验的统计工作就是从有噪声的有限样本中判断某个条件独立关系是否成立。因此CI 检验的本质可以理解成一个统计探针它试图从数据中读出 d-分离关系然后把这些关系反馈给因果发现算法由算法组合出完整图结构。新手最容易误解的一点是CI 检验不是在检验“两个变量是否有因果关系”。它只回答一个更窄的问题在控制住变量集合 Z 后X 和 Y 之间是否还残留统计依赖。真正判断有没有因果关系、方向如何是 PC 算法基于大量 CI 结果综合推理出来的。3. CI 检验的统计本质假设检验框架所有 CI 检验都建立在一个经典假设检验框架上零假设 H0X 和 Y 在给定 Z 的条件下独立备择假设 H1X 和 Y 在给定 Z 的条件下不独立检验输出通常有两种形式一是 0/1 的拒绝结果二是 p 值。PC 算法内部会根据用户设定的显著性水平 alpha判断 p 值是否小于 alpha。如果小于则拒绝 H0认为“存在条件依赖”保留候选边如果不小于则无法拒绝 H0认为“没有充分证据说明条件依赖”于是删除候选边。这里有一个非常关键的判断要点因果发现里一个 CI 检验并不是在“证明存在关系”而是在“拒绝独立关系”。这一点很多人会搞反。p 值大并不代表 X 和 Y 真的独立只能说明当前样本量下没有足够证据拒绝独立假设。样本量不够、检验功效低、条件集维度过大都可能导致本应被发现的依赖关系没有被发现。因此理解 CI 检验要从两个统计性质入手第一类错误率在真实条件独立时错误地拒绝 H0 的概率。第一类错误过大会导致图中出现大量假边。统计功效在真实条件不独立时正确拒绝 H0 的概率。功效不足会导致图中漏掉真实存在的边。在约束基因果发现中第一种错误和第二种错误的代价是不对称的。假阳性会增加多余边后续的方向判定会基于错误边继续推导最终图会变得过于复杂假阴性则会丢失真实边导致骨架残缺而且这种丢失很难在后期阶段被找回来。从工程经验看假阴性往往比假阳性更危险因为骨架一旦缺边后面的定向逻辑根本没有机会运行到那条边上。另一个容易被忽视的问题是因果发现中的 CI 检验不是单次判断而是一系列并行的多重检验。如果你用一个非核心的变量对、一个较大的条件集做了一次低功效的检验这个误差可能只影响一条边但如果你在骨架学习早期阶段因为某个检验失误删掉了一个连接多个变量的枢纽边这个错误就会沿着图结构级联传播最终导致完全不同的因果图。这也是为什么不能简单用机器学习的评价指标比如准确率、F1 值来衡量 CI 检验的好坏。CI 检验真正需要优化的是在大量重复判断下的整体错误控制能力。4. 主流 CI 检验家族与选型对比围绕“如何判断条件独立”统计和机器学习社区提出了大量方法。从工程选型角度看可以分成五大类。4.1 线性参数化方法Fisher-Z 检验Fisher-Z 检验是最常用、也最容易理解的 CI 检验。它假设变量之间的关系是线性的且数据服从多元高斯分布。检验逻辑如下计算 X 和 Y 在控制 Z 之后的偏相关系数 r(X, Y; Z)。对偏相关系数做 Fisher 变换z 0.5 * ln((1 r) / (1 - r))。构造统计量 z * sqrt(n - |Z| - 3)近似服从标准正态分布。根据正态分布计算 p 值。这个检验的实现成本很低在低维线性系统中非常稳定。但它有两个硬伤第一如果真实机制是非线性的线性偏相关系数可能接近 0从而导致漏检第二如果数据明显非高斯正态近似会失真p 值不再可靠。4.2 离散数据方法G² 检验与卡方检验当变量是离散类型时不能直接用 Fisher-Z。常见做法是根据 X、Y、Z 的取值构造列联表然后计算 G² 统计量或卡方统计量再与卡方分布进行比较。G² 统计量的定义是G² 2 * Σ O_ij * ln(O_ij / E_ij)其中 O 是观测频数E 是零假设下的期望频数。G² 和卡方检验在思想上都属于“频数对比”如果 X 和 Y 在给定 Z 后真的独立那么各条件单元格的观测频数应该接近期望频数。这个方法的优点是直接面向离散数据缺点是当列联表稀疏时例如某个单元格观测次数为 0检验结果会非常不稳定。4.3 非参数方法条件互信息与 kNN 估计如果不想做线性假设一个自然思路是直接估计条件互信息 I(X; Y | Z)。互信息可以捕捉任意非线性依赖零假设下 I 0。问题在于条件互信息的估计本身是高难度任务。常见做法是利用 k 近邻方法估计分布密度然后计算互信息。这类方法的灵活性很高但有几个实际问题近邻数 k 的选择会影响估计偏差和方差。在高维 Z 下条件互信息估计需要指数级样本量。需要排列检验或自举方法来计算 p 值计算量偏大。在实际代码中PC 算法里的cmiknn或类似方法就是这类思路。适合中小规模连续数据尤其是在你怀疑数据存在非线性关系但非线性形式未知的情况下。4.4 核方法KCI 检验KCIKernel Conditional Independence Test是目前约束基因果发现中比较受重视的非参数检验之一。它的核心思想是把分布嵌入到再生核希尔伯特空间中比较条件分布嵌入的差异。如果 X 和 Y 在给定 Z 下独立那么对应的条件嵌入应该接近相等。KCI 的优势是能够处理非线性、非高斯的关系在各类 CI 检验中属于“高鲁棒性”选项。但它的计算代价很高复杂度近似 O(n³)样本量超过一两千时会明显变慢。在 PC 算法中如果使用 KCI 作为indep_test整体运行时间会比 Fisher-Z 高一个数量级甚至更多。4.5 基于回归的方法残差独立性与条件随机化近年来基于回归的方法在工程领域越来越流行。这类方法的基本思路是用 Z 分别预测 X 和 Y得到残差。检验残差之间是否独立。如果残差仍然依赖则说明给定 Z 后 X 和 Y 不独立。这种做法的优势是比非参数核方法计算更快并且可以利用成熟的回归模型处理高维数据。但它的有效性强烈依赖回归模型能否正确拟合条件分布。如果回归欠拟合残差中残留相关信息会导致假阳性如果回归过拟合则可能吸收过多信息导致假阴性。4.6 核心对比表方法核心思路数据类型计算成本优点局限Fisher-Z偏相关 Fisher 变换连续、线性、高斯很低简单快速适合大数据集非线性、非高斯场景失效G² / 卡方列联表频数比较离散中等面向类别特征稀疏单元格不稳定CMI / kNN条件互信息估计连续中高可检测非线性依赖k 值敏感高维样本需求大KCI核嵌入条件分布连续很高非参数鲁棒性强计算慢样本效率较低回归残差法残差独立性检验连续或混合中等可结合任意回归模型适合高维对回归模型设定敏感从这张表可以看出不存在一个“在所有数据上都最优”的 CI 检验。这一点和机器学习里的“没有免费午餐”原则一致。选择哪种检验本质上是根据数据规模、分布假设、计算预算和业务场景做的一个权衡。5. 用 Python 快速跑通条件独立性检验理解了理论后下面用一个最小示例来跑通 CI 检验。代码会同时使用causal-learn库和scipy手写实现方便你后续在项目里灵活选用。5.1 环境准备首先安装依赖库pip install numpy scipy causallearn这里causallearn是因果发现领域常用的 Python 库封装了 PC、FCI 等算法以及多种 CI 检验方法。本文不指定具体版本如果你安装遇到 API 差异以官方文档为准。5.2 生成模拟数据先构造一个简单的线性结构方程模型真实因果图为 X → Y → Zimport numpy as np from numpy.random import default_rng rng default_rng(42) n 500 X rng.normal(0, 1, sizen) Y 1.2 * X rng.normal(0, 0.6, sizen) Z 0.9 * Y rng.normal(0, 0.5, sizen) data np.column_stack([X, Y, Z])在这个结构中X 和 Z 在给定 Y 后条件独立所以理论上检验 X ⊥ Z | Y 时 p 值应该较大。而 X 和 Y 在给定 Z 后条件不独立p 值应该较小。5.3 使用 causal-learn 执行 CI 检验causal-learn提供了一个统一入口CIT可以方便地切换不同检验方法from causallearn.utils.cit import CIT # 构造 Fisher-Z 检验器 cit_fisherz CIT(data, fisherz) # 检验 X(第0列) 和 Z(第2列) 在给定 Y(第1列) 下是否条件独立 p1 cit_fisherz.p_value(0, 2, [1]) print(fX ⊥ Z | Y 的 p 值: {p1:.4f}) # 检验 X 和 Y 在给定 Z 下是否条件独立 p2 cit_fisherz.p_value(0, 1, [2]) print(fX ⊥ Y | Z 的 p 值: {p2:.4f})理论上p1应该大于 0.05表示不能拒绝条件独立p2应该小于 0.05表示存在条件依赖。如果结果显示相反多半是数据生成过程或变量索引写错了。5.4 手写一个轻量 Fisher-Z 检验有些项目不需要引入完整因果发现库只想快速判断一组变量是否条件独立。这时候可以用scipy手写一个极简版import numpy as np from scipy.stats import norm def fisher_z_pvalue(data, i, j, cond[]): cols [i, j] list(cond) sub data[:, cols] # 计算相关矩阵并求逆 corr np.corrcoef(sub, rowvarFalse) try: prec np.linalg.inv(corr) except np.linalg.LinAlgError: return 0.0 # 偏相关系数 r -prec[0, 1] / np.sqrt(prec[0, 0] * prec[1, 1]) # Fisher 变换 n_samples data.shape[0] k len(cond) z_score np.sqrt(n_samples - k - 3) * np.arctanh(r) p_value 2 * (1 - norm.cdf(abs(z_score))) return p_value print(Fisher-Z p 值:, fisher_z_pvalue(data, 0, 2, cond[1]))这段代码的关键在于偏相关系数不是直接对 X 和 Y 做相关计算而是通过相关矩阵的逆矩阵求解这样才能真正排除 Z 的影响。5.5 切换到非参数 KCI 检验如果你怀疑数据是非线性的可以用 KCI 检验跑同样的任务cit_kci CIT(data, kci) p1_kci cit_kci.p_value(0, 2, [1]) p2_kci cit_kci.p_value(0, 1, [2]) print(fKCI: X ⊥ Z | Y 的 p 值: {p1_kci:.4f}) print(fKCI: X ⊥ Y | Z 的 p 值: {p2_kci:.4f})在线性数据上KCI 和 Fisher-Z 的结论通常是一致的。但在非线性数据上两者可能会产生明显分歧这也正是做敏感性分析的意义所在。5.6 如何判断检验结果是否可信运行结束后不要只盯着 p 值大小。更稳妥的做法是生成多组随机种子下的数据重复检验观察 p 值稳定性。把 p 值分布画出来检查是否大量集中在 0 或 1 附近。如果数据量小于 200不要依赖渐进近似结果。如果条件集变量数量接近样本量任何检验都会失去意义。6. 把 CI 检验接入 PC 算法完整示例与效果验证单独跑 CI 检验只能验证局部关系。真正有价值的是把它接入 PC 算法观察整体因果图的还原效果。6.1 数据生成与不同引擎对比继续使用上一节的线性数据先跑 PC Fisher-Z再跑 PC KCI最后对比两张图的边结构。from causallearn.search.ConstraintBased.PC import pc # 方式一直接传字符串 cg_fisherz pc(data, indep_testfisherz, alpha0.05) # 方式二传入 CIT 对象 cit_kci CIT(data, kci) cg_kci pc(data, indep_testcit_kci, alpha0.05)输出图结构的方法可以写成一个简单函数def print_edges(cg, title): print(f {title} ) for edge in cg.G.get_edges(): print(edge) print() print_edges(cg_fisherz, PC Fisher-Z) print_