探索模型-环境交互:用因果框架与 DYNOTEARS 分析模型规范选择对算法公平性的影响(scouts_ml_model_env)
探索模型-环境交互:用因果框架与 DYNOTEARS 分析模型规范选择对算法公平性的影响(scouts_ml_model_env)
导读
scouts_ml_model_env 是 google-research 仓库中一个处于 WIP(Work In Progress)状态的实验项目,其目标是用因果框架研究一个长期被忽视的问题:模型规范(model specification)的选择,会如何影响算法公平性随时间的演化。本文以该目录的 README.md 所定义的研究主题为骨架,结合其核心实现 model_environment_interactions.ipynb 的完整代码,深入讲解"变量操作化—变量选择—函数形式选择"三段式建模决策如何在 Obermeyer et al. (2019) 的医疗护理管理算法案例中落地,以及如何通过 LASSO 基线与 DYNOTEARS 动态因果结构学习,将模型输出转化为带时间步的长表数据并刻画公平性随时间的演变。读完本文,你将掌握一套可复现的"建模决策→预测管线→动态因果图"分析流程,并能直接理解各核心函数的参数含义、阈值设定与运行前提。
项目定位:为"模型-环境交互"建立可量化框架
README.md 对项目的描述非常凝练:该仓库包含一篇即将发表论文的代码,核心议题是模型规范选择对算法公平性(algorithmic fairness)随时间的影响。这里的"模型规范"指的是开发一个预测模型时做出的一系列选择;"环境"则指模型被部署后与之交互的社会系统(如医疗资源分配)。整个分析在 notebook 中展开,全流程包括:
- 采用因果框架刻画建模决策;
- 以真实部署过的医疗算法(Obermeyer et al. 2019)为动机案例;
- 用公开的合成数据复现特征工程、LASSO 训练与决策规则;
- 用 DYNOTEARS 从"模型输出 + 结果变量"的时序数据中学习动态因果结构,考察不同模型规范选择如何改变公平性相关变量(如种族)与结果之间的因果路径。
需要注意,项目仍处于 WIP 状态,notebook 开头明确声明 "This colab is a work in progress for an upcoming paper",因此本文描述的是当前仓库中已落地的实现事实,而非最终论文结论。
动机案例:Obermeyer et al. (2019) 的护理管理算法
为了把抽象的"模型规范"概念具象化,notebook 引入了一个被多家卫生系统实际部署的机器学习管线:从患者群体中筛选参与护理管理(care management)项目的子集。该项目的参与已被经验证据表明能改善临床结局并降低成本。当面对这种受预算约束的资源分配任务时,核心问题是如何选出"参与相对不参与能获得最大边际收益"的患者子集。然而,在缺乏随机对照试验数据的现实条件下,这种干预效应很难直接估计。
因此,模型开发者开始了第一轮规范选择:假设**"护理需求(need for care)"是"项目参与的边际收益"的合适代理变量**,形式化为:
- f: marginal_benefit_of_program → need_for_care
随后,他们进一步将护理需求这一语义概念操作化为三个可观测的候选结果,表示为集合值映射:
- g: need_for_care → {cost, avoidable_cost, num_active_chronic_conditions}
也就是说,"需要护理"既可以由总医疗支出(cost)体现,也可以由可避免支出(avoidable_cost,即急诊与住院支出)体现,还可以由活动性慢性病数量(num_active_chronic_conditions)体现。选择哪一个作为训练标签,本身就是模型规范决策的一部分,并会直接塑造模型的公平性表现。
在特征空间一侧,开发者希望选取能反映每位患者"社会人口学特征"与"0 到 t-1 时刻病史"的变量:
- h: socdemo_characteristics → {gender, age_bucket, insurance_type, ...} \ {race}
这里有两个值得注意的规范细节:其一,假设 gender 为二值且不随时间变化;其二,在把患者映射到离散的 age_bucket 时,使用的是 t-1 时刻的年龄。更关键的是,开发者刻意排除了 race——这对应"公平性无知(fairness through unawareness)"策略,即在训练中排除被认为可能与差别待遇相关的敏感属性:
- j: medical_history → {diagnoses, procedure codes, medications, costs_incurred}
病史的操作化受纵向理赔数据可得性的约束:尽管真实理赔记录通常包含每位患者多年的观测,但公开的合成数据集只提供两个时间步——即用 t-1 时刻观测到的特征预测 t 时刻感兴趣的结果变量。notebook 同时指出,只要存在相应数据集(例如通过传感器或移动应用获得的用药依从性、运动、生命体征、患者自报症状等),还可以有更多操作化选择。
最终,整个预测管线被抽象为一条简洁的映射链:
- LASSO (h ∪ j)_{t-1} → (g ∘ f)_t
其中 LASSO(或更一般地,正则化)在高维且可能稀疏的特征空间中承担变量选择的角色。
因果视角下的模型规范三要素
基于上述案例,notebook 将"模型规范"明确拆解为三个相互关联的组成部分,这也是整个项目的方法论骨架:
1. 变量操作化(Variable Operationalization) 给定一个用自然语言表述的问题或预测任务,如何把语义概念映射到具有已知类型、可提取/收集/近似的特征上。需要注意,这种映射可能是**集合值(set-valued)**的——一个语义概念可能对应多个候选特征集(例如 need_for_care 同时对应 cost、avoidable_cost、慢性病数量),这正是它与第 2 步紧密交织的原因。
2. 变量选择(Variable Selection) 自变量的纳入/排除、因变量的纳入/排除,以及代理变量(proxy variable)的识别。在 Obermeyer 案例中,选择 cost 而非真实的"边际收益"作为标签、刻意排除 race、用 LASSO 自动筛除不相关特征,都属于这一环节的决策。
3. 函数形式选择(Functional Form Selection) 在已知或假设的数据生成过程约束下,因变量与各自变量之间可以作何种参数化或分布假设。例如对 cost 取对数(log_cost_t)以压缩右偏分布、将连续化验值离散化为 low/normal/high 三档、将血压二值化为高血压指示变量,都是函数形式选择的实例。
这三要素共同决定了"模型看到的输入"与"模型被要求预测的输出",因此在因果意义上预先塑造了模型与环境的交互方式——这正是本项目研究公平性随时间演化这一主题的切入点。
数据准备:从宽表到带时间步的长表
notebook 的代码入口是加载合成数据并完成宽表(wide)到长表(long)的转换:
import os
import networkx as nx
import numpy as np
import pandas as pd
from typing import Optional
from itertools import product, chain
import causalnex
from math import ceil
from sklearn.preprocessing import LabelEncoder
import warnings
warnings.simplefilter(action='ignore', category=FutureWarning)
DATA_DIR = os.path.join("..", "data")
df = pd.read_csv(os.path.join(DATA_DIR, "data_new.csv"))
数据从 ../data/data_new.csv 读取(即仓库根目录 data/ 下的合成数据集,该文件不在当前仓库内,需要按原发布渠道获取)。核心转换函数是 create_long_df_obermeyer:
def create_long_df_obermeyer(wide_df, t_start=0,
outcome_vars=['gagne_sum_t', 'cost_t',
'cost_avoidable_t', 'bps_mean_t',
'ghba1c_mean_t', 'hct_mean_t',
'cre_mean_t', 'ldl_mean_t']):
# 构造基础列:idx、race、gender、age_bucket,均为 category 类型
df['race'] = wide_df['race'].astype("category")
df['gender'] = wide_df['dem_female'].apply(lambda x: 'f' if x == 1 else 'm').astype("category")
df['age_bucket'] = wide_df.apply(...) # 由 dem_age_band_*_tm1 映射为 '18-24' ... 'geq_75' / 'missing'
df['timestep'] = t_start
# 复制一份作为 t_start+1 时刻,纵向拼接成长表
...
for v in outcome_vars:
time_series_col, cols = get_time_series_for_outcome_vars(df=wide_df, var=v)
...
return long_df
关键设计在于:长表把同一患者的观测复制为 timestep=0 与 timestep=1 两个时刻,从而为后续的动态因果学习提供时间维度;同时,t-1 时刻的输入特征(如 dem_age_band_18-24_tm1)与 t 时刻的结果变量被拼接到同一行,构成标准的"用历史预测当前"监督结构。
结果变量的操作化:8 个候选标签及其医学阈值
get_time_series_for_outcome_vars 实现了 8 个候选结果变量从"语义概念"到"可计算时间序列"的完整映射,其阈值均有明确的医学依据,是理解整个案例公平性分析的关键:
| 结果变量 | 操作化逻辑 | 关键阈值/来源 |
|---|---|---|
gagne_sum_t |
直接使用数据中已有的 gagne_sum_tm1(活动性慢性病总数) |
无需计算 |
cost_t |
对 t-1 年所有成本特征求和,再四舍五入到百位 |
round_to_nearest_hundred |
cost_avoidable_t |
对 cost_emergency_tm1 + cost_ip_medical_tm1 + cost_ip_surgical_tm1 求和取整 |
急诊+住院(可避免)支出 |
bps_mean_t |
用 hypertension_elixhauser_tm1 作为 t-1 时刻代理,t 时刻收缩压 ≥ 130 二值化 |
CDC 高血压判定标准:收缩压 ≥ 130 mmHg |
ghba1c_mean_t |
三档离散化:low < 4,4 ≤ normal ≤ 5.7,high > 5.7 | 糖化血红蛋白参考区间 |
hct_mean_t |
三档离散化:low < 35.5,35.5 ≤ normal ≤ 48.6,high > 48.6 | 血细胞比容参考区间 |
cre_mean_t |
三档离散化:low < 0.84,0.84 ≤ normal ≤ 1.21,high > 1.21 | 肌酐参考区间 |
ldl_mean_t |
三档离散化:low < 50,50 ≤ normal ≤ 99,high > 99 | LDL 胆固醇参考区间 |
代码中由 discretize_mean_score 与 one_hot_encode_mean_score 两个函数实现三档离散化/独热化(对 ldl_mean_t 特殊处理:变量名中的 _mean 需替换为 -mean 以匹配数据列命名),并由 assert np.max(np.sum(df_t, axis=1)) == 1 保证三个互斥桶恰好覆盖一个档位。risk_score_t(原始算法风险分)与 program_enrolled_t(是否入组)在数据中直接给出,因缺少 t-2 时刻输入数据而无法回算 tm1 版本,代码中以 pass 占位并标注 TODO。
特征空间:五类特征族的选取规则
与结果变量操作化对应,输入特征侧由五个函数族构成特征并集(get_all_features 用 chain 取并集):
get_dem_features(df, prefix='dem_', excl_race=False):选取社会人口学特征;excl_race=True时剔除含'race'的列,用于实现"公平性无知"对照。get_comorbidity_features(df):选取共病特征,包括gagne_sum_tm1(慢性病总数)以及所有含_elixhauser_tm1、_romano_tm1后缀的列(两种共病指数)。get_cost_features(df, prefix='cost_'):选取 t-1 时刻成本列,同时显式排除cost_t与cost_avoidable_t这两个 t 时刻标签,防止标签泄漏。get_lab_features(df):按_tests_tm1、-low_tm1、-high_tm1、-normal_tm1后缀匹配化验结果特征。get_med_features(df, prefix='lasix_'):选取用药特征;notebook 特别注释指出,该前缀只返回 lasix(速尿,一种利尿剂)相关药物——这本身就是一个值得审视的操作化选择,因为仅凭一种药物难以完整代表"用药史"。
这些函数均标注为复现自公开的 dissecting-bias 复现仓库(仅对语法做轻微修改、保留原功能),说明本项目的特征工程并非从零设计,而是直接沿用 Obermeyer 案例的原始操作化方案,从而让后续公平性分析具有可比基准。
训练 LASSO 基线模型
main() 函数把上述特征与标签组装为完整训练管线:
def get_Y_x_df(df, verbose):
x_column_names = get_all_features(df, verbose)
df['log_cost_t'] = convert_to_log(df, 'cost_t') # log10(x + 1)
df['log_cost_avoidable_t'] = convert_to_log(df, 'cost_avoidable_t')
Y_predictors = ['log_cost_t', 'gagne_sum_t', 'log_cost_avoidable_t']
df['dem_race_black'] = np.where(df['race'] == 'black', 1, 0)
...
其中 convert_to_log 采用 np.log10(x + 1)(EPSILON=1)避免除零,convert_to_percentile 用 pd.qcut 把预测值转为 1–100 的百分位。三个训练标签 log_cost_t、gagne_sum_t、log_cost_avoidable_t 恰好对应 g 映射中的三个"护理需求"操作化方案,从而可以在同一特征空间下对比不同标签选择带来的公平性差异。
样本划分由 split_by_id 完成:按患者 ID 用 np.random.RandomState(0) 做确定性划分,默认 frac_train=0.67(约 2/3 训练、1/3 留出),确保任何一次运行都能复现相同的 train/holdout 边界。
train_lasso 是模型训练核心,其参数值得逐项说明:
train_lasso(train_df, holdout_df, x_column_names, y_col,
outcomes, n_folds=10, include_race=False, plot=False, output_dir=None)
- 交叉验证:使用
GroupKFold(n_splits=n_folds),以train_df['index']为分组键,保证同一观测不会同时出现在训练折与验证折中;合成数据在观测层面划分,因此以'index'作为 groups。 - 正则化路径:
LassoCV(n_alphas=100, cv=group_kfold_generator, random_state=0, max_iter=10000, fit_intercept=True, normalize=True),在 100 个 alpha 的路径上做交叉验证,取lasso_cv.alpha_作为最优正则化强度;max_iter=10000保证收敛。 - 敏感属性开关:
include_race=False时从特征中剔除race("公平性无知");True时若原特征不含race则强制加入,用于构造对照模型。 - 输出:返回三份结果——
r2_df(各标签在各结局上的留出 R²)、pred_df(train/holdout 的y_hat与y_hat_percentile)、lasso_coef_df(LASSO 系数,可用于观察哪些特征被选中/被压缩为零)。 - 评估:
build_formulas生成y ~ x回归式(risk_score_t或{y_col}_hat作为自变量),get_r2_df用 statsmodels 的 OLS 计算每个公式的留出 R² 与观测数;plot=True时输出各折 MSE 随 alpha 变化的曲线图(文件名区分是否含 race)。
main() 依次对三个标签训练模型,将留出预测与 dem_race_black、risk_score_t、program_enrolled_t 等指标合并,导出 model_lasso_predictors.csv(或含 race 版本的 model_lasso_predictors_race.csv)与 model_r2.csv。dem_race_black 这一列正是后续因果分析中衡量种族公平性的关键敏感属性。
把模型决策接回时间轴:阈值与入组规则
为了让"模型输出"转化为"环境中的决策",build_model_long_df 把留出预测按百分位映射为离散决策:
def build_model_long_df(long_df, hdf, t_start=0,
ref_threshold=0.55, enroll_threshold=0.97,
logged_dvs=['cost_t', 'cost_avoidable_t']):
...
temp_t1['decision'] = temp_t1['yhat_percentile'].apply(
lambda x: "none" if x < ref_threshold
else "referred" if ref_threshold <= x < enroll_threshold
else "enrolled")
temp_t1['program_enrolled'] = hdf['program_enrolled_t'].apply(
lambda x: "enrolled" if x == 1 else "not enrolled")
temp_t1['sq_vs_decision'] = hdf['program_enrolled_t'].apply(
lambda x: "enrolled" if x == 1 else "none/ref") + temp_t1['decision'].apply(lambda x: "_{}".format(x))
参数语义为:预测百分位 < 0.55(ref_threshold)→ 不干预(none);0.55 ≤ 百分位 < 0.97(enroll_threshold)→ 转诊(referred);百分位 ≥ 0.97 → 入组(enrolled)。sq_vs_decision 把"状态现状(status quo,即原始算法实际是否入组)"与"本模型决策"拼接,用于刻画模型决策相对现状的偏离。notebook 还留有 TODO 注释,提示未来可把阈值参数化为列表或按模型分别设定。该函数对 lasso_log_cost_t、lasso_log_cost_avoidable_t、lasso_gagne_sum_t 三个模型循环生成"模型 × 时间步"的决策长表,并与结果变量长表 long_df_for_graph 内连接,为因果结构学习准备输入。
动态因果结构学习:DYNOTEARS 建模模型-环境交互
将决策长表转换为结构学习输入时,先做类别编码:
struct_data = long_df_for_graph.copy().drop(['idx'], axis=1)
non_numeric_columns = list(struct_data.select_dtypes(exclude=[np.number]).columns)
le = LabelEncoder()
for col in non_numeric_columns:
struct_data[col] = le.fit_transform(struct_data[col])
struct_data.set_index('timestep')
随后调用 causalnex 的 DYNOTEARS 学习带时滞的因果结构(p=1 表示一阶时滞):
from causalnex.structure.notears import from_pandas
from causalnex.structure.dynotears import from_pandas_dynamic
sm = from_pandas_dynamic(struct_data, p=1)
DYNOTEARS 是 NOTEARS(非参数无环性约束的连续优化)向时序因果结构的扩展,能够同时学习同时间步内的同步边与跨时间步(t-1 → t)的时滞边。这正是本项目刻画"模型-环境交互随时间的演化"的核心工具:通过对比不同模型规范(不同标签、是否含 race)下学习到的因果图,可以观察敏感属性(如 dem_race_black、race)与决策变量、结果变量之间的路径是否存在、方向如何、强度多大。
图的后处理与可视化通过阈值裁剪与 Graphviz 布局完成:
from causalnex.plots import plot_structure, NODE_STYLE, EDGE_STYLE
from IPython.display import Image
sm.remove_edges_below_threshold(0.8) # 只保留强度 ≥ 0.8 的边
viz = plot_structure(
sm,
graph_attributes={"scale": "0.5"},
all_node_attributes=NODE_STYLE.WEAK,
all_edge_attributes=EDGE_STYLE.WEAK,
prog='fdp',
)
Image(viz.draw(format='png'))
remove_edges_below_threshold(0.8) 的 0.8 是一个需要结合数据规模斟酌的剪枝阈值:阈值过高会得到过于稀疏的图,过低则噪声边过多。从源码结构看,研究者可以在 from_pandas_dynamic 与剪枝之间调节参数,以得到可解释且稳健的因果结构。
运行环境与复现步骤
在仓库中复现本项目的分析,需要准备以下运行前提:
依赖库(notebook 各 cell 中实际 import 的库):
- 数据处理:
pandas、numpy、networkx、os、math、itertools - 机器学习:
scikit-learn(LassoCV、GroupKFold、LabelEncoder)、statsmodels(statsmodels.formula.api的 OLS)、matplotlib - 因果结构学习:
causalnex(含from_pandas/from_pandas_dynamic/plot_structure) - 可视化:
IPython.display.Image
数据文件:../data/data_new.csv(相对 notebook 所在目录 scouts_ml_model_env/),即仓库根目录下 data/ 中的合成数据集。需要说明:该数据集并不包含在当前 google-research 仓库内,需按其原始发布渠道获取后方可运行数据加载 cell。
执行顺序:按 notebook 的 cell 顺序依次执行——加载依赖 → 读取数据 → 定义特征选择函数族 → 定义结果变量操作化函数 → 构建长表 → 训练三个 LASSO 模型并导出预测 → 合并为模型决策长表 → 类别编码 → DYNOTEARS 学习动态因果结构 → 剪枝与绘图。其中 main() 会在 DATA_DIR/results/ 下写出 model_r2.csv 与 model_lasso_predictors.csv 等中间产物,供后续结构学习环节使用。
局限性与后续方向
从当前仓库实现可以明确看到项目的边界与待完善之处:
- WIP 状态:README 与 notebook 均标注为进行中,面向的是尚未发表的论文,因此所有结论都应视为中间实验而非定论。
- 两时间步限制:合成数据仅含 t-1 与 t 两个时刻,
risk_score_tm1、program_enrolled_tm1等无法回算(代码中以 TODO 标注),这会限制 DYNOTEARS 能捕获的时滞结构深度;真实理赔数据通常包含多年观测,是后续扩展方向。 - 固定的决策阈值:
ref_threshold=0.55与enroll_threshold=0.97在代码中是硬编码默认值,notebook 注释提示未来应参数化为列表或按模型分别设定。 - 用药特征单一:
get_med_features仅按lasix_前缀选取利尿剂,这反映了原始复现代码的操作化口径,也说明了"变量操作化"决策对结果的塑造力。
总结
scouts_ml_model_env 展示了一条完整的"因果视角下的模型规范分析"技术路线:从语义概念到可计算特征的集合值映射(变量操作化)、从代理标签与敏感属性取舍到 LASSO 正则化筛选(变量选择)、从对数变换与离散化到三档/二值编码(函数形式选择),再经由决策阈值把预测转化为入组动作,最终用 DYNOTEARS 动态因果图刻画模型与环境的交互结构。对于任何关注算法公平性随时间演化的研究者,这份 notebook 都提供了可复现的实验脚手架——尤其是 8 个候选标签的操作化阈值表、患者级 GroupKFold 验证的 LASSO 管线,以及 p=1 时滞下的动态因果结构学习,可以直接迁移到其他医疗资源分配或类似受约束决策场景。