H2O-3 GLM 与 GAM 的 `tweedie_variance_power` 参数:从分布定义到实战调参指南

原创2026-10-14 20:37:441,718 阅读
文章标签:人工智能机器学习AutoML大数据

H2O-3 GLM 与 GAM 的 tweedie_variance_power 参数:从分布定义到实战调参指南

tweedie_variance_power 是 H2O-3 广义线性模型(GLM)与广义加性模型(GAM)在 family=tweedie 场景下用于刻画 Tweedie 分布形状的核心超参数,它直接决定方差函数 var(y) = φ·μᵖ 的幂次,从而控制模型对"含大量精确零值、正偏斜连续响应"(如保险理赔额、损耗数据)的拟合行为。本文将以 H2O-3 官方参数文档为主体,结合仓库内 GLM/GAM 源码与测试,完整讲解该参数的定义、分布特例、合法性约束、R/Python 实战用法与网格调参方案。

参数概览

tweedie_variance_power 属于 H2O-3 通用模型超参数,其适用性与默认值如下:

  • 可用算法:GLM、GAM
  • 超参数(Hyperparameter):是,可参与网格搜索(Grid Search)
  • 默认值:0(当 family=tweedie 时,引擎会自动将其修正为 1.5 并使用,详见下文"默认值背后的实现逻辑")

当 family=tweedie 时,该选项用于指定 Tweedie 方差的幂次。Tweedie 分布一族涵盖了 Gamma、正态、Poisson 及其组合分布,特别适合对"带有精确零值的正连续变量"建模。Tweedie 分布的方差与均值的 p 次幂成正比:

var(y_i) = φ · μ_iᵖ

其中 p 即方差幂次(variance power),φ 为离散参数(dispersion)。从该公式可以看出,tweedie_variance_power 的取值直接决定了模型对数据"均值-方差关系"的假设形式,是选择 Tweedie 分布族时最关键的形状参数。

Tweedie 分布与方差幂次的数学背景

Tweedie 分布族以方差幂次 p 作为参数化核心,对于除 (0, 1) 区间以外的所有 p 值均有定义,并包含以下特殊情形:

p 取值 对应分布 数学特征
p = 0 Normal(正态) 方差与均值无关,恒为 φ
p = 1 Poisson(泊松) 方差等于均值
p ∈ (1, 2) Compound Poisson(复合泊松) 非负、在零处有质量(mass at zero),即"零膨胀 + 连续正数"混合
p = 2 Gamma(伽马) 方差与均值平方成正比
p = 3 Gaussian(高斯,此处特指逆高斯 Inverse Gaussian) 方差与均值立方成正比
p > 2 Stable(稳定分布) 支撑集为正实数

需要特别指出的是,保险/精算领域最常用的正是 p ∈ (1, 2) 的复合泊松(Compound Poisson)区间,因为它天然刻画了"一部分保单无理赔(响应为 0),另一部分保单发生正额理赔"的损失数据形态——这正是 auto.csv 聚合理赔损失数据集的典型结构。

从源码实现看,Tweedie 方差幂次直接进入 GLM 的迭代加权最小二乘(IRLS)求解流程:在 GLMModel.java 的 variance(double mu) 方法中,family=tweedie 分支返回 Math.pow(mu, _tweedie_variance_power)(见 GLMModel.java),即权重矩阵 W = 1 / var(μ) 完全由该参数决定。同时,偏差(deviance)与似然(likelihood)的计算也分支处理了 p = 1 与 p = 2 的边界情形(见 GLMModel.java),保证在这些退化分布下的数值稳定性。

分布族与方差幂次、链接幂次的合法组合

文档给出了一张重要的"可用关系表",说明 family 函数、Tweedie 方差幂次与 Tweedie 链接幂次之间的合法组合:

分布族(Family Function) Tweedie Variance Power Tweedie Link Power
Poisson 1 0, 1-vpow, 1
Gamma 2 0, 1-vpow, 2
Gaussian 3 1, 1-vpow

解读要点:

  • Poisson(p = 1):方差等于均值,链接幂次可用 0(对数链接)、1-vpow(此处即 0,同样为对数链接)或 1(恒等链接);
  • Gamma(p = 2):方差与均值平方成正比,链接幂次可为 0、1-vpow(此处为 -1,即倒数/逆链接)或 2;
  • Gaussian(p = 3):对应逆高斯(Inverse Gaussian),链接幂次为 1(恒等链接)或 1-vpow(此处为 -2)。

表中的 1-vpow 表明:链接幂次 tweedie_link_power 与方差幂次 tweedie_variance_power 存在耦合关系,这也是两个参数常常一起出现、需要联动调整的原因。实际建模时通常结合 family、link 与 tweedie_link_power 三个关联参数共同决策。

默认值背后的实现逻辑:p=0 时引擎如何工作

文档指出该参数默认值为 0,但一个值得深挖的细节是:在 H2O-3 的 GLM 参数校验阶段,当检测到 family=tweedie 且 tweedie_variance_power == 0 时,引擎并不会真的用 p=0(正态分布)去训练,而是自动将参数改写为 1.5。

这段逻辑位于 GLM.java 的参数校验代码中:

if (_parms._tweedie_variance_power == 0)
    _parms._tweedie_variance_power = 1.5;

代码注释说明了原因:若保持 p=0 且同时开启离散参数估计,后续的 Null GLM 模型构建会在 TweedieEstimator 中触发断言失败;预先改写为 1.5 可以保证从模型构建器得到友好错误而非底层断言错误。也就是说,"默认值 0"是 API 层面的表面默认值,真正的默认建模行为等价于复合泊松区间的 p = 1.5——这正是零膨胀理赔数据建模的常用起点。相关代码见 GLM.java。

同样的"默认 0 + 实际 1.5"语义也体现在 Python 客户端中:H2OGeneralizedLinearEstimator 的 tweedie_variance_power 属性声明"Type: float, defaults to 0.0"(见 glm.py),R 客户端的 h2o.glm 签名同样给出 tweedie_variance_power = 0 的默认值(见 glm.R),最终统一交由后端引擎执行上述改写逻辑。

合法性校验:引擎对参数取值的前置约束

结合源码可以确认,当 family=tweedie 时,H2O-3 引擎在训练前会对 tweedie_variance_power 做一系列校验与告警(见 GLM.java),实际建模时需留意以下边界:

  • p <= 1 会报错:要求 tweedie_variance_power 必须大于 1;
  • p == 1 报错:Tweedie 族在 p=1.0 时等价于 Poisson 族,引擎会提示"请改用 Poisson family";
  • p == 2 报错:Tweedie 族在 p=2.0 时等价于 Gamma 族,引擎会提示"请改用 Gamma family";
  • p ∈ (1, 1.2) 告警:当方差幂次接近 1 且小于 1.2 时,Tweedie 密度函数可能呈多模态(multimodal),导致以 ML 方式估计离散参数时优化结果次优;文档给出的建议是尝试不同的 init_dispersion_parameter 初值重新建模;
  • 响应列约束:当使用 ML 方法估计离散参数且 p > 1 时,要求响应值 >= 0;当 p > 2 时要求响应值 > 0,否则相关行会被忽略(发出 warning);
  • fix_tweedie_variance_power 联动:该布尔参数控制是否将方差幂次固定为用户设定值(默认为 true)。若设为 false,引擎会在训练迭代中联合估计 p 与离散参数 φ(见 GLM.java 中记录的迭代过程 "GLM Tweedie p and phi estimation: iteration = ..."),但该选项只对 Tweedie 族有效。

此外,参数隐藏规则也值得注意:当 family 不是 Tweedie 时,tweedie_variance_power 与 tweedie_link_power 会被隐藏并标注 "Only applicable with Tweedie family"(见 GLMModel.java),避免对非 Tweedie 模型造成混淆。

在 GLM 与 GAM 中的使用位置

该参数在两个算法中均有落地:

  • GLM:参数定义在 GLMParameters 中(GLMModel.java),并通过 REST 模式类 GLMV3.java 暴露为 API 字段 tweedie_variance_power;
  • GAM:GAM 底层复用 GLM 的分布与链接计算框架,GAMModel 同样维护 _tweedie_variance_power 字段(GAMModel.java),并借助 GLMModel.GLMWeightsFun 传递方差幂次与链接幂次(GAMModel.java),因此同一套 Tweedie 参数语义在 GAM 中完全一致。

另外,tweedie_variance_power 也出现在 ANOVAGLM、ModelSelection 等以 GLM 为内核的扩展模型的参数模式类中(如 ANOVAGLMV3.java、ModelSelectionV3.java),说明该参数在 H2O-3 的 GLM 生态中具有广泛复用性。

实战示例:在保险理赔数据上使用 tweedie_variance_power

文档提供了一个完整的端到端示例,使用 auto 数据集(包含机动车辆保险单特征,响应为聚合理赔损失,单位 1000 美元;原始数据来自 HDtweedie 包文档)演示单模型训练与网格调参,R 与 Python 双语言版本如下。

R 版

library(h2o)
h2o.init()

# 导入 auto 数据集:
# 该数据集考察机动车辆保险单的特征,预测聚合理赔损失
auto <- h2o.importFile("https://s3.amazonaws.com/h2o-public-test-data/smalldata/glm_test/auto.csv")

# 设置预测变量名与响应列名
predictors <- colnames(auto)[-1]
# 响应变量为聚合理赔损失(单位:1000 美元)
response <- "y"

# 按 8:2 划分训练集与验证集
auto_splits <- h2o.splitFrame(data = auto, ratios = 0.8)
train <- auto_splits[[1]]
valid <- auto_splits[[2]]

# 使用 tweedie_variance_power 参数训练单模型:
auto_glm <- h2o.glm(x = predictors, y = response, training_frame = train,
                    validation_frame = valid,
                    family = 'tweedie',
                    tweedie_variance_power = 1)

# 打印验证集上的 MSE
print(h2o.mse(auto_glm, valid = TRUE))

# 对 tweedie_variance_power 进行网格搜索
# 选择要搜索的候选取值
hyper_params <- list(tweedie_variance_power = c(0, 1, 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2,
                                                2.1, 2.2, 2.3, 2.4, 2.5, 2.6, 2.7, 2.8, 2.9, 3, 5, 7))

# 本例使用笛卡尔网格搜索,因为搜索空间较小,
# 并且我们希望看到所有模型的性能;若搜索空间较大,
# 建议改用随机网格搜索:{'strategy': "RandomDiscrete"}

# 使用选定的超参数构建网格搜索
grid <- h2o.grid(x = predictors, y = response, training_frame = train, validation_frame = valid,
                 family = 'tweedie', algorithm = "glm", grid_id = "auto_grid",
                 hyper_params = hyper_params,
                 search_criteria = list(strategy = "Cartesian"))

# 按 MSE 对网格模型排序
sorted_grid <- h2o.getGrid("auto_grid", sort_by = "mse", decreasing = FALSE)
sorted_grid

# 打印验证集上的 MSE
print(h2o.mse(auto_glm, valid = TRUE))

Python 版

import h2o
from h2o.estimators.glm import H2OGeneralizedLinearEstimator
h2o.init()

# 导入 auto 数据集:
# 该数据集考察机动车辆保险单的特征,预测聚合理赔损失
auto = h2o.import_file("https://s3.amazonaws.com/h2o-public-test-data/smalldata/glm_test/auto.csv")

# 设置预测变量名与响应列名
predictors = auto.names
predictors.remove('y')
# 响应变量为聚合理赔损失(单位:1000 美元)
response = "y"

# 按 8:2 划分训练集与验证集
train, valid = auto.split_frame(ratios=[.8])

# 使用 tweedie_variance_power 参数训练单模型:
# 先初始化估计器再训练模型
auto_glm = H2OGeneralizedLinearEstimator(family='tweedie', tweedie_variance_power=1)
auto_glm.train(x=predictors, y=response, training_frame=train, validation_frame=valid)

# 打印验证集上的 MSE
print(auto_glm.mse(valid=True))

# 对 tweedie_variance_power 进行网格搜索
# 导入网格搜索
from h2o.grid.grid_search import H2OGridSearch

# 选择要搜索的候选取值
hyper_params = {'tweedie_variance_power': [0, 1, 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2,
                                           2.1, 2.2, 2.3, 2.4, 2.5, 2.6, 2.7, 2.8, 2.9, 3, 5, 7]}

# 本例使用笛卡尔网格搜索,因为搜索空间较小,
# 并且我们希望看到所有模型的性能;若搜索空间较大,
# 建议改用随机网格搜索:{'strategy': "RandomDiscrete"}
# 初始化 GLM 估计器
auto_glm_2 = H2OGeneralizedLinearEstimator(family='tweedie')

# 使用先前创建的 GLM 与超参数构建网格搜索
grid = H2OGridSearch(model=auto_glm_2, hyper_params=hyper_params,
                     search_criteria={'strategy': "Cartesian"})

# 使用网格训练模型
grid.train(x=predictors, y=response, training_frame=train, validation_frame=valid)

# 按 MSE 对网格模型排序
sorted_grid = grid.get_grid(sort_by='mse', decreasing=False)
print(sorted_grid)

网格调参策略与候选取值解读

示例中的 hyper_params 覆盖了 0、1、1.1~2.9(步长 0.1)、3、5、7 共 24 个取值,覆盖了 Tweedie 分布族的几乎所有有意义区间,调参时建议按如下思路解读:

  • 0 与 1:严格来说会被引擎的校验逻辑拦截或改写(p=0 改写为 1.5、p=1 报错要求改用 Poisson),网格中加入它们更多是"边界探测"的意图;
  • 1.1~1.9(复合泊松区间):零膨胀理赔数据建模的黄金区间,p 越接近 1 表示数据越"泊松化"(0 多、方差接近均值),越接近 2 表示数据越"伽马化"(连续正额理赔主导、方差随均值平方增长);
  • 2.1~2.9(> 2 的稳定分布区间):适用于纯正响应(不允许零值),方差随均值的高次幂增长,刻画重尾正偏数据;
  • 5 与 7(极端取值):用于探测模型对极大方差幂次的鲁棒性,通常只在特殊重尾场景下才会胜出。

在搜索空间较大时,文档明确建议改用随机网格搜索 {'strategy': "RandomDiscrete"},避免笛卡尔网格因组合爆炸带来的计算开销。排序时以验证集 MSE 为指标(sort_by='mse', decreasing=False)即可快速定位最优 p。

从测试代码看,这类调参逻辑在仓库中也有对应验证:例如 GLMBasicTestRegression.java 中构造 Tweedie 模型时设置 parms._tweedie_variance_power = 1.5 并配套 _tweedie_link_power = 1 - _tweedie_variance_power(即 -0.5),正是文档"Family 与 Variance Power、Link Power 联动"关系的直接体现;GLMdispersionFactorTest.java 等测试则覆盖了离散参数与方差幂次的联合估计场景。

关联参数速查

tweedie_variance_power 通常与以下参数配合使用:

  • family:设为 tweedie 时该参数才生效,其他分布族下参数会被隐藏;
  • link:决定均值与线性预测器之间的链接函数;
  • tweedie_link_power:Tweedie 链接幂次,与方差幂次存在 1-vpow 的耦合关系(见上文合法组合表);
  • fix_tweedie_variance_power(默认 true):固定 p 为设定值;设为 false 时由引擎在迭代中联合估计 p 与离散参数,适用于对 p 取值不确定、希望数据自行决定的场景;
  • dispersion_parameter_method / init_dispersion_parameter:Tweedie 离散参数 φ 的估计方式与初值,与 p 的估计相互影响(p ∈ (1, 1.2) 时多模态问题可通过更换初值缓解)。

小结

tweedie_variance_power 是 H2O-3 中驾驭 Tweedie 分布族建模能力的关键旋钮:从数学上它通过 var(y) = φ·μᵖ 决定了均值-方差关系与分布形状,从实现上它贯穿 GLM/GAM 的权重矩阵、偏差与似然计算全链路,从使用上它需要与 tweedie_link_power、fix_tweedie_variance_power 等参数联动,并通过网格搜索在复合泊松区间(1, 2)内精细探测最优取值。掌握该参数,即可在保险损失、支出成本等"零膨胀正连续数据"场景下构建出统计语义正确、性能可调的 GLM/GAM 模型。

登录后查看全文
h2o-3