OLSRR项目中的回归影响力分析指南
2025-07-07 08:28:11作者:何举烈Damon
引言
在回归分析中,单个异常观测值可能会对模型结果产生不成比例的巨大影响。作为数据分析师,我们需要识别这些有影响力的观测点,并在解释模型结果时予以特别关注。rsquaredacademy/olsrr项目提供了一套完整的工具集,专门用于检测线性回归模型中的影响力观测值。
影响力分析基础概念
在深入具体方法之前,我们需要理解几个关键概念:
- 杠杆值(Leverage):反映一个观测点在自变量空间中的异常程度
- 残差(Residual):观测值与模型预测值之间的差异
- 影响力(Influence):一个观测点对模型参数估计的综合影响程度
Cook距离分析
Cook距离条形图
Cook距离是最常用的影响力度量指标之一,它综合考虑了杠杆值和残差大小:
model <- lm(mpg ~ disp + hp + wt + qsec, data = mtcars)
ols_plot_cooksd_bar(model)
该函数会生成一个条形图,直观展示每个观测点的Cook距离值。通常,我们关注那些Cook距离明显高于其他点的观测值。
Cook距离图表
与条形图不同,Cook距离图表提供了另一种可视化方式:
ols_plot_cooksd_chart(model)
这个图表特别适合快速识别超出临界值的异常点。
DFBETAs分析
DFBETAs衡量的是删除某个观测点后模型参数估计值的变化程度:
model <- lm(mpg ~ disp + hp + wt, data = mtcars)
ols_plot_dfbetas(model)
该函数会为每个预测变量生成一个面板图,显示每个观测点对各个参数估计的影响。通常,绝对值大于2/√n的值需要特别关注。
DFFITS分析
DFFITS测量的是删除某个观测点后预测值的变化:
ols_plot_dffits(model)
临界值通常设为2√(p/n),其中p是参数个数,n是样本量。超出此值的点可能对模型预测有显著影响。
残差分析
学生化残差图
学生化残差有助于识别Y方向的异常值:
ols_plot_resid_stud(model)
绝对值大于3的学生化残差通常被视为异常值。
标准化残差图
标准化残差是另一种检测异常值的方法:
ols_plot_resid_stand(model)
综合诊断图
学生化残差与杠杆值图
这个图形结合了残差和杠杆值信息:
ols_plot_resid_lev(model)
右上角的点既具有高杠杆值又有大残差,需要特别注意。
删除学生化残差与拟合值图
ols_plot_resid_stud_fit(model)
该图有助于识别影响模型拟合的异常点。
高级诊断工具
Hadi图
Hadi影响力测度同时考虑响应变量和预测变量的异常:
ols_plot_hadi(model)
潜在残差图
该图帮助区分高杠杆点、异常点或两者兼具的点:
ols_plot_resid_pot(model)
实践建议
- 不要机械地删除所有被标记的异常点,应先检查数据质量
- 考虑异常点的业务含义,有时它们可能包含重要信息
- 可以尝试稳健回归方法替代普通最小二乘法
- 对于高杠杆点,考虑是否需要变换变量或增加样本
通过系统应用这些诊断工具,分析师可以全面评估回归模型的稳健性,确保分析结果可靠可信。
登录后查看全文
热门项目推荐
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0113- DDeepSeek-V4-ProDeepSeek-V4-Pro(总参数 1.6 万亿,激活 49B)面向复杂推理和高级编程任务,在代码竞赛、数学推理、Agent 工作流等场景表现优异,性能接近国际前沿闭源模型。Python00
MiMo-V2.5-ProMiMo-V2.5-Pro作为旗舰模型,擅⻓处理复杂Agent任务,单次任务可完成近千次⼯具调⽤与⼗余轮上 下⽂压缩。Python00
GLM-5.1GLM-5.1是智谱迄今最智能的旗舰模型,也是目前全球最强的开源模型。GLM-5.1大大提高了代码能力,在完成长程任务方面提升尤为显著。和此前分钟级交互的模型不同,它能够在一次任务中独立、持续工作超过8小时,期间自主规划、执行、自我进化,最终交付完整的工程级成果。Jinja00
SenseNova-U1-8B-MoT-SFTenseNova U1 是一系列全新的原生多模态模型,它在单一架构内实现了多模态理解、推理与生成的统一。 这标志着多模态AI领域的根本性范式转变:从模态集成迈向真正的模态统一。SenseNova U1模型不再依赖适配器进行模态间转换,而是以原生方式在语言和视觉之间进行思考与行动。Python00
MiniMax-M2.7MiniMax-M2.7 是我们首个深度参与自身进化过程的模型。M2.7 具备构建复杂智能体应用框架的能力,能够借助智能体团队、复杂技能以及动态工具搜索,完成高度精细的生产力任务。Python00
项目优选
收起
暂无描述
Dockerfile
717
4.57 K
Ascend Extension for PyTorch
Python
583
716
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
419
362
旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
1.09 K
601
Claude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed.
Get Started
Rust
690
113
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
963
958
deepin linux kernel
C
28
16
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
1.62 K
955
昇腾LLM分布式训练框架
Python
154
179
华为昇腾面向大规模分布式训练的多模态大模型套件,支撑多模态生成、多模态理解。
Python
142
223