scikit-learn中调整互信息评分(AMI)的计算问题分析

问题背景

scikit-learn是Python中广泛使用的机器学习库，其中的聚类评估模块提供了多种指标来衡量聚类结果的质量。调整互信息评分(Adjusted Mutual Information Score, AMI)是一种常用的聚类评估指标，它通过比较两个聚类结果之间的互信息来评估它们的相似性，同时考虑了随机因素的影响。

问题现象

在使用scikit-learn的adjusted_mutual_info_score函数时，发现了一个有趣的现象：当输入的两个聚类结果完全相同时，对于样本量为2和4的情况，AMI得分意外地返回0而不是预期的1。具体表现为：

adjusted_mutual_info_score([1, 2], [3, 4])  # 返回0.0
adjusted_mutual_info_score([1, 2, 3, 4], [5, 6, 7, 8])  # 返回0.0
adjusted_mutual_info_score([1, 2, 3, 4, 5], [6, 7, 8, 9, 10])  # 返回1.0

技术分析

AMI计算公式

AMI的计算公式为：

AMI = (MI - E[MI]) / (max(H1, H2) - E[MI])

其中：

• MI是互信息
• E[MI]是互信息的期望值
• H1和H2分别是两个聚类结果的熵

问题根源

通过深入分析源代码，发现问题出在期望互信息(E[MI])的计算上。当样本量等于类别数(即每个样本自成一类)时：

1. 对于样本量为2和4的情况，计算得到的E[MI]恰好等于实际的互信息MI
2. 对于其他样本量，E[MI]会略大于MI

这导致在计算AMI时，分子(MI - E[MI])为0，而分母由于浮点精度问题变成一个极小的正数(约2.22e-16)，最终结果为0。

数值稳定性问题

浮点运算中的精度问题是导致这一现象的深层原因。在样本量为3时：

MI = 1.0986122886681096
E[MI] = 1.0986122886681098

虽然两者极其接近，但由于E[MI]略大，分子为负，分母也为负，最终结果为1。

解决方案建议

1. 数值稳定性处理：可以借鉴scikit-learn中已有的处理方式，对分子和分母都进行截断处理，避免除以极小数的情况。

2. 公式修正：考虑在特殊情况下(如完全相同的聚类)直接返回1，绕过复杂的计算过程。

3. 文档说明：在函数文档中明确说明这种边界情况的行为，避免用户困惑。

对实际应用的影响

虽然这一问题只出现在特定的边界情况下，但它提醒我们：

1. 聚类评估指标在小型数据集上的表现可能不稳定
2. 在使用AMI等指标时，需要了解其数学原理和可能的边界情况
3. 对于关键应用，建议结合多种评估指标进行综合判断

总结

scikit-learn中的AMI计算在样本量为2和4时出现的异常行为，揭示了数值计算中精度处理的重要性。这一问题虽然不影响大多数实际应用场景，但对于理解聚类评估指标的行为和实现细节提供了有价值的案例。在未来的版本中，通过适当的数值稳定性处理，可以进一步提升该函数的鲁棒性。