CVXPY中半定规划问题的对偶间隙分析

引言

在使用CVXPY进行半定规划(SDP)求解时，我们可能会遇到一个有趣的现象：计算得到的对偶间隙出现负值。本文将通过一个具体案例，深入分析这一现象背后的数学原理和数值计算因素。

问题描述

考虑一个标准的半定规划问题：

# 生成随机SDP问题
n = 3
p = 3
C = np.random.randn(n, n)
A = [np.random.randn(n, n) for _ in range(p)]
b = [np.random.randn() for _ in range(p)]

# 定义CVXPY问题
X = cp.Variable((n, n), symmetric=True)
constraints = [X >> 0] + [cp.trace(A[i] @ X) == b[i] for i in range(p)]
prob = cp.Problem(cp.Minimize(cp.trace(C @ X)), constraints)
prob.solve(solver=cp.MOSEK, verbose=True)

对偶间隙计算

在求解完成后，我们计算原始问题和对偶问题的目标值：

# 计算对偶目标值
dval = sum(-b[i] * constraints[i+1].dual_value for i in range(p))

# 输出结果
print("原始值:", prob.value)
print("对偶值:", dval)
print("对偶间隙:", prob.value - dval)

观察到的现象

运行上述代码后，我们可能会得到类似以下输出：

原始值: 2.6543480226272544
对偶值: 2.6543480240233657
对偶间隙: -1.3961112266258624e-09

注意到对偶间隙是一个很小的负值，这在理论上是违反强对偶定理的。

原因分析

1. 数值精度限制

CVXPY使用双精度浮点运算，其精度约为15-16位有效数字。在优化过程中，不可避免会出现舍入误差。当对偶间隙的绝对值小于1e-8时，可以认为这是数值计算误差导致的。

2. 求解器内部机制

MOSEK等求解器采用同质嵌入(homogeneous embedding)方法同时求解原始问题和对偶问题。在迭代过程中，生成的解既不是原始可行的也不是对偶可行的，直到最后一步才同时达到可行和最优状态。

3. 目标函数方向

值得注意的是，MOSEK内部将最小化问题转换为最大化问题处理。在最终迭代中，我们期望原始目标值(POBJ)小于对偶目标值(DOBJ)，这与我们观察到的现象一致。

实际应用建议

1. 当对偶间隙绝对值很小时(如<1e-8)，可以认为问题已收敛到最优解
2. 对于严格的数学验证，应考虑使用高精度求解器或符号计算
3. 理解求解器内部的对偶问题构造方式，避免错误解读对偶变量

结论

在CVXPY中使用MOSEK等求解器处理半定规划问题时，观察到的微小负对偶间隙是数值计算中的正常现象。这反映了浮点运算的精度限制和求解器内部算法的特点，而非理论上的对偶性破坏。实际应用中，我们可以忽略这种量级的差异，将其视为零处理。