NeuralForecast中如何获取验证损失曲线

在时间序列预测项目中，监控模型训练过程中的损失变化是评估模型性能的关键步骤。本文将详细介绍在使用Nixtla的NeuralForecast库时，如何正确获取和可视化训练过程中的验证损失曲线。

问题背景

许多用户在训练TSMixerx等时序模型时发现，虽然可以轻松获取训练损失（train_loss_step），但验证损失（valid_loss_step）的信息却难以获取。这给模型性能监控和过拟合检测带来了困难。

解决方案

1. 确保设置验证集

首先，必须在模型训练时明确指定验证集的大小。这是获取验证损失的前提条件：

# 在调用fit方法时设置val_size参数
nf.fit(df, val_size=100)  # 保留100个时间步作为验证集

2. 获取损失轨迹数据

训练完成后，可以通过模型的train_trajectories和valid_trajectories属性获取完整的损失轨迹：

# 获取训练和验证损失数据
model = nf.models[0]
train_loss = model.train_trajectories  
valid_loss = model.valid_trajectories

3. 可视化损失曲线

将获取的损失数据转换为DataFrame后，可以方便地进行可视化：

import pandas as pd
import matplotlib.pyplot as plt

# 训练损失可视化
train_df = pd.DataFrame(train_loss, columns=['step', 'loss'])
plt.plot(train_df['step'], train_df['loss'])
plt.title("训练损失曲线")
plt.xlabel("训练步数")
plt.ylabel("损失值")
plt.show()

# 验证损失可视化
valid_df = pd.DataFrame(valid_loss, columns=['step', 'loss']) 
plt.plot(valid_df['step'], valid_df['loss'])
plt.title("验证损失曲线")
plt.xlabel("验证步数")
plt.ylabel("损失值")
plt.show()

深入理解

验证频率设置

在模型初始化时，可以通过val_check_steps参数控制验证的频率：

model = TSMixerx(
    # 其他参数...
    val_check_steps=100,  # 每100步进行一次验证
    # 其他参数...
)

损失函数选择

NeuralForecast支持多种验证损失函数，如MAE、MSE等：

from neuralforecast.losses.pytorch import MAE, MSE

model = TSMixerx(
    # 其他参数...
    valid_loss=MAE(),  # 使用平均绝对误差作为验证指标
    # 其他参数...
)

最佳实践建议

1. 合理设置验证集大小：验证集应足够大以代表数据分布，但又不能影响训练数据量
2. 监控双损失曲线：同时观察训练和验证损失，可以及时发现过拟合或欠拟合
3. 调整验证频率：对于大数据集，可以适当增加验证间隔以提高训练效率
4. 多指标监控：除了损失函数，还可以监控其他评估指标如RMSE、MAPE等

通过以上方法，用户可以全面掌握模型在训练过程中的性能变化，为模型调优提供有力依据。