Time-LLM 时间序列预测框架使用教程

项目介绍

Time-LLM 是一个创新的时间序列预测框架，通过重新编程大型语言模型（LLMs）来实现高效的时间序列分析。该项目将时间序列预测任务转化为"语言任务"，利用现成的LLM进行处理，无需修改LLM的核心结构。

核心特性

Time-LLM 包含两个关键组件：

1. 输入重编程：将原始时间序列数据转换为更适合LLM处理的文本原型表示
2. 上下文增强：通过声明式提示（领域专家知识和任务指令）来指导LLM推理

环境准备

系统要求

• Python 3.7 或更高版本
• PyTorch 1.7 或更高版本

安装步骤

1. 克隆项目仓库：

git clone https://gitcode.com/gh_mirrors/ti/Time-LLM.git
cd Time-LLM

2. 安装依赖包：

pip install -r requirements.txt

依赖包列表

• torch==2.2.2
• accelerate==0.28.0
• transformers==4.31.0
• deepspeed==0.14.0
• 以及其他科学计算和数据处理的必需库

数据集准备

从Google Drive下载预处理好的数据集，将下载的内容放置在 ./dataset 目录下。项目支持多种时间序列数据集，包括ETT、ECL、Traffic、Weather等。

快速开始

基本使用示例

项目提供了多个预配置的脚本，可以快速启动不同数据集的训练和评估：

# 在ETTh1数据集上运行Time-LLM
bash ./scripts/TimeLLM_ETTh1.sh

# 在ETTh2数据集上运行
bash ./scripts/TimeLLM_ETTh2.sh

# 在ETTm1数据集上运行  
bash ./scripts/TimeLLM_ETTm1.sh

# 在ETTm2数据集上运行
bash ./scripts/TimeLLM_ETTm2.sh

模型配置选项

Time-LLM 支持多种配置参数：

• --llm_model: 选择LLM骨干网络（LLAMA、GPT2、BERT）
• --llm_dim: LLM模型维度（LLama7b:4096; GPT2-small:768; BERT-base:768）
• --seq_len: 输入序列长度
• --pred_len: 预测序列长度
• --features: 特征类型（M:多变量预测多变量，S:单变量预测单变量，MS:多变量预测单变量）

详细参数说明

主要运行脚本 run_main.py 提供了丰富的参数配置：

# 基本配置
parser.add_argument('--task_name', type=str, required=True, default='long_term_forecast')
parser.add_argument('--model', type=str, required=True, default='Autoformer')

# 数据加载配置
parser.add_argument('--data', type=str, required=True, default='ETTm1')
parser.add_argument('--seq_len', type=int, default=96)
parser.add_argument('--pred_len', type=int, default=96)

# 模型定义
parser.add_argument('--d_model', type=int, default=16)
parser.add_argument('--n_heads', type=int, default=8)
parser.add_argument('--e_layers', type=int, default=2)

应用场景

Time-LLM 可应用于多种时间序列预测场景：

• 金融预测：股票价格、汇率预测
• 能源系统：电力负荷预测、可再生能源输出预测
• 交通流量：道路拥堵预测、公共交通需求预测
• 气象预测：温度、降水量预测

最佳实践

1. 数据预处理：确保时间序列数据经过适当的归一化和清洗
2. 模型选择：根据任务复杂度选择合适的LLM骨干网络
3. 超参数调优：通过交叉验证优化学习率、批次大小等参数
4. 提示工程：精心设计领域特定的提示语以提高预测精度

项目结构

Time-LLM/
├── data_provider/          # 数据提供模块
├── models/                 # 模型定义（Autoformer、DLinear、TimeLLM）
├── layers/                 # 网络层组件
├── utils/                  # 工具函数
├── scripts/                # 运行脚本
└── dataset/                # 数据集目录

技术优势

• 无需微调LLM：保持预训练LLM的完整性
• 通用性强：支持多种时间序列预测任务
• 高效性能：在多个基准数据集上表现出色
• 易于扩展：支持不同的LLM骨干网络

注意事项

• 确保有足够的GPU内存来运行大型语言模型
• 根据数据集大小调整批次大小和序列长度
• 使用适当的学习率调度策略以获得最佳性能
• 定期保存检查点以防止训练中断

Time-LLM 为时间序列预测提供了一个创新的解决方案，通过利用大型语言模型的强大能力，在保持模型通用性的同时实现了优秀的预测性能。