多模态语音情感识别项目使用指南

本指南旨在帮助您了解并运行一个名为“多模态语音情感识别”的开源项目，该项目托管在GitHub上（https://github.com/Demfier/multimodal-speech-emotion-recognition.git），专注于轻量级且可解释的机器学习模型来识别语音中的情绪。

1. 目录结构及介绍

项目结构如下：

multimodal-speech-emotion-recognition/
├── 1_extract_emotion_labels.ipynb          # 提取转录文本中的情感标签
├── 2_build_audio_vectors.ipynb            # 构建音频信号向量
├── 3_extract_audio_features.ipynb         # 提取音频特征
├── 4_prepare_data.ipynb                   # 数据预处理，准备用于实验
├── 5_audio_classification.ipynb           # 音频数据上的ML分类器训练
├── 5_1_sentence_classification.ipynb     # 文本数据上的ML分类器训练
├── 5_2_combined_classification.ipynb    # 结合音频和文本的数据分类
├── 6_analyze.ipynb                       # 分析结果
├── config.py                             # 主要配置文件
├── lstm_classifier                        # LSTM分类器相关代码子目录
│   ├── config.py                         # LSTM分类器配置文件
│   └── lstm_classifier.py                # LSTM分类器主要执行脚本
├── LICENSE
├── README.md                             # 项目说明文档
├── gitignore
├── main.py                               # 可能的主入口脚本
├── requirements.txt                      # 项目依赖列表
└── ...                                   # 其他可能未列出的相关文件或文件夹

• Notebooks: 包含多个Jupyter Notebook，用于逐步完成从数据预处理到模型训练的过程。
• config.py: 项目的全局配置文件，用于设置通用参数。
• lstm_classifier/: 子目录内含LSTM分类器的配置和实现。
• requirements.txt: 列出了所有必要的Python库版本。

2. 项目的启动文件介绍

主要的交互点在于Jupyter Notebook系列文件，但实际程序执行的关键是通过命令行运行lstm_classifier/lstm_classifier.py文件来训练LSTM模型。首先，需要按顺序运行Notebooks来准备数据和模型输入，然后依据实验需求调整配置文件后执行指定的分类器训练。

主要步骤简述：

1. 准备工作：从1_extract_emotion_labels.ipynb开始，依序执行至4_prepare_data.ipynb。
2. 模型训练：修改config.py或其他特定配置（如LSTM的lstm_classifier/config.py），接着运行python lstm_classifier/lstm_classifier.py来进行模型训练。

3. 项目的配置文件介绍

• config.py: 包括了数据路径、模型保存路径等基本项目设置，以及一些实验控制参数。
• lstm_classifier/config.py: 特定于LSTM模型的配置，这里可以设定网络结构、学习率、批次大小等关键超参数。

使用配置文件指导：

• 打开config.py，根据实验需求调整数据路径、模型存储路径以及任何其他需要自定义的设置。
• 对于LSTM模型，进入lstm_classifier目录下的config.py，确认或修改神经网络架构细节，包括层数、单元数等。

注意：

在进行实验之前，确保已安装所有必要的库，并创建一个新的虚拟环境以避免版本冲突。利用pip install -r requirements.txt来安装列在文件内的所有依赖项。

遵循以上步骤，您可以有效地搭建和测试这个多模态语音情感识别系统。