Netflix VMAF与x265集成中的段错误问题分析与解决方案

问题背景

在视频编码领域，Netflix开发的VMAF(Video Multi-method Assessment Fusion)已成为业界广泛认可的视频质量评估指标。许多视频编码器如x265都尝试集成VMAF功能，以便在编码过程中实时评估输出视频质量。然而，在实际集成过程中，开发者常会遇到各种兼容性问题。

典型问题现象

当使用x265编码器并启用VMAF支持时，可能会遇到以下错误：

libvmaf INFO `compute_vmaf()` is deprecated and will be removed in a future libvmaf version
Segmentation fault (core dumped)

根本原因分析

经过深入调查，发现该问题主要由以下几个因素导致：

1. API版本不匹配：x265代码中使用了VMAF早期版本的compute_vmaf()接口，而该接口在VMAF 3.0.0及更高版本中已被弃用。

2. 模型文件格式变更：VMAF从2.x版本开始，不再支持.pkl格式的模型文件，转而使用.json格式，但x265代码中仍硬编码寻找.pkl格式文件。

3. 像素格式未指定：x265向VMAF传递视频数据时，未正确指定像素格式(yuv420p、yuv420p10le等)，导致空指针访问。

解决方案

临时解决方案

对于需要快速解决问题的用户，可以采用以下修改：

1. 修改x265源代码中的模型文件引用，将vmaf_v0.6.1.pkl改为vmaf_v0.6.1.json

2. 显式指定像素格式参数，例如对于10bit视频：

static const x265_vmaf_commondata vcd[] = { 
    { (char*)"yuv420p10le", (char *)"/usr/local/share/model/vmaf_v0.6.1.json", NULL, NULL, 0, 0, 0, 0, 0, 0, 0, NULL, 0, 1, 0 } 
};

长期解决方案

建议x265项目升级到VMAF的新API，主要变更包括：

1. 使用vmaf_init初始化VMAF上下文
2. 通过vmaf_model_load_from_path加载模型
3. 使用vmaf_read_pictures读取视频数据
4. 通过vmaf_score_pooled或vmaf_score_at_index获取评分

注意事项

1. 确保使用的VMAF模型文件与视频的色度子采样和位深匹配
2. 编译x265时指定的最大位深(x265_max_bit_depth)应与输入视频位深一致
3. 不同版本的VMAF库可能有不同的API和功能支持，需仔细阅读对应版本的文档

总结

VMAF作为重要的视频质量评估工具，其与编码器的集成需要考虑版本兼容性、数据格式匹配等多方面因素。开发者在使用时应当注意API变更，并确保各组件间的参数一致性。对于x265用户，建议关注官方对VMAF集成的更新，以获得更好的兼容性和稳定性。