Ubuntu-Rockchip项目中的Frigate H.264硬件加速问题分析与解决方案

问题背景

在Ubuntu-Rockchip项目的最新内核版本中，用户报告了一个与Frigate NVR软件相关的H.264硬件加速问题。具体表现为在升级到linux-6.1.0-1018-rockchip内核后，Frigate 0.14b3版本无法正常启动，出现视频编解码器初始化失败的报错。

问题现象

当用户从6.1.0-1016-rockchip内核升级到6.1.0-1018-rockchip内核后，Frigate软件启动时出现以下关键错误信息：

[ERROR:0@75.042] global cap_ffmpeg_impl.hpp:1309 open Could not open codec h264, error: -11
[ERROR:0@75.042] global cap_ffmpeg_impl.hpp:1317 open VIDEOIO/FFMPEG: Failed to initialize VideoCapture

通过回退到旧内核版本6.1.0-1016-rockchip，问题消失，这表明问题确实与新内核版本有关。

深入分析

经过技术团队的深入调查，发现问题实际上与系统资源限制有关，而非直接的H.264硬件加速问题。关键发现包括：

1. 系统日志分析：dmesg输出中出现了关键错误信息"cgroup: fork rejected by pids controller"，表明系统进程数达到了上限。

2. 资源限制测试：

   • 当使用少量摄像头时（4个主/子流摄像头+1个单流摄像头，共19个ffmpeg进程），系统工作正常
   • 当增加更多摄像头（11个摄像头，39个ffmpeg进程）时，问题重现

3. 内核版本差异：

   • 旧内核(6.1.0-1016)的RKNPU驱动版本为v0.9.6
   • 新内核(6.1.0-1019)的RKNPU驱动升级到v0.9.7

4. 系统配置差异：

   • 新内核版本对用户进程数有更严格的限制
   • 系统默认的TasksMax设置过低，无法满足多摄像头场景需求

解决方案

经过多次测试和验证，确定了以下解决方案：

1. 临时解决方案：

   • 修改/usr/lib/systemd/system/user-.slice.d/10-defaults.conf文件，将TasksMax=33%改为TasksMax=infinity
   • 修改/etc/systemd/system.conf文件，设置DefaultTasksMax=38035
   • 重启系统使更改生效

2. 根本原因修复：

   • 技术团队发现新内核版本对最大用户进程数(max user processes)设置过低
   • 通过调整内核参数解决了这一限制问题

技术建议

对于需要在Rockchip平台上运行Frigate等视频监控软件的用户，建议：

1. 监控系统资源使用情况，特别是进程数和内存使用
2. 根据实际摄像头数量调整系统参数
3. 在进行内核升级前，先测试关键功能
4. 对于高负载场景，考虑优化ffmpeg进程数量

总结

这一问题表面上是H.264硬件加速问题，实际上揭示了Linux系统资源管理在多媒体应用场景中的重要性。通过本次问题的解决，不仅为Frigate用户提供了可行的解决方案，也为Ubuntu-Rockchip项目在资源管理方面的优化提供了宝贵经验。

对于开发者而言，这一案例也提醒我们在内核升级时需要全面考虑各种系统限制因素，特别是对于资源密集型应用的支持。未来版本的Ubuntu-Rockchip将会更加注重这方面的兼容性和稳定性。