OpenSC项目中YubiKey RSA签名失败问题分析

问题背景

OpenSC是一款开源的智能卡工具集，用于与PKCS#15兼容的智能卡进行交互。在最新发布的0.25.0版本中，用户报告了一个关键问题：当尝试使用YubiKey 5c nano上的RSA密钥进行签名操作时，系统会返回"Internal error"错误。

问题现象

用户在macOS Sonoma 14.0系统上，使用OpenSC 0.25.0版本执行以下命令时遇到错误：

pkcs15-crypt --sign --sha-256 --pkcs1 --raw --input <(openssl dgst -sha256 -binary file.txt)

错误信息显示为"Compute signature failed: Internal error"。

技术分析

通过对比0.25.0和0.24.0版本的调试日志，可以发现问题的根源在于填充算法处理逻辑的变化：

1. 在0.24.0版本中，填充算法标志为0x2（SC_ALGORITHM_RSA_PAD_PKCS1_TYPE_01）
2. 在0.25.0版本中，填充算法标志变为0xC0（同时包含SC_ALGORITHM_RSA_PAD_PKCS1_TYPE_01和SC_ALGORITHM_RSA_PAD_PKCS1_TYPE_02）

问题出在padding.c文件中的sc_pkcs1_encode函数。该函数在处理填充算法时，假设pad_algo参数中只设置了一个PKCS#1填充类型标志位（要么是TYPE_01，要么是TYPE_02）。然而在0.25.0版本中，由于标志位提取逻辑的变化，导致同时设置了两个标志位，使得switch语句无法正确处理这种情况。

解决方案

正确的处理方式应该是：

1. 在提取pad_algo时，确保只保留一个PKCS#1填充类型标志
2. 当同时出现TYPE_01和TYPE_02标志时，优先选择TYPE_01（用于签名）或根据上下文确定正确的类型

开发团队已经确认这个问题，并计划通过PR修复这个标志处理逻辑。修复后，将能够正确处理YubiKey等智能卡设备的RSA签名操作。

影响范围

这个问题主要影响：

1. 使用OpenSC 0.25.0版本的用户
2. 尝试使用RSA密钥进行PKCS#1签名操作的情况
3. 特别是使用YubiKey等支持多种填充类型的智能卡设备

临时解决方案

在官方修复发布前，用户可以：

1. 降级到OpenSC 0.24.0版本
2. 或者等待官方发布修复补丁

总结

这个案例展示了开源项目中版本升级可能带来的兼容性问题，也体现了通过详细日志分析定位问题的价值。对于智能卡和密码学操作这类安全性要求高的功能，正确处理各种标志和参数尤为重要。OpenSC团队对此问题的快速响应也体现了开源社区对质量问题的重视。