Rustls项目中的kTLS支持现状与改进方向

背景介绍

kTLS（内核TLS）是一种将TLS记录层处理卸载到操作系统内核的技术，能够显著提升TLS通信的性能。在Rustls项目中，虽然已经提供了基本的kTLS支持，但在实际应用中仍存在一些局限性。

当前实现的问题

目前Rustls通过dangerous_extract_secrets方法可以提取出TLS会话的流量密钥，用于配置内核kTLS。然而，这种实现存在几个关键问题：

1. 控制消息处理不足：kTLS连接建立后，仍会收到各种TLS控制消息（如close_notify、key_update等），但当前实现无法正确处理这些消息。

2. 密钥更新机制缺失：kTLS无法处理TLS 1.3的密钥更新机制，当对端发送key_update时连接会失败。

3. 会话票据丢失：握手后接收到的会话票据无法被Rustls利用，影响性能。

技术挑战分析

实现完善的kTLS支持面临以下技术挑战：

1. 密钥派生链维护：需要保留基础密钥以支持后续的密钥更新派生。

2. 消息处理状态机：需要设计合理的状态机来处理各种控制消息。

3. 内核与用户空间协作：需要明确划分内核与用户空间的责任边界。

改进方案设计

基于讨论，改进方案应包含以下关键组件：

1. 扩展密钥提取接口：

   • 保留基础密钥以支持密钥更新
   • 提供会话票据处理能力

2. 消息处理状态机：

   • 处理close_notify等警报消息
   • 支持密钥更新协商
   • 处理其他控制消息

3. 密钥管理接口：

   • 主动触发密钥更新
   • 密钥使用计量

预期API设计

改进后的API将提供以下核心功能：

// 处理解密后的TLS消息
fn process_message(&mut self, msg: InboundPlainMessage<'_>) 
    -> Result<impl Iterator<Item = ConnectionState<'_>>, Error>;

// 主动触发密钥更新
fn refresh_traffic_keys(&mut self) 
    -> Result<impl Iterator<Item = ConnectionState<'_>>, Error>;

状态机将产生以下事件类型：

enum ConnectionState<'m> {
    PeerClosed,        // 对端关闭连接
    Closed,            // 连接完全关闭
    UpdateRxKey(...),  // 更新接收密钥
    UpdateTxKey(...),  // 更新发送密钥
    SendMessage(...),  // 需要发送控制消息
    ApplicationData(...) // 应用数据
}

实现注意事项

1. 线程安全：密钥更新操作需要确保原子性，避免中间状态。

2. 性能考量：尽量减少用户空间与内核空间的上下文切换。

3. 错误处理：明确区分可恢复和不可恢复错误。

未来展望

完整的kTLS支持将为Rustls带来以下优势：

1. 支持零拷贝IO操作（如splice和sendfile）
2. 降低用户空间CPU开销
3. 提高TLS通信吞吐量
4. 保持与标准TLS的完全兼容性

这一改进将使Rustls在需要高性能TLS的场景（如网络服务、CDN节点等）中更具竞争力。