Microsoft WSL 项目中的自定义内核启动问题分析

问题背景

在 Microsoft WSL (Windows Subsystem for Linux) 项目中，一位用户报告了在使用自定义编译的 Linux 内核时遇到的启动问题。用户尝试在 WSL 2 环境下运行自己编译的 Linux 6.6.75.1 内核版本，但在启动时遇到了 WSAENOTCONN 错误。

错误现象

当用户尝试使用自定义内核启动 WSL 时，系统返回了以下错误信息：

A request to send or receive data was disallowed because the socket is not connected and (when sending on a datagram socket using a sendto call) no address was supplied.
Error code: Wsl/Service/CreateInstance/CreateVm/WSAENOTCONN

问题排查过程

1. 基础环境验证：

   • 用户首先确认了使用默认 WSL 内核可以正常启动
   • 系统环境为 Windows 10 26100.3476 版本
   • WSL 版本为 2.5.1
   • 使用的是 WSL 2 架构

2. 自定义内核配置：

   • 用户编译的内核版本为 6.6.75.1-microsoft-standard-WSL2+
   • 主要修改了 USB 和网络相关的配置选项
   • 尝试了两种内核格式：压缩的 bzImage 和未压缩的 vmlinux

3. 关键发现：

   • 当在 .wslconfig 文件中设置 processors=1 时，系统可以正常启动
   • 但当设置为 processors=2 时，就会出现上述错误
   • 值得注意的是，使用默认内核时，processors=2 的设置可以正常工作

技术分析

从系统崩溃的堆栈信息可以看出，问题发生在多处理器(SMP)初始化的过程中。具体是在 native_kick_ap 函数中触发了页面错误，导致辅助处理器(AP)无法正常启动。

关键错误点：

• 内核在尝试唤醒辅助处理器时失败
• 内存管理单元(MMU)配置可能存在问题
• 处理器间通信机制可能没有正确初始化

解决方案与建议

1. 临时解决方案：

   • 在 .wslconfig 中设置 processors=1 可以绕过此问题
   • 但这会限制系统只能使用单核处理器

2. 根本解决方案方向：

   • 检查内核配置中与 SMP 相关的选项
   • 特别注意处理器间中断(IPI)和内存屏障(memory barrier)的实现
   • 验证 ACPI 和 APIC 相关的配置是否正确
   • 检查内核编译时是否启用了正确的处理器架构支持

3. 深入排查建议：

   • 在内核配置中启用更详细的多处理器调试信息
   • 检查内核日志中关于处理器初始化的早期消息
   • 验证自定义内核的电源管理配置是否与 WSL 环境兼容

总结

这个问题展示了在 WSL 环境中使用自定义内核时可能遇到的挑战，特别是在多处理器支持方面。虽然通过限制处理器数量可以暂时解决问题，但为了充分发挥多核处理器的性能优势，建议开发者仔细检查内核配置中与 SMP 相关的选项，确保它们与 WSL 的虚拟化环境完全兼容。

对于希望在 WSL 中使用自定义内核的开发者，建议先从默认内核配置开始，逐步添加自定义选项，并在每个步骤进行验证，这样可以更容易定位问题的根源。