官方 Hex Editor 插件上手:VSCode 从此能直接看改二进制文件
官方 Hex Editor 插件上手:VSCode 从此能直接看改二进制文件
拿到一个 .bin 固件、一个不知道格式的 .dat 存档,或者怀疑一张 PNG 图片的尾部藏了东西——用记事本打开全是乱码,VSCode 直接弹错,最后只能翻出 HxD、010 Editor 这类专用工具。而微软官方出品的 Hex Editor 插件,把完整的十六进制查看与编辑能力搬进了 VSCode:不用离开熟悉的编辑环境,右键点一下,字节流、ASCII 列、数据检查器全都就位,还能直接改。本文基于 VSCode 源码拆解它背后的机制,并给出图片隐写、固件排查等实操路线,最后客观盘点它与 010 Editor 的真实差距。
痛点根源:VSCode 原生为什么"打不开"二进制文件
很多人以为 VSCode 是"打不开"二进制文件,其实它是不想给你看。VSCode 的核心编辑器建立在文本模型之上,它天生假定打开的是可解码的字符流。当文件不符合文本预期时,工作台会直接拒绝以文本方式打开。
判断依据藏在 encoding.ts 里:它扫描文件前 512 个字节(ZERO_BYTE_DETECTION_BUFFER_MAX_LEN = 512),一旦发现大量 0x00 字节,就把文件判定为二进制:
// Detect 0 bytes to see if file is binary or UTF-16 LE/BE
// unless we already know that this file has a UTF-16 encoding
let seemsBinary = false;
if (encoding !== UTF16be && encoding !== UTF16le && buffer) {
let containsZeroByte = false;
for (let i = 0; i < bytesRead && i < ZERO_BYTE_DETECTION_BUFFER_MAX_LEN; i++) {
const isZeroByte = (buffer.readUInt8(i) === 0);
if (isZeroByte) {
containsZeroByte = true;
}
}
// ... 依据零字节分布进一步判定
}
命中之后,textFileService.ts 会抛出 FILE_IS_BINARY 错误,提示语就是那句经典的:
File seems to be binary and cannot be opened as text
所以,想在 VSCode 里看二进制,需要的是一个不经过文本模型的编辑器。VSCode 为此预留了一整套"自定义编辑器"(Custom Editor)扩展点:扩展可以注册自己的 viewType,接管特定 glob 规则匹配的文件。Hex Editor 正是这条管线上的官方产品——它在 extHost.api.impl.ts 通过 registerCustomEditorProvider 注册,插件侧逻辑在 extHostCustomEditors.ts 中被解析为 CustomEditorType.Custom,再由 customEditor.ts 定义的 ICustomEditorService 统一管理模型、脏状态、保存与回退。这就是"VSCode 从此能看改二进制"的底层答案:不是给文本编辑器打了补丁,而是编辑器主框架天然支持第三方接管二进制文件。
安装与打开:两步上手,界面速览
安装没有任何门槛:打开扩展面板(Ctrl+Shift+X),搜索 Hex Editor,认准发布者为 Microsoft(插件 ID 为 ms-vscode.hexeditor),点击 Install 即可。
打开方式有三种,日常用右键最快:
- 在资源管理器中右键文件 → 打开方式… → 十六进制编辑器;
- 命令面板(
Ctrl+Shift+P)输入重新打开方式(Reopen With)→ 选择十六进制编辑器; - 把文件拖进编辑器标签栏,再按方式 2 切换。
第一次进入,界面是标准的三段式布局:
- 地址列:左侧的
0x00000000起始偏移量,标出每个字节在文件中的绝对位置; - 十六进制列:每行 16 个字节,按
FF D8 FF E0这种双字节分组展示,便于对齐结构; - ASCII 列:右侧同时渲染可打印字符,乱码处一眼就能看出"这里不是文本"。
这套渲染不是凭空出现的。打开方式背后,customEditors.ts 会按 glob 规则匹配贡献点,把当前打开的资源交给对应的自定义编辑器,甚至能原地替换已打开的文件编辑器标签(源码中有一段 editorsToReplace 逻辑,专门把普通文件编辑器换成 custom editor)。也就是说,你在"打开方式"菜单里的每一次选择,都会在编辑器解析器(Editor Resolver)里沉淀为一条文件关联记录。
实战:用十六进制视图做图片隐写排查
社区里把这款插件捧火的最大场景,就是图片隐写(CSDN 相关教程的标题直接把它称作"010 Editor 的平替")。以最经典的 PNG 文件为例,看两个高频操作。
看尾部藏的数据。 PNG 的合法结构以 89 50 4E 47 0D 0A 1A 0A 开头,IEND 块(49 45 4E 44)之后理论上不该再有内容。但隐写最常见的手段就是在 IEND 之后追加字节——把文件末尾藏了 flag{...} 或者另一个 zip 包。用 Hex Editor 打开,滚动到文件最末几行,任何超出 PNG 规范的多余字节都会直接暴露在 ASCII 列里,字符串甚至无需解码就能读出来。
改宽高制造/破解隐写题。 PNG 的宽高字段在 IHDR 块中:跳过 8 字节签名后,00 00 00 0D 是数据块长度,随后 4 字节 49 48 44 52 是块类型,再往后第 5~8 字节是宽度(00 00 01 2C 即 300),第 9~12 字节是高度。如果一张图"显示不全",很可能就是高度被改小藏了内容。选中对应 4 字节,直接在十六进制列输入新的十六进制值,Ctrl+S 保存即可。Hex Editor 支持完整的撤销/重做、复制/粘贴、查找/替换(包括按十六进制模式搜索),完全够完成这类字节手术。
进阶玩家还会用到底部/侧边的数据检查器(Data Inspector):选中任意字节区域,它可以按 uint8/16/32/64、int、float、utf8、二进制 等多种类型实时解释数值。分析文件头、解读小端序结构字段时,这比对着十六进制手工换算高效得多。
与 010 Editor 的能力差距盘点
必须客观承认:Hex Editor 是"够用的平替",不是"全能的替代"。差距集中在以下三点:
| 能力维度 | Hex Editor(VSCode 官方) | 010 Editor |
|---|---|---|
| 基础查看/编辑 | 完整:hex/ASCII 双列、撤销重做、查找替换、数据检查器 | 完整,且更细腻 |
| 结构解析 | ❌ 无 | ✅ Binary Templates 模板脚本(.bt 文件按结构体逐字段解析) |
| 脚本自动化 | ❌ 无 | ✅ 内置脚本语言,可批量处理、调用 API |
| 计算器/列模式 | 仅基础 | ✅ 集成计算器、多种列视图、重复数据填充 |
| 超大文件 | ⚠️ 数据整体读入后由 webview 渲染,文件越大越重 | ✅ 原生内存映射,磁盘镜像级别也能顶住 |
对做逆向、拆协议、审计固件的老手来说,010 Editor 的模板脚本是杀手锏:写一个 .bt 文件,它能把 ELF 头、文件系统块、配置结构体逐字段解析成可读树状结构,而 Hex Editor 目前没有等价能力。反过来,对大多数人的日常场景,010 Editor 的付费门槛和"另开一个工具"的切换成本,恰恰是 Hex Editor 的机会。
哪些场景值得用,以及如何让它"默认接管"
结合情报和源码,最值得用 Hex Editor 的是这四类场景:
- CTF 与安全排查:图片隐写、文件头识别(
FF D8是 JPEG、50 4B是 ZIP)、字符串藏匿、尾字节篡改,这是社区讨论最热的场景,也是 010 Editor 平替论的发源地; - 嵌入式与固件:查看
.bin固件、寄存器表、Bootloader 配置,快速定位魔数(magic number)与版本字段; - 日常排障:判断一个文件到底是文本编码问题还是真的二进制、比对同一文件修改前后的字节差异、排查
.db/.sqlite等结构化数据的头部异常; - 低频但必需的时刻:不想为一个小改动专门装/开一个重型工具时,在编辑器内顺手完成。
如果你希望某些后缀的文件默认用 Hex Editor 打开,而不必每次右键选择,可以在设置里配 workbench.editorAssociations。VSCode 源码 editorResolverService.ts 里对这个配置项的描述甚至直接以 Hex Editor 为例:
// settings.json
"workbench.editorAssociations": {
"*.hex": "hexEditor.hexedit", // 源码文档中的官方示例
"*.bin": "hexEditor.hexedit",
"*.dat": "hexEditor.hexedit"
}
hexEditor.hexedit 正是该插件注册的 viewType,这条关联会在编辑器解析器里获得对默认文本编辑器的优先权。同理,如果常做二进制文件对比,还可以用 workbench.editor.diffEditorAssociations 把 diff 视图也交给它——源码层面已为自定义编辑器预留了 supportsInlineDiff / supportsSideBySideDiff 能力位(见 customEditor.ts 的 CustomEditorCapabilities)。
小结
VSCode 之所以能"直接看改二进制文件",不是因为它的文本编辑器变强了,而是因为编辑器框架从设计上就允许扩展接管任何文件类型,Hex Editor 恰好把这条能力用在了刀刃上。对图片隐写、固件查看、文件头分析这类中轻量需求,它是零成本、无切换的最优解;而一旦进入需要模板解析、脚本批量处理的深度逆向,010 Editor 这类专业工具依然是不可替代的终点。装好插件,右键一次,你会发现那个一直报 File seems to be binary and cannot be opened as text 的编辑器,终于对二进制文件说了"请进"。