OnnxStream项目中直接加载负向提示词嵌入的技术探讨

背景介绍

在OnnxStream项目中，用户成功将Stable Diffusion模型从.safetensors格式转换为.onnx格式并在边缘设备上运行后，提出了一个关于负向提示词(negative prompt)嵌入的技术问题。用户希望使用更强大的负向提示词嵌入，如BadDream或UnrealisticDream等预训练嵌入，来提升生成图像的质量。

技术现状分析

目前OnnxStream项目中的Stable Diffusion实现尚不支持直接使用Textual Inversion(文本反转)技术。Textual Inversion是一种通过少量示例图像学习新概念的技术，可以将特定风格或对象编码为新的"词"，这些词可以被插入到提示词中使用。

技术解决方案

虽然官方不支持Textual Inversion，但开发者提供了修改代码的途径来实现类似功能。具体方法如下：

1. 在sd.cpp文件中查找"cc_v"变量，这是一个std::vector类型的容器
2. 通过判断条件"&cond_mat == &uncond"可以识别负向提示词的嵌入位置
3. 开发者可以在此处手动设置Textual Inversion向量

实现建议

对于希望在OnnxStream中使用预训练负向提示词嵌入的开发者，可以考虑以下步骤：

1. 获取预训练的Textual Inversion嵌入文件(如BadDream.pt等)
2. 解析这些文件获取嵌入向量
3. 修改sd.cpp代码，在适当位置注入这些向量
4. 特别注意负向提示词的嵌入位置判断条件

技术展望

虽然当前需要手动修改代码来实现这一功能，但这一发现为OnnxStream项目未来的功能扩展提供了方向。未来可以考虑：

1. 增加对Textual Inversion的原生支持
2. 提供预训练嵌入的加载接口
3. 优化边缘设备上的嵌入计算效率

总结

OnnxStream项目为在资源受限设备上运行Stable Diffusion模型提供了可能。虽然目前对高级提示词技术的支持有限，但通过代码修改仍然可以实现更强大的负向提示词效果。这一技术探索不仅解决了当前问题，也为项目的未来发展提供了思路。