敏感词过滤库sensitive-word实现多敏感词联合匹配的方法
2025-06-09 10:42:02作者:齐添朝
在实际应用中,我们经常会遇到需要同时匹配多个敏感词才能触发过滤逻辑的场景。例如,系统要求文本必须同时包含"特定"和"内容"两个敏感词才需要进行处理,单独出现其中任意一个则不触发过滤。本文将详细介绍如何基于sensitive-word库实现这种多敏感词联合匹配的功能。
基本原理
sensitive-word库本身提供了基础的敏感词检测功能,可以返回文本中匹配到的所有敏感词。要实现多敏感词联合匹配,我们需要在获取匹配结果后,进行额外的逻辑判断。
实现步骤
1. 配置敏感词库
首先,我们需要将所有相关的敏感词都配置到词库中:
SensitiveWordBs sensitiveWordBs = SensitiveWordBs.newInstance()
.wordDeny(new MyWordDeny()) // 添加自定义敏感词
.init();
2. 执行敏感词检测
使用库提供的方法检测文本中的敏感词:
String text = "这是一段包含敏感词a和b的文本";
List<String> wordList = sensitiveWordBs.findAll(text);
3. 自定义联合匹配逻辑
在获取到匹配的敏感词列表后,我们可以实现自定义的联合匹配逻辑:
public boolean isMatchAllRequired(List<String> matchedWords, String... requiredWords) {
Set<String> matchedSet = new HashSet<>(matchedWords);
for (String required : requiredWords) {
if (!matchedSet.contains(required)) {
return false;
}
}
return true;
}
4. 完整使用示例
// 定义必须同时出现的敏感词
String[] requiredWords = {"a", "b"};
// 检测文本
String text = "这是一段包含a和b的文本";
List<String> matchedWords = sensitiveWordBs.findAll(text);
// 判断是否同时匹配
if (isMatchAllRequired(matchedWords, requiredWords)) {
System.out.println("文本同时包含所有必需的敏感词");
} else {
System.out.println("文本未同时包含所有必需的敏感词");
}
高级应用
1. 权重匹配
可以为不同的敏感词设置权重,当匹配的敏感词总权重达到阈值时才触发过滤:
Map<String, Integer> wordWeights = new HashMap<>();
wordWeights.put("a", 1);
wordWeights.put("b", 2);
// ...其他敏感词权重
int totalWeight = matchedWords.stream()
.mapToInt(word -> wordWeights.getOrDefault(word, 0))
.sum();
if (totalWeight >= THRESHOLD) {
// 触发过滤
}
2. 组合条件匹配
实现更复杂的匹配逻辑,如"(A且B)或(C且D)":
boolean condition1 = isMatchAllRequired(matchedWords, "A", "B");
boolean condition2 = isMatchAllRequired(matchedWords, "C", "D");
if (condition1 || condition2) {
// 触发过滤
}
性能优化建议
- 对于频繁使用的联合匹配条件,可以预先将requiredWords转换为Set,避免每次匹配时重复创建
- 如果文本量很大,可以考虑先进行快速筛选,排除明显不符合条件的文本
- 对于固定的联合匹配条件,可以将其封装为独立的策略类,便于复用和管理
总结
通过结合sensitive-word库的基础检测功能和自定义的后处理逻辑,我们可以灵活实现各种复杂的敏感词匹配需求。这种方法既利用了现有库的高效检测能力,又通过上层逻辑满足了特定的业务需求,是一种实用且高效的解决方案。
登录后查看全文
热门项目推荐
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0138- DDeepSeek-V4-ProDeepSeek-V4-Pro(总参数 1.6 万亿,激活 49B)面向复杂推理和高级编程任务,在代码竞赛、数学推理、Agent 工作流等场景表现优异,性能接近国际前沿闭源模型。Python00
GLM-5.1GLM-5.1是智谱迄今最智能的旗舰模型,也是目前全球最强的开源模型。GLM-5.1大大提高了代码能力,在完成长程任务方面提升尤为显著。和此前分钟级交互的模型不同,它能够在一次任务中独立、持续工作超过8小时,期间自主规划、执行、自我进化,最终交付完整的工程级成果。Jinja00
MiniCPM-V-4.6这是 MiniCPM-V 系列有史以来效率与性能平衡最佳的模型。它以仅 1.3B 的参数规模,实现了性能与效率的双重突破,在全球同尺寸模型中登顶,全面超越了阿里 Qwen3.5-0.8B 与谷歌 Gemma4-E2B-it。Jinja00
MiniMax-M2.7MiniMax-M2.7 是我们首个深度参与自身进化过程的模型。M2.7 具备构建复杂智能体应用框架的能力,能够借助智能体团队、复杂技能以及动态工具搜索,完成高度精细的生产力任务。Python00
MusicFreeDesktop插件化、定制化、无广告的免费音乐播放器TypeScript00
热门内容推荐
最新内容推荐
项目优选
收起
暂无描述
Dockerfile
726
4.66 K
Ascend Extension for PyTorch
Python
598
750
旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
1.09 K
610
deepin linux kernel
C
29
16
Claude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed.
Get Started
Rust
1 K
138
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
427
377
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
992
986
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
1.65 K
970
暂无简介
Dart
969
246
昇腾LLM分布式训练框架
Python
162
190