Supersonic项目中基于大模型的多数据集意图识别优化实践
2025-06-20 12:39:51作者:蔡怀权
在对话式数据分析系统中,用户自然语言查询的意图识别是核心挑战之一。当系统检测到多个相似数据集可能匹配用户查询时,传统规则引擎往往难以准确判断用户真实意图。腾讯音乐开源的Supersonic项目近期针对这一痛点进行了创新性改进,引入大模型技术优化多数据集选择逻辑,显著提升了意图识别的准确率。
背景与挑战
在Supersonic这类智能数据分析平台中,用户通过自然语言提出查询需求(如"查看上周销售额")时,系统需要完成两个关键步骤:
- 识别查询涉及的业务实体(如"销售额"指标)
- 定位包含该实体的具体数据集
当不同数据集包含同名指标时(如"销售额"可能同时存在于"电商销售表"和"线下零售表"),传统方案通常采用规则匹配:
- 基于数据集最近使用时间
- 根据数据集元数据匹配度
- 人工预设优先级
这些方法存在明显局限:无法理解查询的上下文语义,导致在复杂场景下准确率骤降。
技术方案演进
Supersonic项目提出了两种基于大模型的改进方案:
方案一:基于历史SQL的语义推理
系统会分析用户近期执行的SQL查询序列,提取其中的语义模式。当出现多数据集冲突时,将以下信息输入大模型:
- 当前查询的语义解析结果
- 候选数据集的结构元数据
- 用户历史查询的语义特征
大模型通过理解业务上下文(如用户近期一直在查询电商数据),可以更准确地推荐最相关数据集。
方案二:实时数据感知决策
在数据集选择阶段,系统会:
- 从候选数据集中采样典型数据
- 结合用户查询生成对比分析提示词
- 由大模型判断哪个数据集的数据分布更符合查询意图
该方案虽然更精准,但会带来额外的数据访问开销。
实现效果与启示
目前Supersonic优先实现了方案一,在实际业务场景中观察到:
- 多数据集冲突场景的准确率提升40%+
- 用户显式修正数据集的次数减少60%
- 系统响应时间增加约200ms(主要来自大模型推理)
技术方案选择建议:
- 对延迟敏感的场景可采用方案一
- 对准确率要求极高的场景可尝试方案二
- 可设计混合策略,根据冲突严重程度动态选择方案
未来方向
该实践为对话式BI系统提供了新思路:
- 上下文感知的意图识别架构
- 大模型与传统规则引擎的协同工作流
- 持续学习机制(根据用户反馈优化模型表现)
这种技术路径不仅适用于数据集选择场景,也可扩展至查询条件推导、可视化方案推荐等衍生场景,值得自然语言处理和数据系统领域的开发者持续关注。
登录后查看全文
热门项目推荐
相关项目推荐
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0155- DDeepSeek-V4-ProDeepSeek-V4-Pro(总参数 1.6 万亿,激活 49B)面向复杂推理和高级编程任务,在代码竞赛、数学推理、Agent 工作流等场景表现优异,性能接近国际前沿闭源模型。Python00
LongCat-Video-Avatar-1.5最新开源LongCat-Video-Avatar 1.5 版本,这是一款经过升级的开源框架,专注于音频驱动人物视频生成的极致实证优化与生产级就绪能力。该版本在 LongCat-Video 基础模型之上构建,可生成高度稳定的商用级虚拟人视频,支持音频-文本转视频(AT2V)、音频-文本-图像转视频(ATI2V)以及视频续播等原生任务,并能无缝兼容单流与多流音频输入。00
auto-devAutoDev 是一个 AI 驱动的辅助编程插件。AutoDev 支持一键生成测试、代码、提交信息等,还能够与您的需求管理系统(例如Jira、Trello、Github Issue 等)直接对接。 在IDE 中,您只需简单点击,AutoDev 会根据您的需求自动为您生成代码。Kotlin03
Intern-S2-PreviewIntern-S2-Preview,这是一款高效的350亿参数科学多模态基础模型。除了常规的参数与数据规模扩展外,Intern-S2-Preview探索了任务扩展:通过提升科学任务的难度、多样性与覆盖范围,进一步释放模型能力。Python00
skillhubopenJiuwen 生态的 Skill 托管与分发开源方案,支持自建与可选 ClawHub 兼容。Python0112
热门内容推荐
最新内容推荐
项目优选
收起
deepin linux kernel
C
31
16
暂无描述
Dockerfile
733
4.76 K
Claude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed.
Get Started
Rust
1.26 K
155
旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
1.1 K
612
Ascend Extension for PyTorch
Python
652
797
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
1.68 K
990
AI 将任意文档转换为精美可编辑的 PPTX 演示文稿 — 无需设计基础 | 包含 15 个案例、229 页内容
Python
147
10
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
1.01 K
1.01 K
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
434
395
暂无简介
Dart
987
253