首页
/ Apache Druid 30.0.0版本中MV_CONTAINS函数空指针异常问题解析

Apache Druid 30.0.0版本中MV_CONTAINS函数空指针异常问题解析

2025-05-17 16:16:14作者:霍妲思

问题背景

在Apache Druid 30.0.0版本升级过程中,用户发现原本在29.0.0版本中正常工作的MV_CONTAINS函数开始出现NullPointerException异常。该问题在使用JSON_QUERY_ARRAY函数提取嵌套JSON数组并与MV_CONTAINS函数结合使用时尤为明显。

技术分析

根本原因

该问题的根源在于Druid 30.0.0对ARRAY_CONTAINS表达式(同时支持ARRAY_CONTAINS和MV_CONTAINS SQL函数)的优化处理。当处理复杂类型时,特别是与JSON_QUERY_ARRAY函数结合使用时,类型推断逻辑存在缺陷。

具体来说,JSON_QUERY_ARRAY函数提取的数组元素类型被标记为COMPLEX,而优化路径尝试将右侧参数强制转换为数组元素类型时,由于类型不匹配导致空指针异常。

解决方案对比

  1. 临时解决方案:修改查询语句,使用更优化的ARRAY_CONTAINS和JSON_VALUE组合:
SELECT
  ARRAY_CONTAINS(JSON_VALUE(agent, '$.type' RETURNING VARCHAR ARRAY), 'Browser')
FROM "kttm_nested_1"
  1. 永久修复方案:修改Function.java中的类型检查逻辑,确保在遇到非原始类型或非原始类型数组时跳过优化路径:
if (lhsType == null || !(lhsType.isPrimitive() || lhsType.isPrimitiveArray())) {
  return this;
}

最佳实践建议

  1. 函数选择:对于JSON数组操作,优先使用ARRAY_系列函数而非MV_系列函数。MV_函数主要针对Druid早期的多值字符串列设计。

  2. JSON处理优化:尽可能使用JSON_VALUE而非JSON_QUERY/JSON_QUERY_ARRAY,因为前者可以利用Druid 28+版本中对嵌套数组的特殊优化存储格式。

  3. 版本兼容性:注意Druid 28+版本对嵌套数组存储格式的改进,旧版本创建的段可能需要回退到原始JSON处理方式。

影响范围

该问题不仅影响MV_CONTAINS函数,同样会影响array_overlap函数,因为它们共享相似的优化路径。开发团队需要对相关函数进行统一修复。

总结

这次版本升级暴露出的问题提醒我们,在使用复杂类型处理函数时需要特别注意类型系统的隐式转换。Druid社区已经识别出问题根源并提出了修复方案,用户可以通过调整查询语句或等待官方补丁来解决此问题。对于性能敏感的场景,采用JSON_VALUE的优化路径是更推荐的做法。

登录后查看全文
热门项目推荐

热门内容推荐

项目优选

收起
docsdocs
OpenHarmony documentation | OpenHarmony开发者文档
Dockerfile
156
2 K
kernelkernel
deepin linux kernel
C
22
6
pytorchpytorch
Ascend Extension for PyTorch
Python
38
72
ops-mathops-math
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
519
50
RuoYi-Vue3RuoYi-Vue3
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
942
555
ohos_react_nativeohos_react_native
React Native鸿蒙化仓库
C++
195
279
openHiTLSopenHiTLS
旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
993
396
communitycommunity
本项目是CANN开源社区的核心管理仓库,包含社区的治理章程、治理组织、通用操作指引及流程规范等基础信息
359
12
openGauss-serveropenGauss-server
openGauss kernel ~ openGauss is an open source relational database management system
C++
146
191
金融AI编程实战金融AI编程实战
为非计算机科班出身 (例如财经类高校金融学院) 同学量身定制,新手友好,让学生以亲身实践开源开发的方式,学会使用计算机自动化自己的科研/创新工作。案例以量化投资为主线,涉及 Bash、Python、SQL、BI、AI 等全技术栈,培养面向未来的数智化人才 (如数据工程师、数据分析师、数据科学家、数据决策者、量化投资人)。
Python
75
71