Qdrant客户端v1.13.0版本发布:本地推理与GPU加速能力升级
Qdrant是一个高性能的向量搜索引擎,其Python客户端库为开发者提供了便捷的API接口。最新发布的v1.13.0版本带来了一系列重要更新,特别是在本地推理支持和GPU加速方面有了显著提升。
核心功能增强
原生支持本地推理
本次更新最引人注目的特性是本地推理能力的全面支持。现在开发者可以直接向upsert、query_points等方法传递原始数据(如文本和图像),而不再需要预先处理成向量形式。这一改进极大地简化了工作流程,使得:
- 文本数据处理更加直观,可以直接传入字符串而无需先转换为嵌入向量
- 图像处理流程简化,支持直接传入图像数据
- 降低了使用门槛,开发者可以更专注于业务逻辑而非数据预处理
GPU加速支持扩展
新版本改进了对GPU选项的传递机制,确保fastembed模型能够充分利用GPU资源。这一优化特别有利于:
- 大规模向量计算的性能提升
- 需要实时处理的应用场景
- 计算密集型任务的执行效率
兼容性与架构改进
Python 3.13支持与3.8弃用
随着Python生态的发展,本次更新正式添加了对Python 3.13的支持,同时宣布弃用Python 3.8。这一变化反映了:
- 保持与最新Python特性的兼容性
- 遵循Python社区的维护周期
- 鼓励用户升级到更现代的Python版本
客户端版本感知机制
新增的客户端版本上报功能使Qdrant服务器能够识别连接的客户端版本,这为:
- 更好的兼容性管理奠定了基础
- 未来可能的版本特定优化提供了可能
- 问题诊断提供了更多上下文信息
性能与稳定性优化
多进程代码改进
对upload_collection和upload_points方法中的多进程代码进行了彻底清理,解决了资源释放问题,提高了:
- 大规模数据上传的稳定性
- 长时间运行任务的可靠性
- 系统资源的利用率
gRPC超时设置
新增了默认的gRPC超时设置,防止网络问题导致的长时间阻塞,增强了:
- 客户端在异常情况下的响应性
- 系统整体的健壮性
- 用户体验的一致性
API演进与最佳实践
统一查询接口
新版本强化了query_points方法作为统一查询入口的地位,并对旧的搜索方法(如search、recommend、discover等)添加了弃用警告。这引导开发者:
- 采用更一致的API使用模式
- 为未来的API简化做准备
- 提高代码的可维护性
同步/异步接口分离
明确分离了同步客户端中的原始异步gRPC方法,使接口设计更加清晰,避免了潜在的误用情况。
开发者体验提升
警告系统增强
大幅改进了警告覆盖范围,帮助开发者:
- 更早发现潜在问题
- 理解API的最佳使用方式
- 为未来的变更做好准备
URL解析修复
解决了带有前缀的URL解析问题,提高了连接配置的灵活性。
总结
Qdrant客户端v1.13.0版本通过引入本地推理支持、增强GPU加速能力以及多项稳定性改进,显著提升了开发者的使用体验。这些变化不仅简化了常见工作流程,还为处理更大规模、更复杂的向量搜索场景提供了更好的基础。建议用户尽快升级以利用这些新特性,特别是在涉及原始数据处理或需要GPU加速的场景中。
AutoGLM-Phone-9BAutoGLM-Phone-9B是基于AutoGLM构建的移动智能助手框架,依托多模态感知理解手机屏幕并执行自动化操作。Jinja00
Kimi-K2-ThinkingKimi K2 Thinking 是最新、性能最强的开源思维模型。从 Kimi K2 开始,我们将其打造为能够逐步推理并动态调用工具的思维智能体。通过显著提升多步推理深度,并在 200–300 次连续调用中保持稳定的工具使用能力,它在 Humanity's Last Exam (HLE)、BrowseComp 等基准测试中树立了新的技术标杆。同时,K2 Thinking 是原生 INT4 量化模型,具备 256k 上下文窗口,实现了推理延迟和 GPU 内存占用的无损降低。Python00
GLM-4.6V-FP8GLM-4.6V-FP8是GLM-V系列开源模型,支持128K上下文窗口,融合原生多模态函数调用能力,实现从视觉感知到执行的闭环。具备文档理解、图文生成、前端重构等功能,适用于云集群与本地部署,在同类参数规模中视觉理解性能领先。Jinja00
HunyuanOCRHunyuanOCR 是基于混元原生多模态架构打造的领先端到端 OCR 专家级视觉语言模型。它采用仅 10 亿参数的轻量化设计,在业界多项基准测试中取得了当前最佳性能。该模型不仅精通复杂多语言文档解析,还在文本检测与识别、开放域信息抽取、视频字幕提取及图片翻译等实际应用场景中表现卓越。00
GLM-ASR-Nano-2512GLM-ASR-Nano-2512 是一款稳健的开源语音识别模型,参数规模为 15 亿。该模型专为应对真实场景的复杂性而设计,在保持紧凑体量的同时,多项基准测试表现优于 OpenAI Whisper V3。Python00
GLM-TTSGLM-TTS 是一款基于大语言模型的高质量文本转语音(TTS)合成系统,支持零样本语音克隆和流式推理。该系统采用两阶段架构,结合了用于语音 token 生成的大语言模型(LLM)和用于波形合成的流匹配(Flow Matching)模型。 通过引入多奖励强化学习框架,GLM-TTS 显著提升了合成语音的表现力,相比传统 TTS 系统实现了更自然的情感控制。Python00
Spark-Formalizer-X1-7BSpark-Formalizer 是由科大讯飞团队开发的专用大型语言模型,专注于数学自动形式化任务。该模型擅长将自然语言数学问题转化为精确的 Lean4 形式化语句,在形式化语句生成方面达到了业界领先水平。Python00