Azure搜索开放AI演示项目中的安全用户文档上传功能设计
2025-06-01 05:28:23作者:蔡怀权
背景与需求分析
在Azure搜索开放AI演示项目中,团队设计并实现了一个可选的安全用户文档上传功能。该功能允许经过身份验证的用户上传个人文档,并确保这些文档只能被上传者本人搜索查询,同时又能与系统通用文档一起被检索。
架构设计
项目采用了Azure DataLake Storage Gen2类型的Blob容器作为存储解决方案,主要基于其完善的访问控制列表(ACL)功能。为了实现这一架构:
- 在Bicep模板中创建了新的存储账户
- 设置了isHsnEnable参数
- 配置了相应的环境变量来管理账户名称和容器名称
前端实现
前端通过/config路由获取用户上传功能是否启用的配置信息。当同时满足以下条件时,前端会显示"上传文件"按钮:
- 用户上传功能已启用
- 系统启用了身份验证功能
上传按钮支持单文件上传,采用multipart/form-data格式通过POST请求将文件发送至后端的/upload路由。
后端处理
后端服务主要完成以下关键功能:
- 初始化DataLakeServiceClient客户端
- 处理/upload路由请求:
- 解析上传的文件内容
- 通过身份验证装饰器获取用户身份声明
- 检查并创建用户专属目录
- 设置目录ACL权限
- 上传文件并附加用户标识标签
文档处理函数
项目专门部署了一个Python函数来处理文档的自动处理流程:
- 使用Blob触发器监控存储变化
- 调用prepdocs库处理新上传的文档
- 根据函数环境变量配置进行处理
技术选型考量
团队在ADLS2和Blob存储之间进行了详细比较,最终选择ADLS2主要基于以下优势:
- 用户文件管理更简便,可直接删除整个用户目录
- 原生支持ACL,与其他ACL解决方案集成更顺畅
但同时也要注意ADLS2的一些限制,如功能支持差异和需要额外SDK等。
安全与权限设计
系统实现了精细化的权限控制:
- 为每个用户创建独立目录
- 设置严格的ACL权限
- 在Blob元数据中存储用户标识作为冗余验证
- 确保用户只能检索自己的文档
未来扩展考虑
虽然当前版本暂未实现用户删除功能,但团队已经考虑了多种扩展可能性:
- 可添加带确认和延迟期的安全删除功能
- 考虑使用Celery任务队列处理大文件上传
- 可能将prepdocs功能重构为独立PyPI包
该功能设计充分考虑了安全性、易用性和扩展性,为项目提供了灵活的用户文档管理能力。
登录后查看全文
热门项目推荐
相关项目推荐
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0207
cann-learning-hubCANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。Jupyter Notebook0133
MinerUA high-quality tool for convert PDF to Markdown and JSON.一站式开源高质量数据提取工具,将PDF转换成Markdown和JSON格式。Python08
JoyAI-EchoJoyAI-Echo,这是一个独立的、仅用于推理的版本,旨在实现分钟级多镜头音视频生成。它采用了经过蒸馏的DMD生成器、配对的跨模态记忆以及故事级别的一致性。其性能的核心在于,一个跨模态视听记忆库能够在长达五分钟的视频中保持角色外观和语音音色的一致性。同时,一个训练后处理流程将基于记忆的强化学习与分布匹配蒸馏相结合,实现了7.5倍的速度提升,显著增强了视觉质量和对齐效果。00
wgai开箱即用的JAVAAI在线训练识别平台&OCR平台AI合集包含旦不仅限于(车牌识别、安全帽识别、抽烟识别、常用类物识别等) 图片和视频识别,可自主训练任意场景融合了AI图像识别opencv、yolo、ocr、esayAI内核识别;AI智能客服、AI语言模型、 无任何第三方API接口可定制化自主离线化部署并自主化行业化使用避免占用内存、GPU消耗训练与识别分开使用;Java05
tiny-universe《大模型白盒子构建指南》:一个全手搓的Tiny-UniverseJupyter Notebook03
项目优选
收起
deepin linux kernel
C
32
16
暂无描述
Dockerfile
772
5.05 K
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。
C++
869
1.99 K
Ascend Extension for PyTorch
Python
748
931
本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
C++
694
1.37 K
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
468
461
本仓库是 Flutter SDK 与 Flutter Engine 的 OpenHarmony 适配版本,由 CPF-Flutter 团队维护。开发者可使用熟悉的 Flutter 技术栈开发 OpenHarmony 应用,3.35.7 及以后的适配版本可基于本仓库源码构建支持 OpenHarmony 的 Flutter Engine。
Dart
1.03 K
268
昇腾LLM分布式训练框架
Python
181
225
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
1.09 K
1.14 K
CANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。
Jupyter Notebook
363
132