c4-genai-suite 的项目扩展与二次开发

项目的基础介绍

c4-genai-suite 是一个基于现代技术栈构建的开源 AI 聊天机器人应用，它集成了模型上下文提供者（MCP）功能，并且兼容所有主流的大型语言模型（LLM）和嵌入模型。该项目允许管理员通过添加扩展来创建具有不同能力的助手，例如 RAG 服务或 MCP 服务器。用户可以通过友好的界面与助手互动，根据配置，用户可以提问、上传文件或使用其他功能。

项目的核心功能

• 支持多种语言模型：直接支持多种模型，若项目未直接支持用户偏好的模型，也可以轻松编写扩展来支持。
• RAG 功能：包括 REI-S 服务器，用于准备文件供 LLM 使用。
• 向量存储：支持 pgvector 和 Azure AI Search 等向量存储。
• 嵌入模型：支持 OpenAI 兼容、Azure OpenAI 和 Ollama 兼容的嵌入模型。
• 文件格式支持：支持处理 pdf、docx、pptx、xlsx 等文件格式，以及通过 Whisper 进行音频文件语音转录。

项目使用了哪些框架或库？

• 前端：使用 React 和 TypeScript 构建用户友好的界面。
• 后端：使用 NestJS 和 TypeScript 开发，作为主要的 API 层。
• REI-S 服务：基于 Python 的服务器，提供基础的 RAG 功能。

项目的代码目录及介绍

项目目录结构如下：

.
├── .github
├── .husky
├── .vscode
├── backend           # 后端代码目录
├── demo              # 示例代码目录
├── dev               # 开发相关目录
├── e2e               # 端到端测试代码目录
├── frontend          # 前端代码目录
├── helm-chart        # Helm 图表目录
├── scripts           # 脚本目录
├── services/reis     # REI-S 服务目录
├── └── ...           # 其他相关文件和目录

对项目进行扩展或者二次开发的方向

1. 增加新的模型支持：可以根据项目需求，集成更多的 LLM 或嵌入模型。
2. 扩展聊天功能：可以开发新的聊天功能，如自然语言处理、图像识别等。
3. 增强 REI-S 功能：可以优化 REI-S 服务器，提高文件处理和检索的效率。
4. 用户体验提升：前端界面可以进行美化，提升用户交互体验。
5. 安全性加强：加强用户数据的安全性和隐私保护，如添加加密功能。

通过以上方向的扩展和二次开发，c4-genai-suite 可以成为一个更加完善和强大的 AI 聊天机器人解决方案。