Bedrock Access Gateway 配置与使用指南

项目概述

Bedrock Access Gateway 是一个由 AWS Samples 提供的开源项目，旨在提供一个与 OpenAI 兼容的RESTful API层，使得开发者无需修改现有代码即可接入 Amazon Bedrock 大型语言模型。这为希望从 OpenAI 迁移至 Amazon Bedrock 平台的开发团队提供了一个便捷的过渡方案。

目录结构及介绍

aws-samples/bedrock-access-gateway
├── assets                   # 静态资源文件夹
├── deployment               # 部署相关脚本与配置
│   ├── cloudformation       # CloudFormation 模板文件
│   └── scripts              # 部署辅助脚本
├── docs                     # 文档资料
├── flake8                   # 代码风格检查配置
├── gitignore                # Git 忽略文件配置
├── CODE_OF_CONDUCT.md       # 行为准则
├── CONTRIBUTING.md          # 贡献指南
├── LICENSE                  # 许可证文件，采用 MIT-0 协议
├── README.md                # 主要的项目说明文件
├── README_CN.md             # 中文版本的项目说明文件
└── src                      # 核心源码目录
    ├── handlers              # API处理逻辑
    ├── app.py                # 应用主入口文件
    ├── requirements.txt      # Python依赖文件列表
    └── ...                   # 其他必要的代码文件

• assets: 存放部署过程中可能需要的静态资产。
• deployment: 包含了CloudFormation模板和其他部署脚本，用于一键部署至AWS环境。
• docs: 项目相关的文档资料，有助于理解项目架构和使用方法。
• src: 核心代码所在目录，app.py是主要的程序入口点，handlers中定义了具体的API处理逻辑。

项目启动文件介绍

• 主要启动文件: src/app.py 这个文件定义了应用程序的起点，它初始化API服务，并配置路由来响应客户端请求。利用Flask或其他轻量级Web框架，app.py集成处理床岩模型请求的逻辑，确保能够接收OpenAI风格的API调用并转发给Amazon Bedrock服务。

项目配置文件介绍

配置主要分散在几个地方，特别是在部署阶段通过环境变量和CloudFormation参数进行：

1. 环境变量: 如Lambda环境中设置的DEFAULT_MODEL，用于指定默认的Bedrock模型ID。
2. CloudFormation参数: 在部署时，如ApiKeyParam允许用户自定义API Key，这是访问代理API的一个安全凭证。
3. Systems Manager Parameter Store: 可选地，用户可以在其中存储自定义API Key，增加安全性，例如BedrockProxyAPIKey。

具体到源代码级别的配置，虽然不像传统意义上有一个独立的配置文件，但通过Python代码中的常量定义或依赖注入的方式来进行配置，这些常量和参数的设定决定了服务的行为和连接到Amazon Bedrock的具体模型细节。

请注意，在实际部署和使用过程中，还需要配置AWS的服务权限，确保Lambda函数或者其他运行环境有访问Amazon Bedrock的权限。详细的部署步骤和配置建议参考项目中的deployment目录下的文档和示例脚本。