开源项目安装与配置指南：simpleAI

1. 项目基础介绍

simpleAI 是一个开源项目，旨在提供一个自托管的 AI API，可以与开放的 AI 客户端兼容。该项目允许用户快速、轻松地实验不同的模型和方法，提供了一系列主要的大型语言模型（LLM）端点，如文本完成、聊天、编辑和嵌入等。

主要编程语言：Python

2. 关键技术和框架

• gRPC: 用于模型查询的远程过程调用框架，可以将 API 本身与模型推理分离，并支持多种语言。
• FastAPI: 用于构建 API 的现代、快速（高性能）的 Web 框架，具有 Python 3.6+ 类型提示。
• Uvicorn: ASGI 服务器，用于运行 FastAPI 应用。
• Swagger UI: 用于可视化 API 端点和交互式测试。

3. 安装和配置准备工作

在开始安装之前，请确保您的系统中已安装以下依赖：

• Python 3.9 或更高版本
• make
• poetry

如果尚未安装上述依赖，请按照以下步骤进行安装：

# 安装 Python 3.9 或更高版本
# 请参考官方 Python 安装指南

# 安装 make
sudo apt-get update
sudo apt-get install make

# 安装 poetry
curl -sSL https://raw.githubusercontent.com/python-poetry/poetry/master/get-poetry.py | python -

安装步骤

步骤 1：克隆项目仓库

首先，您需要从 GitHub 克隆项目仓库：

git clone https://github.com/lhenault/simpleAI.git
cd simpleAI

步骤 2：安装项目依赖

使用 poetry 安装项目依赖：

poetry install

步骤 3：初始化模型配置

在项目目录中，运行以下命令以创建模型配置文件 models.toml：

simple_ai init

按照提示填写相关信息。

步骤 4：启动服务

配置完成后，使用以下命令启动服务：

simple_ai serve

默认情况下，服务将运行在 http://127.0.0.1:8080。

步骤 5：测试服务

您可以使用 Web 浏览器访问 http://127.0.0.1:8080 来查看 Swagger UI 界面，并进行 API 测试。

以上是 simpleAI 项目的详细安装和配置指南。如果您遇到任何问题，请查阅项目文档或向项目维护者寻求帮助。