开源项目最佳实践：Lilypad

1. 项目介绍

Lilypad 是一个开源的LLM（Large Language Model）工程平台，旨在帮助开发者在构建包含大型语言模型的应用时，跟踪和优化非确定性代码。它通过记录所有输入/输出对以及产生它们的代码的确切版本，使得开发者能够持续评估和优化代码。Lilypad 目前处于beta阶段，但它已经提供了一个强大的框架，用于管理和优化LLM应用。

2. 项目快速启动

要开始使用Lilypad，请按照以下步骤操作：

首先，您需要在 Lilypad官网 创建一个账户，或者选择在本地运行Lilypad。

接下来，导航到您的组织设置，创建一个新项目，并为该项目生成一个API密钥。确保将您的 LILYPAD_PROJECT_ID 和 LILYPAD_API_KEY 保存在 .env 文件中。

然后，通过以下命令安装Lilypad：

uv add "lilypad-sdk[openai]"  # 指定您的提供商选择

安装完成后，您可以运行并跟踪您的第一个版本化函数。以下是一个示例代码：

import os
import lilypad
from openai import OpenAI

# 使用您的提供商选择
lilypad.configure(
    project_id=os.environ['LILYPAD_PROJECT_ID'],
    api_key=os.environ['LILYPAD_API_KEY'],
    auto_llm=True,
)

client = OpenAI(api_key=os.environ['OPENAI_API_KEY'])

@lilypad.trace(versioning='automatic')
# 自动版本化（非确定性）函数
def answer_question(question: str) -> str | None:
    completion = client.chat.completions.create(
        model='gpt-4o',
        messages=[
            {
                "role": "system",
                "content": "You are a helpful assistant."
            },
            {
                "role": "user",
                "content": f"Answer this question: {question}"
            },
        ],
    )
    return completion.choices[0].message.content

answer = answer_question("What is the capital of France?")
print(answer)  # 输出: The capital of France is Paris.

通过上述代码，您已经版本化并跟踪了您的第一个非确定性函数。

3. 应用案例和最佳实践

在开发过程中，以下是一些使用Lilypad的最佳实践：

• 持续记录：确保每次函数运行时，都记录下输入、输出和代码版本，以便于后续的调试和优化。
• 自动化版本控制：利用Lilypad的自动版本控制功能，简化非确定性函数的管理。
• 代码审查：在合并代码前，进行彻底的代码审查，确保代码质量和功能的正确性。

4. 典型生态项目

Lilypad 的生态系统包括但不限于以下项目：

• Lilypad SDK：用于与Lilypad平台交互的软件开发工具包。
• Lilypad Pro+：Lilypad的付费版本，提供了更多高级功能。
• Lilypad Cloud：Lilypad的云服务，允许开发者在云端运行和托管他们的LLM应用。

通过遵循这些最佳实践和利用Lilypad的强大功能，开发者可以有效地管理和优化他们的LLM应用。