EvoTorch：开源进化计算库，助力高效优化与学习

2024-09-08 02:02:16作者：廉彬冶Miranda

项目介绍

EvoTorch 是一个由 NNAISENSE 开发的开源进化计算库，基于强大的 PyTorch 框架构建。EvoTorch 旨在为各种优化问题提供高效的解决方案，无论是可微分问题（如梯度下降）还是非可微分问题。通过丰富的算法库和强大的并行计算能力，EvoTorch 能够显著加速优化过程，适用于从黑箱优化到强化学习和监督学习的多种任务。

项目技术分析

EvoTorch 的核心优势在于其基于 PyTorch 的实现，充分利用了 PyTorch 的向量化和并行化能力，特别是在 GPU 上的加速效果显著。此外，EvoTorch 集成了多种进化计算算法，包括分布式搜索算法（如 PGPE、XNES、CMA-ES、SNES、CEM）和群体搜索算法（如 GeneticAlgorithm、CoSyNE、MAPElites）。通过与 Ray 的集成，EvoTorch 能够进一步扩展其计算能力，支持跨多 CPU、多 GPU 以及多计算机集群的分布式计算。

项目及技术应用场景

EvoTorch 的应用场景非常广泛，主要包括：

黑箱优化问题：适用于连续或离散的优化问题，无需目标函数的梯度信息。
强化学习任务：通过进化算法优化策略网络，适用于各种强化学习环境。
监督学习任务：利用进化算法优化模型参数，适用于各种监督学习任务。

项目特点

强大的算法库：EvoTorch 提供了多种进化计算算法，涵盖了从分布式搜索到群体搜索的广泛领域。
高效的并行计算：基于 PyTorch 和 Ray，EvoTorch 能够充分利用 GPU 和分布式计算资源，显著提升优化效率。
灵活的接口：EvoTorch 提供了简洁易用的 API，支持自定义目标函数和优化任务。
丰富的文档和社区支持：EvoTorch 提供了详细的文档和Slack 社区，方便用户学习和交流。

快速开始

通过以下命令即可安装 EvoTorch：

pip install evotorch

以下是一个简单的黑箱优化示例，展示了如何使用 EvoTorch 解决经典的 Rastrigin 问题：

from evotorch import Problem
from evotorch.algorithms import SNES
from evotorch.logging import StdOutLogger, PandasLogger
import math
import matplotlib.pyplot as plt
import torch

# 定义目标函数
def rastrigin(x: torch.Tensor) -> torch.Tensor:
    A = 10
    (_, n) = x.shape
    return A * n + torch.sum((x**2) - A * torch.cos(2 * math.pi * x), 1)

# 定义问题
problem = Problem(
    "min",
    rastrigin,
    initial_bounds=(-5.12, 5.12),
    solution_length=100,
    vectorized=True,
    # device="cuda:0"  # 启用此行以使用 GPU
)

# 初始化 SNES 算法
searcher = SNES(problem, popsize=1000, stdev_init=10.0)

# 初始化标准输出日志和 Pandas 日志
_ = StdOutLogger(searcher, interval=10)
pandas_logger = PandasLogger(searcher)

# 运行 SNES 算法
searcher.run(2000)

# 获取进化过程数据并绘图
pandas_frame = pandas_logger.to_dataframe()
pandas_frame["best_eval"].plot()
plt.show()

引用

如果您在研究中使用了 EvoTorch，请考虑引用我们的论文：

@article{evotorch2023arxiv,
  title={{EvoTorch}: Scalable Evolutionary Computation in {Python}},
  author={Toklu, Nihat Engin and Atkinson, Timothy and Micka, Vojt\v{e}ch and Liskowski, Pawe\l{} and Srivastava, Rupesh Kumar},
  journal={arXiv preprint},
  year={2023},
  note={https://arxiv.org/abs/2302.12600}
}