PyTerrier 使用教程

1. 项目介绍

PyTerrier 是一个基于 Python 的信息检索实验框架，构建在 Terrier 信息检索平台之上。它提供了一个强大的 API，用于执行信息检索实验，支持多种检索方法和评估指标。PyTerrier 的主要功能包括索引创建、检索、评估和实验比较。

2. 项目快速启动

安装

首先，确保你已经安装了 Python 和 Java。然后，你可以通过 pip 安装 PyTerrier：

pip install python-terrier

创建索引

以下是一个简单的示例，展示如何从 TREC 格式的集合创建索引：

import pyterrier as pt

# 初始化 PyTerrier
pt.init()

# 创建索引
indexer = pt.TRECCollectionIndexer("./path/to/index")
index_ref = indexer.index("./path/to/collection")

检索和评估

接下来，你可以使用创建的索引进行检索，并评估检索结果：

# 读取查询和相关性评估文件
topics = pt.io.read_topics("./path/to/topics.txt")
qrels = pt.io.read_qrels("./path/to/qrels.txt")

# 创建检索器
BM25_r = pt.BatchRetrieve(index_ref, wmodel="BM25")

# 执行检索
res = BM25_r.transform(topics)

# 评估结果
pt.Utils.evaluate(res, qrels, metrics=['map'])

3. 应用案例和最佳实践

实验比较

PyTerrier 提供了一个 Experiment 函数，允许你在相同的查询和相关性评估上比较多种检索方法：

pt.Experiment([BM25_r, PL2_r], topics, qrels, ["map", "ndcg"])

复杂检索管道

PyTerrier 支持使用 Python 操作符（如 >>）来构建复杂的检索管道。例如，应用顺序依赖模型或查询扩展过程：

sdm_bm25 = pt.rewrite.SDM() >> pt.BatchRetrieve(index_ref, wmodel="BM25")
bo1_qe = BM25_r >> pt.rewrite.Bo1QueryExpansion() >> BM25_r

4. 典型生态项目

神经重排序和密集检索

PyTerrier 提供了多个插件，支持 BERT、T5、ColBERT、ANCE 等神经网络模型，用于密集检索和重排序。例如：

• PyTerrier_ANCE: 密集检索
• PyTerrier_ColBERT: 密集检索和神经重排序

学习排序

PyTerrier 支持构建复杂的学习排序管道，例如结合两个特征并将其用于学习：

two_features = BM25_r >> (pt.BatchRetrieve(index_ref, wmodel="DirichletLM") ** pt.BatchRetrieve(index_ref, wmodel="PL2"))

通过这些模块，你可以快速上手并深入使用 PyTerrier 进行信息检索实验和研究。