首页
/ 【亲测免费】 聊天中文语料库对比

【亲测免费】 聊天中文语料库对比

2026-01-21 04:22:44作者:秋泉律Samson

本仓库提供了一个综合性的聊天中文语料库资源,包含了多个公开的中文聊天语料库。这些语料库经过统一化规整和处理,可以直接用于自然语言处理(NLP)项目,特别是聊天机器人和对话系统的开发。

语料库列表

本仓库包含了以下8个常见的中文聊天语料库:

  1. chatterbot
  2. 豆瓣多轮
  3. PTT八卦语料
  4. 青云语料
  5. 电视剧对白语料
  6. 贴吧论坛回帖语料
  7. 微博语料
  8. 小黄鸡语料

每个语料库都经过繁体字转换和格式统一处理,确保可以直接用于各种NLP任务。

使用方法

  1. 下载语料库:所有语料库已经统一打包,可以直接下载使用。
  2. 解压文件:将下载的文件解压到指定目录。
  3. 处理语料库:使用提供的Python脚本对语料库进行进一步处理,生成可用的TSV格式文件。

环境要求

  • Python 3

处理过程

  1. 提取各个来源的语料库。
  2. 进行繁体字转换。
  3. 统一格式为一轮一轮的对话。

生成结果

每个语料库将生成一个独立的TSV文件,包含查询(query)和回答(answer)。

结果的使用

生成的语料库文件可以根据个人需求进行进一步处理和使用,适用于各种聊天机器人和对话系统的开发。

版权说明

本项目为非商业项目,旨在搜集和汇总资料。如有侵权,请在issue下留言。


通过本仓库,您可以方便地获取和处理多个中文聊天语料库,加速您的NLP项目开发。

登录后查看全文

项目优选

收起
kernelkernel
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
511
551
docsdocs
暂无描述
Markdown
854
5.69 K
ops-transformerops-transformer
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。
C++
1.05 K
2.5 K
kernelkernel
deepin linux kernel
C
33
16
pytorchpytorch
作为 Ascend for PyTorch 社区的核心组件,TorchNPU 是昇腾专为 PyTorch 打造的深度学习适配插件,使 PyTorch 框架能够直接调用昇腾 NPU,为开发者提供昇腾 AI 处理器的超强算力。
Python
840
1.28 K
ops-nnops-nn
本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
C++
848
1.71 K
ops-mathops-math
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
1.25 K
1.38 K
jiuwenswarmjiuwenswarm
JiuwenSwarm 是一款基于openJiuwen开发的智能AI Agent,它能够将大语言模型的强大能力,通过你日常使用的各类通讯应用,直接延伸至你的指尖。
Python
3.34 K
859
AscendNPU-IRAscendNPU-IR
AscendNPU-IR是基于MLIR(Multi-Level Intermediate Representation)构建的,面向昇腾亲和算子编译时使用的中间表示,提供昇腾完备表达能力,通过编译优化提升昇腾AI处理器计算效率,支持通过生态框架使能昇腾AI处理器与深度调优
C++
511
347
cann-learning-hubcann-learning-hub
CANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。
Jupyter Notebook
789
414