用于汇总目前的开源中文对话数据集
基于提示的大规模预训练数据集,用于多任务学习和零样本学习,可调整为聊天数据
下载链接:https://github.com/CLUEbenchmark/pCLUE
语料库包含了来自6个领域的19.9K对话和400K话语,平均回合数为20.1。
引用论文:NaturalConv: A Chinese Dialogue Dataset Towards Multi-turn Topic-driven Conversation
下载链接:https://ai.tencent.com/ailab/nlp/dialogue/#datasets
下载脚本:https://github.com/naturalconv/NaturalConvDataSet
大规模的跨域Wizard-of-Oz面向任务的数据集。它包含6K对话会话和102K话语,涵盖5个领域,包括酒店、餐厅、景点、地铁和出租车。此外,该语料库还包含了丰富的对话状态注释,以及用户和系统两方面的对话行为。
引用论文:https://arxiv.org/pdf/2002.11893.pdf
下载链接:https://github.com/thu-coai/CrossWOZ
KdConv是一个中文多领域知识驱动会话数据集,将多回合会话中的话题建立在知识图的基础上。KdConv包含了来自三个领域(电影、音乐和旅行)的4.5K对话和86K话语,平均回合数为19.0。这些对话包含了对相关主题的深入讨论和多个主题之间的自然过渡,同时语料库也可以用于迁移学习和领域适应的探索。
引用论文:https://arxiv.org/pdf/2004.04100.pdf
下载链接:https://github.com/thu-coai/KdConv
开放领对话数据集,可以通过huggingface的datasets库加载
论文地址:A Large-Scale Chinese Short-Text Conversation Dataset
下载链接:https://github.com/thu-coai/CDial-GPT
豆瓣多轮对话
下载链接:https://github.com/MarkWuNLP/MultiTurnResponseSelection
中文医疗对话数据集由792099个问答对组成
下载链接:https://tianchi.aliyun.com/dataset/dataDetail?dataId=90163
论文引用:Modeling Multi-turn Conversation with Deep Utterance Aggregation
下载链接:https://github.com/cooelf/DeepUtteranceAggregation
下载链接:https://github.com/SimonJYang/JDDC-Baseline-Seq2Seq
本项目旨在统计目前的开源对话数据及下载地址,如侵权立删.