数据集对应关系说明

数据集类型与模型训练的对应关系

百度智能云千帆大模型平台支持在创建数据集时，导入不同标注类型的数据。

文本对话

非排序模版：单轮或多轮的文本对话数据，单个提问和回答一一对应，作为后续SFT、 prompt tuning以及delta tuning的训练输入。

含排序模版：单轮或多轮的文本对话数据，单个提问对应多个回答，需要对多个回答进行排序，作为后续奖励模型的训练输入。

泛文本无标注数据：特定行业方向/场景下的大规模无标注数据语料，作为后续post-pretrain的训练输入。

query问题集：单轮或多轮的提问语料数据，作为后续RLHF的训练输入。

文生图类型数据：特定行业需求下的输入相关propmpt，大模型自动返回图片格式数据。

具体对应关系可参考：

SFT匹配多轮对话-非排序类的数据集，操作内容可参考SFT的数据配置内容。

奖励模型训练匹配多轮对话-排序类的数据集，操作内容可参考奖励模型训练的数据配置内容。

强化学习训练匹配query问题集，操作内容可参考强化学习训练的数据配置内容。

文生图大模型训练匹配文生图类的数据集，操作内容可参考模型训练的数据配置内容。

示例样本中的单/多轮对话

平台支持下载示例样本完成后续模型训练，不同的样本示例可在文本数据和query问题集手册文档中进行下载。

什么是单轮对话

单轮对话和多轮对话是两种不同的对话形式，它们分别指的是在一次对话中只涉及一个问题和对应的回答，以及在一次对话中涉及多个问题和对应的回答。

在单轮对话中，通常只涉及一个核心问题，对话的双方只需要针对这个问题进行回答和交流，不需要对之前的回答进行进一步的追问或解释。这种对话形式通常适用于一些简单的交流场景，如咨询信息、请求服务等。

场景示例：简单问题咨询

提问：千帆大模型平台是哪个公司的开发的大模型平台？
回答：千帆大模型平台，是百度开发的企业级大模型生产平台。

什么是多轮对话

在多轮对话中，对话的双方需要在一系列问题中进行多次交流和回答，每次回答都可能引出下一个问题。这种对话形式通常适用于一些复杂的交流场景，如咨询专家意见、解决问题等。

场景示例：关联性问题咨询

提问：北京西站到丰台科技园（地铁站）该怎么走？
回答：推荐您搭乘北京地铁9号线（郭公庄方向），7站地后丰台科技园站下车即可。您也可以使用其他交通工具，如出租车、网约车等，根据交通状况和舒适度选择适合自己的方式。
提问：这是最省钱的路线吗？
回答：您可以选择骑乘共享单车，绿色出行。路途较远，请您注意骑乘安全。
提问：今天天气适合骑车过去吗？
回答：为您查询到今日北京市丰台区未来8小时内气温均值26摄氏度，降水概率百分之3%，体感温度良好，适合骑乘出行。

单轮对话示例

平台已接入不同类型的数据样本示例。

我们以有标注的非排序文本数据示例为例，向您展示单轮对话。

示例文件上传平台后的部分显示如下：

其中抽取部分示例内容：

prompt: 请根据下面的新闻生成摘要, 内容如下:新华社受权于18日全文播发修改后的《中华人民共和国立法法》，修改后的立法法分为“总则”“法律”“行政法规”“地方性法规、自治条例和单行条例、规章”“适用与备案审查”“附则”等6章，共计105条。
response: 修改后的立法法全文公布

prompt: 请根据下面的新闻生成摘要, 内容如下:一辆小轿车，一名女司机，竟造成9死24伤。日前，深圳市交警局对事故进行通报：从目前证据看，事故系司机超速行驶且操作不当导致。目前24名伤员已有6名治愈出院，其余正接受治疗，预计事故赔偿费或超一千万元。
response: 深圳机场9死24伤续：司机全责赔偿或超千万

以上两个对话均为一一对应的单轮对话内容，针对核心问题生成应答，不需要进行上下文进行追问和反馈，数据单轮对话样本。注意：单轮对话支持排序文本数据，详细导入操作可查看创建数据集相关内容。

多轮对话示例

我们以有标注的排序文本数据样例为例，向您展示多轮对话。

示例文件上传平台后的部分显示如下：

其中抽取部分示例内容：

prompt:生成一个关于人工智能的标题吧。
response1:好的，给您生成一些标题：1) 人工智能的未来与挑战； 2) 机器学习在现代生活中的应用； 3) 从AI发展历程看未来发展趋势。
response2:人工智能革命：如何加速AI发展并实现企业数字化转型

prompt:可以再给我一些具体的例子吗？
response1:当然可以，以下是几个例子：1) 人工智能如何助力人类健康； 2) 语音识别技术大盘点； 3) 深度学习在图像处理中的应用； 4) 基于人工智能的自动程序设计； 5) 人工智能时代的工作未来。
response2:当然可以，例如自然语言处理技术的应用、医疗领域的智能诊断、智能家居的智能化控制等等。这些都是人工智能在现实中的具体应用。

以上两个对话为联系上下文的多轮对话内容，如第二个“prompt”是基于第一个“prompt”衍生的迭代问题，应答（标注）则基于上文内容，给出关联性输出回应。注意：response1和2是基于本次排序类文本数据生成的排序应答，上传排序类数据集，每个问答对的response不得少于2个。

本章节使用案例为有标注信息样本内容，如您导入未标注信息数据，response即为您个人标注，您可至在线标注完成相关操作。操作步骤参考在线标注使用说明。

数据集类型与模型训练的对应关系#

示例样本中的单/多轮对话#

什么是单轮对话#

什么是多轮对话#

单轮对话示例#

多轮对话示例#