平台使用快速开始
前提条件
要使用百度千帆大模型平台,首先需要注册成为百度智能云用户。
首先让我们用5分钟来注册百度智能云账号(如您已经是开发者,可直接登录使用)。
流程说明
千帆大模型平台覆盖从数据管理、数据标注、模型开发、模型纳管、部署上线的AI能力研发与应用全生命周期建设和管理。接入文心大模型算法和开放第三方业内知名的模型算法,降低全流程AI开发门槛。
平台支持SFT,准备内容可参考SFT快速调优。
实现步骤
在您完成注册后,可以登录到千帆大模型操作台,只要以下6个步骤即可快速完成大模型定制及测试效果的全过程。
数据导入-> 数据标注-> 训练配置-> 模型纳管-> 发布服务-> 体验测试
Step1:数据导入
- 需要您在左侧功能栏选择“数据管理 > 数据集管理”,进入数据总览界面,选择创建数据集。
- 进入“创建数据集”界面,填写数据集名称后,标注类型选择文本对话-非排序类型,选择平台存储,“创建并导入”。
3.在导入配置中,按实际需求填写导入方式以及对应的格式或路径,上传无标注文件或者链接内容等,确认即可。
**更多操作,可见数据服务使用说明**。
Step2:数据标注
在数据集列表中,找到以上创建的数据集,点击操作列的“标注”按钮。当光标移动至回答框,会有“自动生成”按钮,回答支持调用平台的LLM模型为问题生成对应回答,可在左上角切换模型。
- 您可以选择自动生成回答或手动生成回答,回答生成后“保存标注”即可。
- 标注好的文本数据,将会在“有标注信息”页签下展示。
**更多操作,可见在线标注使用说明**。
Step3:训练配置
- 需要您在左侧功能栏中选择“模型精调 > SFT”中创建调优任务,进入模型准备界面,按实际情况进行模型选择、模型名称、所属行业、应用场景和业务描述的选择或填写。
- 点击“创建并训练”,继续完善调优任务,调整训练配置及参数(BLOOMZ-7B为例),不开启增量训练。
- 选择Step1中创建的数据集进行导入,并填入数据拆分比例。
4.以上步骤都完成后,点击“确定”按钮,即可进入自定义模型的训练,当任务详情中的模型运行显示“运行完成”,则表示模型训练成功。
**更多操作,可见SFT任务使用说明**。
Step4:模型纳管
选择Step3运行中的“发布”,填写新模型发布相关内容,将模型纳入模型管理模块。
更多操作,可见本章模型管理内容。
Step5:发布服务
- 需要您在左侧功能栏中选择“模型服务 > 在线服务”,选择“创建服务”按钮,或者直接在Step4模型详情中的版本列表页,选择指定模型“部署”。
- 按照实际需要,进行服务配置和资源配置。
- 发布成功后,“模型服务 > 在线服务”中即可列表展示服务内容。
发布服务到私有资源池,通过API接口调用模型。更多操作,可见本章服务管理使用说明内容。
Step6:体验测试
在左侧功能列的体验中心,选择自训练模型和参数配置,进行在线测试。详细可见体验测试使用说明,参数配置列选择本服务。
如果需进行“应用创建”,可移步至应用接入。
最后修改时间: 1 年前