体验中心
千帆平台提供在线测试功能,可以让您在线检验平台创建模型的精确性和反应效果。
在线测试支持测试工作台选择服务和应用进行参数配置,输入或引用prompt模板进行输入,完成测试。
提示词(prompt)影响模型生成的内容质量,平台提供prompt模板创建说明,或直接安装服务模型插件使用说明供您选择。
登录到千帆大模型操作台,在左侧功能列选择体验中心,进入在线测试主任务界面。
体验中心工作台
体验工作台界面,在右侧完成基本的参数配置和选择prompt引用,查看整体的测试效果。首先在左上方选择您要体验的服务类型:
对话类模型类型
注意:同时在线测试的服务可以选择1~6个,每个选择的服务都必须要在接入到选择的应用中,且基础模型为BLOOMZ-7B的服务当前仅支持单轮对话。
输入框中可以直接输入问题内容,或者输入“/”号,直接引用prompt模版。
平台支持移动端进行在线测试啦,您可以工单申请,一起体验吧!
参数配置
当前支持预置服务ERNIE-Bot 4.0、ERNIE-Bot、ERNIE-Bot-turbo服务进行温度、多样性和重复惩罚的参数调整;基础模型为BLOOMZ-7B的服务当前仅支持单轮对话,且ERNIE-Bot 4.0支持人设配置。
您可以直接在工作台右侧调整参数,检验模型和应用的返回效果。
- 选择已发布的在线服务和应用,服务创建可参考在线服务使用说明,应用创建可参考应用接入使用说明。其中,可选择最多6个服务同时测试,且每项服务都已添加至选择的应用当中。
- 温度:较高的数值会使输出更加随机,而较低的数值会使其更加集中和确定。
- 多样性:控制⽣成⽂本的多样性,取值越大,生成文本的多样性越强。
- 重复惩罚:⽤于抑制重复的⽣成内容,对已生成的token增加惩罚,取值越大,重复生成的现象越小。
测试效果样例
特别注意:当您选择服务时,选择的为已发布的自建服务,此处的测试问答数据,可作为回流数据,保存到指定数据集版本被模型训练再次调用,详细操作步骤可参考数据回流使用说明。
文生图类模型类型
如图所示,可调用预置服务Stable-Diffusion-XL,或者调用已发布的文生图服务:
参数配置
支持您在选择服务和应用后,输入生成图片的内容prompt(正向)、不希望生成的内容。调整图片比例和生成的图片数量:
另外,还支持您进行高级配置,选择采样步数和采样方式(单选):
平台支持移动端进行在线测试啦,您可以工单申请,一起体验吧!
Prompt模板
您可以直接引用prompt模板,在线测试平台支持预置模板、自定义模板和我的收藏三种类型,检验模型和应用的效果。关于模版的创建,可参考Prompt模板创建。
如:检索需要引用的prompt模板,点击“引用”按钮,对于无变量设置的prompt模板,会直接输入,对于有变量设置的prompt模板需要输入变量才可进行验证,如下图所示:
如:对需要引用prompt模板设置快捷键,点击“快捷键”按钮,支持0-9的数字快捷键,重复输入时,旧快捷键将会被替换。在对话框引用(输入“/”)时,会有以下效果展示,直接输入快捷键数字即可完成引用:
部分或全部变量输出完成之后,点击“确定”即可引入模版至对话框。
**关于API调用内容可参考API参考**。