文心一言-千帆大模型平台
  1. 应用创建
文心一言-千帆大模型平台
  • 体验中心
  • 常见问题
  • 大模型技术测试服务协议
  • 账号与权限管理
    • 账号创建与权限分配
    • 通过子账户隔离实现账单隔离
  • 产品简介
    • 什么是百度智能云千帆大模型平台
    • 百度智能云千帆大模型平台产品优势
    • 百度智能云千帆大模型平台常用概念
  • 新手指南
    • SFT调优快速手册
    • SFT最佳实践
    • 平台使用快速开始
    • 导入并部署第三方模型
      • 快速导入并部署第三方模型
      • SQLCoder自定义模型导入·详细操作
  • 模型广场
    • 查看与管理预置模型
    • 预置调用免费模型列表
  • 我的模型
    • 创建我的模型
    • 查看与管理我的模型
  • Prompt 工程
    • 什么 Prompt 工程
    • Prompt 模板
    • Prompt 优化
    • Prompt 工程使用技巧
      • Prompt 的使用技巧
      • 基础的 Basic Prompt Framework
      • 丰富的 CRISPE Prompt Framework
      • 轻量化的 Few-shot Prompt
  • 模型服务
    • 应用接入
    • 在线服务
    • 调用统计
  • 模型调优
    • 模型精调
      • Post-pretrain
        • 什么是 Post-pretrain
        • 创建 Post-pretrain 任务
        • 查看与管理 Post-pretrain
      • SFT
        • 创建 SFT 任务
        • 查看与管理 SFT 运行
      • RLHF
        • 什么是 RLHF 训练
        • 创建奖励模型训练任务
        • 查看与管理奖励模型训练运行
        • 创建强化学习训练任务
        • 查看与管理强化学习训练运行
    • 模型评估
      • 创建模型评估任务
      • 查看与管理模型评估任务
    • 模型压缩
      • 创建模型压缩任务
      • 查看模型压缩任务
  • 数据管理
    • 数据回流
    • 数据集对应关系说明
    • 数据集管理
      • 创建数据集
      • 数据分析
      • 导入文本对话数据
      • 导入泛文本无标注数据
      • 导入 query 问题集数据
      • 导入文生图数据
      • 管理数据集版本
      • 导出数据
      • 数据集的其他操作
    • 数据标注
      • 在线标注
      • 众测标注
    • 数据处理
      • 数据清洗
      • 数据增强
    • 知识库
      • 什么是千帆大模型知识库
      • 知识库管理
      • 命中测试
  • 系统配置
    • 计算资源
    • 计费管理
    • 插件编排
      • 什么是插件应用
      • 插件编排使用说明
      • 应用创建
        • 对话场景类应用
        • 生成场景类应用
      • 插件
        • 插件列表
        • 自定义插件
        • 插件开发者文档
  • API 鉴权及调用
    • API 介绍
    • API 列表
    • API 调用指南
      • API 调用流程
      • 错误码
      • API 在线调试
    • 鉴权认证
      • 鉴权介绍
      • 使用网页调试工具获取 access_token
      • 获取 access_token
    • 对话 Chat
      • Llama-2
        • Llama-2-7b-chat
        • Llama-2-13b-chat
        • Llama-2-70b-chat
      • ERNIE-Bot 4.0
      • ERNIE-Bot
      • ERNIE-Bot-turbo
      • BLOOMZ-7B
      • Qianfan-BLOOMZ-7B-compressed
      • Mistral-7B-Instruct
      • Qianfan-Chinese-Llama-2-7B
      • Qianfan-Chinese-Llama-2-13B
      • Linly-Chinese-LLaMA-2-7B
      • Linly-Chinese-LLaMA-2-13B
      • ChatGLM2-6B
      • ChatGLM2-6B-32K
      • ChatGLM2-6B-INT4
      • Baichuan2-13B-Chat
      • XVERSE-13B-Chat
      • Falcon-7B
      • Falcon-40B-Instruct
      • AquilaChat-7B
      • RWKV-4-World
      • RWKV-4-pile-14B
      • RWKV-Raven-14B
      • OpenLLaMA-7B
      • Dolly-12B
      • MPT-7B-Instruct
      • MPT-30B-instruct
      • OA-Pythia-12B-SFT-4
      • Falcon-180B-Chat
      • RWKV-5-World
      • Flan-UL2
    • 续写 Completions
      • SQLCoder-7B
      • CodeLlama-7b-Instruct
      • AquilaCode-multi
      • Cerebras-GPT-13B
      • Pythia-12B
      • GPT-J-6B
      • GPT-NeoX-20B
      • GPT4All-J
      • StarCoder
      • StableLM-Alpha -7B
      • Pythia-6.9B
      • Cerebras-GPT-6.7B
    • 向量 Embeddings
      • Embedding-V1
      • bge-large-zh
      • bge-large-en
    • 图像 Images
      • Stable-Diffusion-XL
    • 自定义模型调用 API
      • 自定义模型调用 API
      • 续写模式
    • 模型服务
      • 创建服务
      • 查询服务详情
    • 模型管理
      • 获取模型版本详情
      • 获取模型详情
      • 训练任务发布为模型
    • 模型调优
      • 创建训练任务
      • 创建任务运行
      • 获取任务运行详情
      • 停止任务运行
    • 数据管理
      • 创建数据集
      • 发起数据集发布任务
      • 发起数据集导入任务
      • 获取数据集详情
      • 获取数据集状态详情
      • 发起数据集导出任务
      • 删除数据集
      • 获取数据集导出记录
      • 获取数据集导入错误详情
    • Prompt 工程
      • Prompt 模板
    • 插件应用
      • 知识库
      • 智慧图问
      • 天气
  • SDK 参考
    • 千帆 SDK 介绍
    • SDK 安装及使用流程
    • 对话 Chat
    • 续写 Completions
    • 向量 Embeddings
    • 模型服务
      • 创建服务
      • 查询服务详情
    • 模型管理
      • 获取模型详情
      • 获取模型版本详情
      • 训练任务发布为模型
    • 模型调优
      • 创建训练任务
      • 创建任务运行
      • 获取任务运行详情
      • 停止任务运行
    • 数据管理
      • 创建数据集
      • 发起数据集发布任务
      • 发起数据集导入任务
      • 获取数据集详情
      • 获取数据集状态详情
      • 发起数据集导出任务
      • 删除数据集
      • 获取数据集导出记录
      • 获取数据集导入错误详情
    • 插件应用
      • 知识库
      • 智能图问
      • 天气
  • 价格说明
    • 千帆大模型平台价格文档
  1. 应用创建

生成场景类应用

创建插件应用服务#

您需要在插件编排界面,选择“配置插件应用”按钮。
首先需要您选择插件服务的场景类型:
生成类场景:生成长内容、文章、摘要等;
最后需要您按下图流程定义插件应用的名称及描述。
image.png

配置插件应用服务#

在创建完插件应用服务后,您可以在服务列表中进行查看,服务状态为“编辑中”。
选择操作列的“配置”按钮,进行插件应用的配置。
image.png

1.模型及参数#

在配置页右侧进行模型及参数的配置。当前支持预置服务ERNIE-Bot和ERNIE-Bot-turbo服务进行温度、多样性和重复惩罚的参数调整;基础模型为BLOOMZ-7B的服务当前仅支持单轮对话。
image.png
选择已发布的在线服务和应用,服务创建可参考在线服务使用说明,应用创建可参考应用接入使用说明。其中,选择服务既可选择平台预置的服务也可以选择自建的服务,需要注意选择的服务需已添加至选择的应用当中。
温度:较高的数值会使输出更加随机,而较低的数值会使其更加集中和确定。
多样性:控制⽣成⽂本的多样性,取值越大,生成文本的多样性越强。
重复惩罚:⽤于抑制重复的⽣成内容,对已生成的token增加惩罚,取值越大,重复生成的现象越小。

2.提示词#

提示词用于对AI的回复做出一系列指令和约束。
可插入表单变量,例如{input}。这段提示词不会被最终用户所看到,变量将以表单形式让用户在对话前填写,用户填写的表单内容将自动替换提示词中的变量。
image.png
提示词的来源可以直接引用平台Prompt模板,支持引用预置和创建的prompt模板。

3.知识库#

在插件编排中可以选择关联知识库,结果返回知识库知识。
image.png
知识库的来源为平台已经创建的知识库内容,如果您之前未创建相关支持库,可以参考知识库使用说明文档内容,直接创建知识库。
插件上线后,调用知识库应答的计费内容可查看价格文档中的示例3。

4.安装插件#

所有配置工作完成后,您可以在对话框选择安装插件,在线测试插件应用的对答能力,当前安装插件个数不超过3个(知识库除外)。
如果您已经关联了知识库,则默认安装知识库插件。
知识库插件和chatfile插件支持测试框的文档上传。
image.png
同时,您也可以选择安装自定义的插件,关于更多插件的介绍说明可移步至插件列表或自定义插件。
特别注意:域内知识搜索增强将停止维护,卸载后将下线该插件,请在卸载前确认已将知识转移到知识库产品内。
指定知识库回答问题:插件关联知识库后,如果使用“/”指定知识库,将会根据用户问题去知识库中检索相关段落,召回后让大模型去总结答案。
不指定知识库回答问题:插件关联知识库后,如果没有用“/”指定知识库,会先根据知识库描述以及问题意图识别判断是否需要使用知识库回答问题,如果不使用知识库,则直接使用EB回答问题;插件判断是否需要使用知识库的凭据是 知识库的描述信息,建议使用中文,尽可能全面的描述文档内容。

5.调试信息#

插件服务支持在生成测试中展示调试记录,展示在进行应用配置时对于配置效果的每一步执行效果。通过调试记录,你可以清晰了解当前配置是否起作用以及是否为最优配置, 以便为您做最直观的配置成果反馈。
如下所示,对话提交后则会在对话框右侧生成调试信息。
image.png
Thinking
包括以下的执行参数返回:
image.png
Plugin
包括以下的执行参数返回:
image.png
LLM
包括以下的执行参数返回:
image.png
上一页
对话场景类应用
下一页
插件列表
Built with