文心一言-千帆大模型平台
  1. Prompt 工程
文心一言-千帆大模型平台
  • 体验中心
  • 常见问题
  • 大模型技术测试服务协议
  • 账号与权限管理
    • 账号创建与权限分配
    • 通过子账户隔离实现账单隔离
  • 产品简介
    • 什么是百度智能云千帆大模型平台
    • 百度智能云千帆大模型平台产品优势
    • 百度智能云千帆大模型平台常用概念
  • 新手指南
    • SFT调优快速手册
    • SFT最佳实践
    • 平台使用快速开始
    • 导入并部署第三方模型
      • 快速导入并部署第三方模型
      • SQLCoder自定义模型导入·详细操作
  • 模型广场
    • 查看与管理预置模型
    • 预置调用免费模型列表
  • 我的模型
    • 创建我的模型
    • 查看与管理我的模型
  • Prompt 工程
    • 什么 Prompt 工程
    • Prompt 模板
    • Prompt 优化
    • Prompt 工程使用技巧
      • Prompt 的使用技巧
      • 基础的 Basic Prompt Framework
      • 丰富的 CRISPE Prompt Framework
      • 轻量化的 Few-shot Prompt
  • 模型服务
    • 应用接入
    • 在线服务
    • 调用统计
  • 模型调优
    • 模型精调
      • Post-pretrain
        • 什么是 Post-pretrain
        • 创建 Post-pretrain 任务
        • 查看与管理 Post-pretrain
      • SFT
        • 创建 SFT 任务
        • 查看与管理 SFT 运行
      • RLHF
        • 什么是 RLHF 训练
        • 创建奖励模型训练任务
        • 查看与管理奖励模型训练运行
        • 创建强化学习训练任务
        • 查看与管理强化学习训练运行
    • 模型评估
      • 创建模型评估任务
      • 查看与管理模型评估任务
    • 模型压缩
      • 创建模型压缩任务
      • 查看模型压缩任务
  • 数据管理
    • 数据回流
    • 数据集对应关系说明
    • 数据集管理
      • 创建数据集
      • 数据分析
      • 导入文本对话数据
      • 导入泛文本无标注数据
      • 导入 query 问题集数据
      • 导入文生图数据
      • 管理数据集版本
      • 导出数据
      • 数据集的其他操作
    • 数据标注
      • 在线标注
      • 众测标注
    • 数据处理
      • 数据清洗
      • 数据增强
    • 知识库
      • 什么是千帆大模型知识库
      • 知识库管理
      • 命中测试
  • 系统配置
    • 计算资源
    • 计费管理
    • 插件编排
      • 什么是插件应用
      • 插件编排使用说明
      • 应用创建
        • 对话场景类应用
        • 生成场景类应用
      • 插件
        • 插件列表
        • 自定义插件
        • 插件开发者文档
  • API 鉴权及调用
    • API 介绍
    • API 列表
    • API 调用指南
      • API 调用流程
      • 错误码
      • API 在线调试
    • 鉴权认证
      • 鉴权介绍
      • 使用网页调试工具获取 access_token
      • 获取 access_token
    • 对话 Chat
      • Llama-2
        • Llama-2-7b-chat
        • Llama-2-13b-chat
        • Llama-2-70b-chat
      • ERNIE-Bot 4.0
      • ERNIE-Bot
      • ERNIE-Bot-turbo
      • BLOOMZ-7B
      • Qianfan-BLOOMZ-7B-compressed
      • Mistral-7B-Instruct
      • Qianfan-Chinese-Llama-2-7B
      • Qianfan-Chinese-Llama-2-13B
      • Linly-Chinese-LLaMA-2-7B
      • Linly-Chinese-LLaMA-2-13B
      • ChatGLM2-6B
      • ChatGLM2-6B-32K
      • ChatGLM2-6B-INT4
      • Baichuan2-13B-Chat
      • XVERSE-13B-Chat
      • Falcon-7B
      • Falcon-40B-Instruct
      • AquilaChat-7B
      • RWKV-4-World
      • RWKV-4-pile-14B
      • RWKV-Raven-14B
      • OpenLLaMA-7B
      • Dolly-12B
      • MPT-7B-Instruct
      • MPT-30B-instruct
      • OA-Pythia-12B-SFT-4
      • Falcon-180B-Chat
      • RWKV-5-World
      • Flan-UL2
    • 续写 Completions
      • SQLCoder-7B
      • CodeLlama-7b-Instruct
      • AquilaCode-multi
      • Cerebras-GPT-13B
      • Pythia-12B
      • GPT-J-6B
      • GPT-NeoX-20B
      • GPT4All-J
      • StarCoder
      • StableLM-Alpha -7B
      • Pythia-6.9B
      • Cerebras-GPT-6.7B
    • 向量 Embeddings
      • Embedding-V1
      • bge-large-zh
      • bge-large-en
    • 图像 Images
      • Stable-Diffusion-XL
    • 自定义模型调用 API
      • 自定义模型调用 API
      • 续写模式
    • 模型服务
      • 创建服务
      • 查询服务详情
    • 模型管理
      • 获取模型版本详情
      • 获取模型详情
      • 训练任务发布为模型
    • 模型调优
      • 创建训练任务
      • 创建任务运行
      • 获取任务运行详情
      • 停止任务运行
    • 数据管理
      • 创建数据集
      • 发起数据集发布任务
      • 发起数据集导入任务
      • 获取数据集详情
      • 获取数据集状态详情
      • 发起数据集导出任务
      • 删除数据集
      • 获取数据集导出记录
      • 获取数据集导入错误详情
    • Prompt 工程
      • Prompt 模板
    • 插件应用
      • 知识库
      • 智慧图问
      • 天气
  • SDK 参考
    • 千帆 SDK 介绍
    • SDK 安装及使用流程
    • 对话 Chat
    • 续写 Completions
    • 向量 Embeddings
    • 模型服务
      • 创建服务
      • 查询服务详情
    • 模型管理
      • 获取模型详情
      • 获取模型版本详情
      • 训练任务发布为模型
    • 模型调优
      • 创建训练任务
      • 创建任务运行
      • 获取任务运行详情
      • 停止任务运行
    • 数据管理
      • 创建数据集
      • 发起数据集发布任务
      • 发起数据集导入任务
      • 获取数据集详情
      • 获取数据集状态详情
      • 发起数据集导出任务
      • 删除数据集
      • 获取数据集导出记录
      • 获取数据集导入错误详情
    • 插件应用
      • 知识库
      • 智能图问
      • 天气
  • 价格说明
    • 千帆大模型平台价格文档
  1. Prompt 工程

Prompt 优化

在线优化使用说明#

平台支持您对Prompt语料进行内容质量和结构上的优化,入口:在线优化。
image.png

服务配置参数#

配置Prompt优化参数,并选择需要进行测试的模型服务与已授权应用。
image.png
1)优化参数配置:
image.png
质量优化:默认开启,此功能可为您提供高质量的提示词,但优化时间也会加长。
缩短提示词:默认关闭,此功能可忽略含义不强的文本实体,提升预料的精炼度并降低推理成本。
迭代轮次:默认为1,输入反复迭代Prompt优化的轮次,轮次与优化效果成正比,次数越多,花费时间也越来长。
思维链条:默认关闭,拆解Prompt内容,逐步进行推理,建议仅在数学计算或逻辑推理场景下开启。
2)选择服务和应用:
image.png
选择“预置服务”或者已发布的“我的服务”作为Prompt优化的测试服务。
选择您已经创建的“应用”作为Prompt优化的测试应用。

优化Prompt#

以上操作完成后,输入原始Prompt语料,如图所示点击“优化”按钮,生成优化后的Prompt。
image.png
您可将优化后的Prompt进行“复制”测试,或是“保存为模板”方便以后调用,详细操作可查看创建Prompt模板。

推理Prompt#

以上操作完成后,如图所示点击“推理”按钮,则可在线测试优化前后Prompt的推理效果。
image.png

批量优化使用说明#

平台支持您对对智能数据中的Prompt数据集进行优化,批量获取优质的Prompt语料。入口:批量优化

创建批量优化任务#

在主任务界面选择“创建任务”按钮。
注意:Prompt优化功能免费测试中,大于100条数据的数据集仅优化前100条。

填写基本信息#

image.png
任务名称:自定义设置,支持中英文、数字、下划线(_),2-50个字符,不能以下划线为开头。
任务描述:选填项,200字符以内。
优化前数据集:选择非空且未发布的数据集版本。当前支持文本对话(非排序)、文本对话(含排序)、query问题集进行prompt 批量优化,且数据集的存储位置在本平台。
优化后数据集:选择优化后的数据集路径,可以新建数据集版本。

填写优化参数配置#

image.png
质量优化:此功能可为您提供高质量的提示词,但优化时间也会加长。
缩短提示词:此功能可忽略含义不强的文本实体,提升预料的精炼度并降低推理成本。
迭代轮次:输入反复迭代Prompt优化的轮次,轮次与优化效果成正比,次数越多,花费时间也越来长。
思维链条:拆解Prompt内容,逐步进行推理,建议仅在数学计算或逻辑推理场景下开启。
以上所有操作完成后,点击“确定”,即可发起Prompt批量优化任务。

查看批量优化任务#

在批量优化主任务界面,即可查看任务概览。
image.png
详情:展示任务创建的各项参数调整以及Prompt优化前后的数据集跳转。
image.png
删除:删除此优化任务,一旦删除将不可恢复。但是完成优化后的数据集内容不受影响。
上一页
Prompt 模板
下一页
Prompt 的使用技巧
Built with