文心一言-千帆大模型平台
  1. SDK 参考
文心一言-千帆大模型平台
  • 体验中心
  • 常见问题
  • 大模型技术测试服务协议
  • 账号与权限管理
    • 账号创建与权限分配
    • 通过子账户隔离实现账单隔离
  • 产品简介
    • 什么是百度智能云千帆大模型平台
    • 百度智能云千帆大模型平台产品优势
    • 百度智能云千帆大模型平台常用概念
  • 新手指南
    • SFT调优快速手册
    • SFT最佳实践
    • 平台使用快速开始
    • 导入并部署第三方模型
      • 快速导入并部署第三方模型
      • SQLCoder自定义模型导入·详细操作
  • 模型广场
    • 查看与管理预置模型
    • 预置调用免费模型列表
  • 我的模型
    • 创建我的模型
    • 查看与管理我的模型
  • Prompt 工程
    • 什么 Prompt 工程
    • Prompt 模板
    • Prompt 优化
    • Prompt 工程使用技巧
      • Prompt 的使用技巧
      • 基础的 Basic Prompt Framework
      • 丰富的 CRISPE Prompt Framework
      • 轻量化的 Few-shot Prompt
  • 模型服务
    • 应用接入
    • 在线服务
    • 调用统计
  • 模型调优
    • 模型精调
      • Post-pretrain
        • 什么是 Post-pretrain
        • 创建 Post-pretrain 任务
        • 查看与管理 Post-pretrain
      • SFT
        • 创建 SFT 任务
        • 查看与管理 SFT 运行
      • RLHF
        • 什么是 RLHF 训练
        • 创建奖励模型训练任务
        • 查看与管理奖励模型训练运行
        • 创建强化学习训练任务
        • 查看与管理强化学习训练运行
    • 模型评估
      • 创建模型评估任务
      • 查看与管理模型评估任务
    • 模型压缩
      • 创建模型压缩任务
      • 查看模型压缩任务
  • 数据管理
    • 数据回流
    • 数据集对应关系说明
    • 数据集管理
      • 创建数据集
      • 数据分析
      • 导入文本对话数据
      • 导入泛文本无标注数据
      • 导入 query 问题集数据
      • 导入文生图数据
      • 管理数据集版本
      • 导出数据
      • 数据集的其他操作
    • 数据标注
      • 在线标注
      • 众测标注
    • 数据处理
      • 数据清洗
      • 数据增强
    • 知识库
      • 什么是千帆大模型知识库
      • 知识库管理
      • 命中测试
  • 系统配置
    • 计算资源
    • 计费管理
    • 插件编排
      • 什么是插件应用
      • 插件编排使用说明
      • 应用创建
        • 对话场景类应用
        • 生成场景类应用
      • 插件
        • 插件列表
        • 自定义插件
        • 插件开发者文档
  • API 鉴权及调用
    • API 介绍
    • API 列表
    • API 调用指南
      • API 调用流程
      • 错误码
      • API 在线调试
    • 鉴权认证
      • 鉴权介绍
      • 使用网页调试工具获取 access_token
      • 获取 access_token
    • 对话 Chat
      • Llama-2
        • Llama-2-7b-chat
        • Llama-2-13b-chat
        • Llama-2-70b-chat
      • ERNIE-Bot 4.0
      • ERNIE-Bot
      • ERNIE-Bot-turbo
      • BLOOMZ-7B
      • Qianfan-BLOOMZ-7B-compressed
      • Mistral-7B-Instruct
      • Qianfan-Chinese-Llama-2-7B
      • Qianfan-Chinese-Llama-2-13B
      • Linly-Chinese-LLaMA-2-7B
      • Linly-Chinese-LLaMA-2-13B
      • ChatGLM2-6B
      • ChatGLM2-6B-32K
      • ChatGLM2-6B-INT4
      • Baichuan2-13B-Chat
      • XVERSE-13B-Chat
      • Falcon-7B
      • Falcon-40B-Instruct
      • AquilaChat-7B
      • RWKV-4-World
      • RWKV-4-pile-14B
      • RWKV-Raven-14B
      • OpenLLaMA-7B
      • Dolly-12B
      • MPT-7B-Instruct
      • MPT-30B-instruct
      • OA-Pythia-12B-SFT-4
      • Falcon-180B-Chat
      • RWKV-5-World
      • Flan-UL2
    • 续写 Completions
      • SQLCoder-7B
      • CodeLlama-7b-Instruct
      • AquilaCode-multi
      • Cerebras-GPT-13B
      • Pythia-12B
      • GPT-J-6B
      • GPT-NeoX-20B
      • GPT4All-J
      • StarCoder
      • StableLM-Alpha -7B
      • Pythia-6.9B
      • Cerebras-GPT-6.7B
    • 向量 Embeddings
      • Embedding-V1
      • bge-large-zh
      • bge-large-en
    • 图像 Images
      • Stable-Diffusion-XL
    • 自定义模型调用 API
      • 自定义模型调用 API
      • 续写模式
    • 模型服务
      • 创建服务
      • 查询服务详情
    • 模型管理
      • 获取模型版本详情
      • 获取模型详情
      • 训练任务发布为模型
    • 模型调优
      • 创建训练任务
      • 创建任务运行
      • 获取任务运行详情
      • 停止任务运行
    • 数据管理
      • 创建数据集
      • 发起数据集发布任务
      • 发起数据集导入任务
      • 获取数据集详情
      • 获取数据集状态详情
      • 发起数据集导出任务
      • 删除数据集
      • 获取数据集导出记录
      • 获取数据集导入错误详情
    • Prompt 工程
      • Prompt 模板
    • 插件应用
      • 知识库
      • 智慧图问
      • 天气
  • SDK 参考
    • 千帆 SDK 介绍
    • SDK 安装及使用流程
    • 对话 Chat
    • 续写 Completions
    • 向量 Embeddings
    • 模型服务
      • 创建服务
      • 查询服务详情
    • 模型管理
      • 获取模型详情
      • 获取模型版本详情
      • 训练任务发布为模型
    • 模型调优
      • 创建训练任务
      • 创建任务运行
      • 获取任务运行详情
      • 停止任务运行
    • 数据管理
      • 创建数据集
      • 发起数据集发布任务
      • 发起数据集导入任务
      • 获取数据集详情
      • 获取数据集状态详情
      • 发起数据集导出任务
      • 删除数据集
      • 获取数据集导出记录
      • 获取数据集导入错误详情
    • 插件应用
      • 知识库
      • 智能图问
      • 天气
  • 价格说明
    • 千帆大模型平台价格文档
  1. SDK 参考

SDK 安装及使用流程

安装SDK#

pip install qianfan
注意:目前支持 Python >= 3.7版本。

SDK 使用流程简介#

千帆平台提供了2种鉴权方式。调用API不同,使用的鉴权方式可能不同。开发者可以根据实际使用,选择合适的方式进行调用。

方式一,使用应用AK/SK鉴权#

调用SDK前,需确保已完成SDK安装。安装后,调用SDK使用流程如下:
步骤一,获取应用的API Key(AK) 和 Secret Key(SK);如果无应用,需先创建应用。
步骤二,初始化AK 和 SK。
步骤三,调用相关SDK。适用以下:
对话Chat
续写Completions
向量Embeddings
插件

方式二,使用安全认证AK/SK鉴权#

调用SDK前,需确保已完成SDK安装。安装后,调用SDK使用流程如下:
步骤一,获取“安全认证/Access Key”中的Access Key ID(AK) 和 Secret Access Key(SK)。
步骤二,初始化AK 和 SK。
步骤三,调用对应的SDK。适用以下:
模型调优
模型管理
模型服务

使用应用AK/SK鉴权调用流程#

步骤一,获取应用的AK和SK#

**注意:**应用AK、SK分别指应用的 API Key(即AK) 和 Secret Key(即SK)。
(1)登录百度智能云千帆控制台。
登录百度智能云千帆控制台 。**注意:**为保障服务稳定运行,账户最好不处于欠费状态。
(2)创建千帆应用。
如果已有应用,此步骤可跳过。如果无应用,进入控制台创建应用 ,如何创建应用也可以参考应用接入使用。
(3)在应用接入页,获取应用的API Key、Secret Key。
image.png

步骤二,初始化AK和SK#

在调用 SDK 前,需要先初始化 应用API Key(即AK) 和 应用Secret Key(即SK),支持通过参数初始化、内置函数初始化、环境变量初始化三种方式进行初始化。
方式一:通过参数初始化
通过调用相关接口时设置参数初始化。
Python
方式二:通过内置函数初始化
Python
方式三:通过环境变量初始化
Python

步骤三,调用API#

不同类型的模型,调用方法不同。支持以下调用:
对话Chat,请查看对话Chat 调用说明文档。
续写Completions,请查看续写Completions 调用说明文档。
向量Embeddings,请查看向量Embeddings 调用说明文档。
插件应用相关

使用安全认证AK/SK鉴权调用流程#

步骤一,获取安全认证AK/SK#

通过以下步骤获取Access Key ID (AK)/Secret Access Key(SK),更多介绍请参考如何获取AK/SK。
(1)登录百度智能云千帆控制台,点击“用户账号->安全认证”进入Access Key管理界面。
**注意:**此处的AK/SK是指安全认证/Access Key,分别是Access Key ID (AK)/Secret Access Key(SK),和使用的获取AcessToken的应用API Key(AK) 和 Secret Key(SK)不同。
(2)点击Access Key ID右侧的“显示”,可查看其对应的Secret Access Key。
**注意:**初始化鉴权时,使用“安全认证/Access Key ”中的Access Key ID 和 Secret Access Key进行鉴权,更多鉴权认证机制请参考鉴权认证机制。
image.png

步骤二,初始化鉴权#

支持通过参数、内置函数初始化、环境变量三种初始化方式,其优先级由高到低为:参数初始化>内置函数初始化>环境变量初始化。
方式一:通过参数初始化
通过调用相关接口时设置参数初始化。
# 调用相关接口时传递(仅作用于该请求,优先级最高)
import qianfan
task = qianfan.FineTune.create_task(ak="...", sk="...")
方式二:通过内置函数初始化
# 通过内置函数传递(作用于全局,优先级大于环境变量)
import qianfan
qianfan.AccessKey("...")
qianfan.SecretKey("...")
方式三:通过环境变量初始化
# 通过环境变量传递(作用于全局,优先级最低)
import os
os.environ["QIANFAN_ACCESS_KEY"] = "..."
os.environ["QIANFAN_SECRET_KEY"] = "..."

步骤三,调用API#

调用以下SDK支持的功能:
模型调优
模型管理
模型服务
上一页
千帆 SDK 介绍
下一页
对话 Chat
Built with