千帆大模型平台价格文档
千帆大模型平台目前需要开通付费后可进入操作台使用。
开通付费
可以在计费管理,开通付费。进入智能云控制台后,在概览页可以看到已开通付费的公有云服务以及用量情况。
按量后付费
目前所使用的调用服务功能均为按量后付费。
根据实际的输入及输出总和tokens数量,系统每小时会对您的百度智能云账户进行扣费。
QPS说明
每项定制服务(除ERNIE-Bot家族)默认QPS为1,1QPS经过测试验证,预计可支持4000日活,能够满足一般测试需求。
如有QPS扩充需要,您可通过购买托管资源进行扩展,详细操作可参考资源租赁使用说明。
Tip:当前ERNIE-Bot每16个算力单元,可支持约2.5QPS。
ERNIE-Bot-turbo每16个算力单元,可支持约6QPS。
预置服务ERNIE-Bot、ERNIE-Bot-turbo、Embedding-V1公有云在线调用服务开通时默认为5QPS。
数据服务相关·产品价格
模块 | 服务类型 | 单价 |
---|---|---|
在线标注·自动生成 | ERNIE-Bot-turbo大模型公有云在线调用服务 | 0.008元/千tokens |
数据增强·生成式 | ERNIE-Bot大模型公有云在线调用服务 | 0.012元/千tokens |
数据增强·生成式 | ERNIE-Bot-turbo大模型公有云在线调用服务 | 0.008元/千tokens |
Embedding API·知识库索引 | Embedding-V1公有云在线调用服务 | 0.002元/千tokens |
命中测试 | Embedding-V1公有云在线调用服务 | 0.002元/千tokens |
bge API·知识库索引 | bge-large-zh公有云在线调用体验服务 | 0.002元/千tokens |
生成式数据增强可自主选择ERNIE-Bot或ERNIE-Bot-turbo中的其中一项。
价格费用举例
大模型服务调用支持*使用计算工具*计算(输入输出)tokens数。 以ERNIE-Bot调优大模型调用服务为例:*使用计算工具*
以上共计20tokens。
- 示例1 以在线标注·自动生成为例:
自动标注仅计算大模型输出tokens的费用
以上示例标注所需费用为0.02千tokens x 0.008(单价)=0.00016元
- 示例2 以知识库·索引模式成为例:
单次导入文档至知识库仅收取一次调用费:上传文档tokens X Embedding-V1调用单价。
若上传的文档中有27tokens,则所需费用为0.027千tokens x 0.002(单价)=0.000054元
- 示例3 以调用插件应用·知识库成为例:
当插件应用中安装了知识库插件,服务上线后,客户端调用将按照以下进行计费:
输入tokens x Embedding-v1接口的单价 +(输入tokens+输出tokens) x 基础服务接口的单价
假设上线的插件选择的预置服务为ERNIE-Bot,输入tokens为7tokens,输出tokens为20tokens
以上示例所需费用为0.007千tokens x 0.002(单价) + 0.027千tokens x 0.012(单价)=0.000338元
特别注意:大模型会判断客户端的问题是否需要通过知识库应答,如无需知识库进行应答,费用计算可参考服务调用计费。
大模型训练相关·产品价格
模块 | 服务类型 | 单价 |
---|---|---|
大模型训练 | ERNIE-Bot-turbo大模型公有云训练服务-SFT-全量更新 | 0.1元/千tokens |
大模型训练 | BLOOMZ-7B大模型公有云训练服务-SFT-全量更新 | 0.08元/千tokens |
大模型训练 | BLOOMZ-7B大模型公有云训练服务-SFT-局部调优 | 0.04元/千tokens |
大模型训练 | BLOOMZ-7B大模型公有云训练服务-强化学习 | 0.08元/千tokens |
大模型训练 | ERNIE-Bot-turbo大模型公有云训练服务-SFT-局部调优 | 20元 + 0.01元/千tokens |
大模型训练 | Llama-2-7b-chat-hf大模型公有云训练服务-SFT-全量更新 | 0.08元/千tokens |
大模型训练 | Llama-2-7b-chat-hf大模型公有云训练服务-SFT-局部调优 | 0.04元/千tokens |
大模型训练 | llama-2-13b大模型公有云训练服务-SFT-全量更新 | 20元 + 0.02元/千tokens |
大模型训练 | llama-2-13b大模型公有云训练服务-SFT-局部调优 | 20元 + 0.02元/千tokens |
大模型训练 | 大模型公有云训练服务-按小时计费 大模型训练采用A800的资源实例进行计费时,应用此计费项 | (折后)224元/小时 |
大模型训练 | SQL Coder大模型公有云训练服务-SFT-全量更新 | 8元 + ¥0.009元/千tokens |
大模型训练 | SQL Coder大模型公有云训练服务-SFT-局部调优 | 8元 + ¥0.008元/千tokens |
大模型训练 | chatglm2-6b大模型公有云训练服务-SFT-全量更新 | 8元 + ¥0.008元/千tokens |
大模型训练 | chatglm2-6b大模型公有云训练服务-SFT-局部调优 | 8元 + ¥0.004元/千tokens |
大模型训练 | llama-2-13b大模型公有云训练服务-Post-pretrain-全量更新 | 81元 + ¥0.008元/千tokens |
大模型训练 | Baichuan2-13B-Chat大模型公有云训练服务-SFT-全量更新 | 40元 + ¥0.06元/千tokens |
大模型训练 | Baichuan2-13B-Chat大模型公有云训练服务-SFT-局部调优 | 40元 + ¥0.02元/千tokens |
注意:强化学习字符转换token数转换系数为(1~2),其余模型训练字符转换token系数仍为(0.5 ~0.8)。
价格费用举例
训练数据:25800字符数 训练集条数为1,000条(强化学习训练所需数据集为query问题集)
- 以ERNIE-Bot-turbo训练服务-SFT-全量更新为例:
训练总价 = 训练集字符数 x 0.001(千位计算) x 字符转换token系数(0.5 ~0.8)x epoch(轮数) x token单价
预估价格计算方式为:25.8千字符数 x(0.5 ~0.8)x 2(epoch轮数) x 0.1 = 2.58~4.128元
- 以BLOOMZ-7B大模型公有云训练服务-强化学习为例:
训练总价(最高) = (训练集字符数+ 训练集条数 x 2048) x epoch(轮数) x 0.001(千位计算)x token单价
预估价格(最高)计算方式为:(25800+ 1000 x 2048) x 2(epoch轮数)x 0.001(千位计算) x 0.08 = 331.808元
大模型管理相关·评估价格
当您在模型评估任务中选择含「基于裁判员模型」的打分模式时,ERNIE-Bot 裁判员模型调用单独计入至大模型推理计费项。
模块 | 服务类型 | 单价 |
---|---|---|
预测服务 | ERNIE-Bot大模型公有云在线调用服务 | 0.012元/千tokens |
预估费用计算公式:
裁判员大模型_token单价 x 待评估模型数 x (打分Prompt模板与回答预估Token总数 x 评估数据集样本总数 + 评估数据集Token总数 x 预估系数)。
- 打分Prompt模板与回答预估Token总数 预估设定为 400tokens
- 预估系数为 1.5~3
价格费用举例
评估数据集样本总数为:500个,评估数据集Tokens总数为:10000tokens,待评估模型数为1。
评估任务总价= 0.012 x 1 x [ (400tokens x 500 + 10000tokens x 1.5~3) x 0.001(千位计算) ] = 2.58 ~ 2.76 元
如待评估模型为n(1≤n≤5,取正整数),则以上示例价格区间为(2.58 ~ 2.76 元) x n 。
大模型服务相关·产品价格
2023年11月底将上线订阅制ERNIE-Bot 4.0大模型公有云在线调用服务,基础订阅费:50元/月。
每月订阅后,将按月赠送给您约420千tokens的消耗额度,超出赠送额度后将根据服务输入输出tokens量分别计费,赠送额度在购买的一个月内有效过期作废,如需取消预订,请前往预置服务进行操作,当月订阅费不支持退费,请您保持关注~
模块 | 服务类型 | 单价 |
---|---|---|
预置服务 | ERNIE-Bot 4.0大模型公有云在线调用服务(输入) | 0.12元/千tokens (限时优惠,原价0.15元/千toknes) |
预置服务 | ERNIE-Bot 4.0大模型公有云在线调用服务(输出) | 0.12元/千tokens (限时优惠,原价0.3元/千tokens) |
预置服务 | ERNIE-Bot大模型公有云在线调用服务(输入) | 0.012元/千tokens |
预置服务 | ERNIE-Bot大模型公有云在线调用服务(输出) | 0.012元/千tokens |
预置服务 | ERNIE-Bot-turbo-0922大模型公有云在线调用服务(输入) | 0.008元/千tokens |
预置服务 | ERNIE-Bot-turbo-0922大模型公有云在线调用服务(输出) | 0.008元/千tokens (限时优惠,原价0.012/千tokens) |
预置服务 | BLOOMZ-7B大模型公有云在线调用体验服务 | 0.006元/千tokens |
预置服务 | Embedding-V1公有云在线调用服务 | 0.002元/千tokens |
预置服务 | Llama-2-7B-Chat公有云在线调用体验服务 | 0.006元/千tokens |
预置服务 | Llama-2-13B-Chat公有云在线调用体验服务 | 0.008元/千tokens |
预置服务 | Llama-2-70B-Chat公有云在线调用体验服务 | 0.044元/千tokens |
预置服务 | Qianfan-BLOOMZ-7B-compressed大模型公有云在线调用体验服务 | 0.006元/千tokens |
预置服务 | Qianfan-Chinese-Llama-2-7B大模型公有云在线调用体验服务 | 0.006元/千tokens |
预置服务 | ChatGLM2-6B-32K大模型公有云在线调用体验服务 | 0.006元/千tokens |
预置服务 | AquilaChat-7B大模型公有云在线调用体验服务 | 0.006元/千tokens |
预置服务 | bge-large-zh公有云在线调用体验服务 | 0.002元/千tokens |
预置服务 | bge-large-en公有云在线调用体验服务 | 0.002元/千tokens |
预置服务 | Stable-Diffusion-XL大模型公有云在线调用服务 | 调用时无需计费,单个 账号提供500张图片额度 |
预置模型调用 | 预置模型公有云在线调用体验服务 | 调用免费 |
价格费用举例
1. 大模型服务调用支持*使用计算工具*计算(输入输出)tokens数。
2. 在线服务部署在资源池后,调用仍需付费。
以ERNIE-Bot调优大模型调用服务为例:*使用计算工具*
总计tokens为20,
价格为0.012(单价) x 0.02千tokens=0.00024元
私有资源池相关·产品价格
资源租赁限时7折优惠,活动时间:2023年09月01日-2024年12月31日。
您可通过购买托管资源进行服务QPS扩展,详细操作可参考资源租赁使用说明。
模块 | 服务类型 | 单价 |
---|---|---|
资源池租赁 | 私有资源池租赁 | 20元/时*算力单元 |
资源池租赁 | 私有资源池租赁 | 250元/天*算力单元 |
资源池租赁 | 私有资源池租赁 | 6000元/月*算力单元 |
⼩时范围:1-23;天数范围:1-29;包⽉范围:1-12;⼩于或⼤于当前范围,请更换其他租赁⽅式。
注意:ERNIE-Bot暂不支持按小时的租赁方式
价格费用举例
私有资源池租赁时间选择:2023-06-13~2023-06-18,共计5天。
副本数自定义设置为4,算力单元默认为2。
租赁总价格为:5(天)x 2(单副本算力单元)x 4(副本数)x 250(元/天*算力单元)= 10000元
活动期间,租赁费用为7折,所以折后价为7000元。
公共资源池相关·产品价格
当您选择SFT中ERNIE-Bot-turbo-0704的Prompt Tuning训练方式,并完成模型训练后,可以将此模型部署至平台的公共资源池。
模块 | 服务类型 | 单价 |
---|---|---|
资源池租赁 | 公共资源池租赁 | 限时免费 |
注意:模型发布服务后,调用仍需付费。调用价格可参考服务价格中ERNIE-Bot-turbo大模型公有云在线调用服务内容。
插件相关·产品价格
当您使用插件编排服务时,调用的内置插件或自定义插件当前为试用阶段免费调用,后续将会接入计费,如天气、网页解析和智慧图问等。
需注意:知识库插件当前是需要进行单独计费的,详情可查看数据服务价格费用举例中的示例3。
插件服务仅需按选择的基础预置服务进行付费,相关token计费可查看预置服务计费说明,如果是您自己训练的模型服务,可以查看计费管理中,“我的服务”相关费用说明。
价格费用举例
如图所示,在插件编排中,您选择的预置服务为ERNIE-Bot,根据*Token计算器*,得出输入和输出的token总数,比如20tokens,则按照ERNIE-Bot的收费标准为:
0.012(单价) x 0.02千tokens=0.00024元
余额不足提醒与欠费处理
余额不足提醒
根据您历史的账单金额,判断您的账户余额(含可用代金券)是否足够支付未来的费用,若不足以支付,系统将在欠费前三天、两天、一天发送续费提醒短信,请您收到短信后及时前往控制台财务中心充值。
欠费处理
- 后付费账单时间是北京时间整点,出账单时间是计费周期结束后1小时内。我们将每小时生成一次后付费账单,账单生成时,会检查您的账户余额是否足以支付本次账单的费用。
例如:10:00~11:00的账单费用会在12:00之前生成,具体以系统出账时间为准。若不足以支付,即为欠费,欠费时系统会发送欠费通知。 - 欠费后您开通付费的产品将进入欠费状态,请求系统将不再响应。