查看与管理我的模型
用户模型创建后,您可以在“模型仓库-我的模型”列表中查看模型信息,进行相关操作。
登录到千帆大模型操作台,在左侧功能列模型仓库中选择我的模型,进入创建模型的主任务界面。
注:删除模型不影响已部署的服务。
点击模型名称或操作栏“详情”按钮,进入模型详情页。模型详情包含的内容有:
基本信息
查看模型名称、ID、模型类型及业务标签,其中业务标签支持修改。
版本列表
支持查看模型不同版本概览信息,进行版本详情查看、模型版本评估、压缩、部署和删除等操作:
新增版本
点击新增版本按钮,可以创建新的模型版本,所需信息可参考创建我的模型(继承历史模型配置)。
当版本状态由“创建中”转为“就绪”时,模型版本即创建成功。
注:训练任务的一次运行不允许在同一个模型下重复创建多个版本。
查看版本详情
点击版本名称或操作栏“详情”按钮,可查看模型版本详情。
详情中展示了:
- 版本的基本信息,包括名称、来源、描述等;其中,“基础模型”字段为该用户模型的源模型,“可用部署资源”给出了模型版本部署所需的资源池类。
- 版本的接口信息,作为后续服务运行、调用的参考。
版本管理操作
模型版本列表与版本详情中,支持对模型版本进行如下操作:
- 评估:
支持对生成的大模型进行全方位评价,当前仅支持对的模型评估范围可参考模型评估。 - 压缩:
通过量化压缩等工具提升大模型推理速度,当前仅支持对的模型压缩范围可参考模型压缩。 - 部署:
支持将指定的模型版本部署为预测服务,详细操作内容可参考在线服务。 - 导出:
平台支持开源模型在训练、调整模型权重后,再导出。支持导出用户基于BLOOMZ-7B、Stable-Diffusion-XL、SQLCoder及ChatGLM2-6B训练生成的模型,仅支持导出一次,导出成功后的模型可在任务列表中下载。 - 删除:
操作删除后,相应模型版本将被删除、版本号被弃用;删除版本不影响已部署上线的服务,但若版本有运行中的评估或压缩任务,则不允许删除。
任务列表
任务列表中展示了模型不同版本、各类任务的记录,如图所示:
任务类型包括:新建版本、删除版本、模型评估、模型压缩和模型导出。支持的操作包括
- 详情:跳转至相应版本详情、评估任务详情、压缩任务详情及模型导出详情(如有),如果有模型导出任务,可在此界面发起下载到本地。
- 查看日志:查看相应任务的日志。
部署记录
支持查看模型版本部署的记录及状态等信息,如图所示:
详情可参考服务管理中的服务详情部分内容。
最后修改时间: 1 年前