SQLCoder自定义模型导入·详细操作

SQLCoder模型是由Defog研发、基于Mistral-7B微调的语言模型，用于将自然语言问题转换为SQL语句，具备优秀的生成效果，百度智能云千帆大模型平台，支持将SQLCoder自定义模型导入并完成部署。

一、模型下载

注意：您在Hugging Face官网下载模型前需安装git-lfs

前往SQLCoder模型官网主页，按照Hugging Face官网的操作提示，通过git将模型文件下载到本地。

二、上传模型至百度BOS

注意：上传模型前需要您已开通百度对象存储（BOS）服务。

1、在BOS中创建Bucket，填写如下必要信息，相关操作可以参考***指导说明***。

2、进入刚创建的Bucket，上传第一步中下载的SQLCoder模型（*BOS上传文件*），上传完成后Bucket存储目录如下所示:

三、模型导入大模型平台

1. 打开千帆大模型平台，进入我的模型界面，选择创建模型。

1. 按照如下内容填入基本信息：

1、输入模型配置，模型来源需选择“对象存储BOS”后，选择第二步中SQLCoder模型位于BOS服务中的Bucket和文件夹；
输入输出格式请根据自定义模型实际情况选择,可参考*指导说明*。

2、您可可根据实际情况选择是否在大模型部署时启用“高级配置”项；需要注意的是，其对模型推理性能和效果有一定影响。开启后，其默认值如下：

3、上述工作完成后，即可在模型列表页查看到此模型。

4、选择操作列的“详情”按钮，当“版本状态”为“就绪”时，则表示可将此模型版本发布为“在线服务”。

四、将模型发布为服务

1、在模型详情页面，选择此模型版本的“部署”按钮：

2、您可按照以下内容填写基本信息。

3、按照您的实际需求，将服务部署至私有资源池，相关操作步骤可参考*指导说明*。

4、最后点击“确定”，即可将自定义SQLCoder模型发布为在线服务。
您可至体验中心进行服务测试，相关操作步骤可参考体验中心使用说明。