什么是插件应用
产品介绍
插件应用(Plugin)是大语言模型(LLM)的应用构建工具,帮助用户快速构建LLM应用或将LLM应用到自建程序中。开发者可以通过LLM API 以及内置的模块等快速的启动LLM应用的创建工作。
千帆平台插件应用可以结合平台运行的模型服务共同输出高质量的服务信息。
当前的大语言模型生成建立在定量化的数据集中,当然数据量可以进行不断的扩充增冗,但是信息的时效性还是不可避免的有延迟。插件应用完美匹配到语言模型插口,作为LLM的新“五官”,不断感触或全新、或个性化或太特定范围内的未包含在训练数据中的信息,解锁更大量更可能的用例。
应用场景及案例
存量文档问答
基于存量文档检索和抽取的内容,输入给大模型运行,结合问题的内容,有逻辑和条理的生成问题的答案。
使用场景一:法律/规定查询。
用户:《中华人民共和国刑法》第二百六十四条是怎样规定的?
应答:《中华人民共和国刑法》第二百六十四条:
盗窃公私财物,数额较大或者多次盗窃的,处三年以下有期徒刑、拘役或者管制,并处或者单处罚金;数额巨大或者有其他严重情节的,处三年以上十年以下有期徒刑,并处罚金;数额特别巨大或者有其他特别严重情节的,处十年以上有期徒刑或者无期徒刑,并处罚金或者没收财产;有下列情形之一的,处无期徒刑或者死刑,并处没收财产:
(一)盗窃金融机构,数额特别巨大的;
(二)盗窃珍贵文物,情节严重的。
使用场景二:公司/产品/人员介绍。
用户:帮我查一下2022年全国大学排名前五名。
应答:根据《2022年国内大学综合排名》正式发布情况,位于前五名的大学分别是清华大学、北京大学、浙江大学、上海交通大学和复旦大学。
新增文档问答
基于上传的文档,检索和抽取的内容,输入给大模型运行,结合问题的内容,有逻辑和条理的生成问题的答案。
使用场景一:员工绩效查询。(已上传员工考勤表、财务营收表、部门营收表、个人业绩表)
用户:本月哪位同事的绩效最高?
应答:根据您的需求,查询到XXX和xxx两位同事的绩效本月并列第一名。
使用场景二:客户维护查询。(已上传现有的合同、客户粘度报表、客户业务健康度报表、历史NPS表)
用户:请问本年度最有可能续期的老客户是哪些?
应答:根据您的需求,综合对比出XX公司是比较容易进行续期合作的优质客户,以上为AI自动生成,仅供参考。