温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。
本发明提供基于电力运检业务的大模型推理加速方法及系统,方法包括:多任务请求的调度,该调度将多个请求拼成一个输入作为整体网络的输入,在生成式对话中,可以做到一次回答多个请求问题;GPT网络,包括:Transformer Attention和F...该专利属于国网安徽省电力有限公司电力科学研究院所有,仅供学习研究参考,未经过国网安徽省电力有限公司电力科学研究院授权不得商用。
温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。
本发明提供基于电力运检业务的大模型推理加速方法及系统,方法包括:多任务请求的调度,该调度将多个请求拼成一个输入作为整体网络的输入,在生成式对话中,可以做到一次回答多个请求问题;GPT网络,包括:Transformer Attention和F...