下载支持多模型多芯片的推理服务器的部署方法、系统及电子设备的技术资料

文档序号:32118859

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本发明属于计算机技术领域,公开了一种支持多模型多芯片的推理服务器的部署方法及系统,该方法包括:自定义TVM编译器的后端服务插件,其中,所述后端服务插件的文件格式满足推理服务器后端接入所规定的文件格式;将所述后端服务插件接入推理服务器;所述推...
该专利属于苏州浪潮智能科技有限公司所有,仅供学习研究参考,未经过苏州浪潮智能科技有限公司授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。