温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。
本发明实施例公开了一种基于GPU设备的模型推理加速方法,包括:将模型转换成ONNX格式文件;通过自定义算子将所述ONNX格式文件转换成PLAN格式文件;解析所述ONNX格式文件,生成推理服务器所需的模型配置文件;封装所述PLAN格式文件和所...该专利属于北京华品博睿网络技术有限公司所有,仅供学习研究参考,未经过北京华品博睿网络技术有限公司授权不得商用。
温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。
本发明实施例公开了一种基于GPU设备的模型推理加速方法,包括:将模型转换成ONNX格式文件;通过自定义算子将所述ONNX格式文件转换成PLAN格式文件;解析所述ONNX格式文件,生成推理服务器所需的模型配置文件;封装所述PLAN格式文件和所...