下载一种面向深度学习模型推理批处理优化方法与系统的技术资料

文档序号:31796994

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本发明公开了一种面向深度学习模型推理批处理优化方法与系统。本系统包括负载容器批处理分析工具模块和批处理合并工具模块、算法服务调用模块;负载容器批处理分析工具模块,用于将推理服务请求中的推理输入参数保存到预处理数据集中,生成训练数据对各容器中...
该专利属于中国科学院软件研究所所有,仅供学习研究参考,未经过中国科学院软件研究所授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。