下载模型推理的资源分配方法、装置、计算机设备和存储介质的技术资料

文档序号:24497313

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本申请涉及一种模型推理的资源分配方法、装置、计算机设备和存储介质。所述方法包括:获取加速板卡的数量,各个加速板卡上搭载有多个加速芯片;获取待分配深度模型和待分配深度模型的各个计算层的时间开销;根据各个计算层的时间开销,确定待分配深度模型拆分...
该专利属于北京奇艺世纪科技有限公司所有,仅供学习研究参考,未经过北京奇艺世纪科技有限公司授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。