下载一种推理服务系统的技术资料

文档序号:46061593

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本申请提供一种推理服务系统,全局控制器用于预先将机器资源划分为交互式资源池和批处理式资源池;当接收到推理请求时,确定推理请求的服务级别目标类型,并根据服务级别目标类型对交互式资源池和批处理式资源池进行资源扩缩;集群控制器用于预先将交互式资源...
该专利属于人工智能与数字经济广东省实验室(深圳)所有,仅供学习研究参考,未经过人工智能与数字经济广东省实验室(深圳)授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。