下载面向定制大模型的多模型推理方法和装置的技术资料

文档序号:41718190

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本发明提供一种面向定制大模型的多模型推理方法和装置,包括:基于目标设备获取每个定制大模型的待处理请求;根据所述待处理请求确定当前执行模式;所述当前执行模式包括聚合模式、旁路模式和逆聚合模式中的一种;将所述目标设备的历史执行模式转化为所述当前...
该专利属于清华大学所有,仅供学习研究参考,未经过清华大学授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。