下载一种模型推理方法、系统、设备及计算机可读存储介质的技术资料

文档序号:43948598

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本申请公开了一种模型推理方法、系统、设备及计算机可读存储介质,涉及人工智能技术领域,确定大语言模型中的各个中间层;筛选出满足跳过条件的中间层作为候选层;生成大语言模型跳过候选层进行推理的推理信息;根据推理信息,从候选层中筛选出目标层;获取待...
该专利属于杭州同顺传媒科技有限公司所有,仅供学习研究参考,未经过杭州同顺传媒科技有限公司授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。