下载针对大语言模型的动态猜测解码方法、装置、设备及介质的技术资料

文档序号:41470455

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本公开涉及人工智能技术领域,尤其涉及针对大语言模型的动态猜测解码方法、装置、设备及介质,该方法包括:响应于获取到待处理的输入文本,从预设结构集中采样不同的多个模型子结构;基于输入文本,确定每个模型子结构的加速比;根据每个模型子结构对应的加速...
该专利属于清华大学所有,仅供学习研究参考,未经过清华大学授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。