下载基于键值矩阵缓存的模型推理方法及装置、介质的技术资料

文档序号:41364812

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本公开涉及人工智能技术领域,尤其涉及一种基于键值矩阵缓存的模型推理方法及装置、介质,模型推理方法包括根据输入文本确定出输入特征矩阵,并将根据输入特征矩阵、第一权重矩阵、第二权重矩阵和编码矩阵计算得到的第一价值矩阵、键值矩阵中的键值矩阵缓存;...
该专利属于清华大学所有,仅供学习研究参考,未经过清华大学授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。