专利查询
首页
专利评估
登录
注册
当前位置:
首页
>
专利查询
>
上海交通大学
>
一种注意力机制计算方法、计算系统及存储介质技术方案
>技术资料下载
下载一种注意力机制计算方法、计算系统及存储介质的技术资料
文档序号:42036579
温馨提示:您尚未登录,请点
登陆
后下载,如果您还没有账户请点
注册
,登陆完成后,请刷新本页查看技术详细信息。
本发明公开了一种注意力机制计算方法、计算系统及存储介质,该计算方法包括前向传播阶段以及反向传播阶段;在前向传播阶段,将QKV映射、更新KV缓存以及旋转位置编码的算子进行融合,并调整融合后算子的内部计算流程,以减小访存的时间开销;在反向传播阶...
该专利属于上海交通大学所有,仅供学习研究参考,未经过上海交通大学授权不得商用。
详细技术文档下载地址
温馨提示:您尚未登录,请点
登陆
后下载,如果您还没有账户请点
注册
,登陆完成后,请刷新本页查看技术详细信息。