下载一种应用于海光DCU的注意力算子头维度分块计算方法的技术资料

文档序号:46064902

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本发明涉及异构并行计算领域,为一种应用于海光DCU的注意力算子头维度分块计算方法,包括:扩张每个线程块在注意力算子中负责的序列长度分块计算范围和单个线程工作组所处理的矩阵计算范围;选定分块参数split_qk和分块参数split_v;对查询...
该专利属于华南理工大学所有,仅供学习研究参考,未经过华南理工大学授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。