下载分布式计算架构下Transformer模型映射方法的技术资料

文档序号:40554211

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本发明公开了分布式计算架构下Transformer模型映射方法,包括如下步骤:S1:将单个窗口注意力计算任务分支进行划分并分配到P×H矩形分布的节点上;S2:设定划分后窗口注意力计算任务的映射策略和权重参数分摊策略;S3:以在分布式计算芯片...
该专利属于合肥综合性国家科学中心人工智能研究院(安徽省人工智能实验室)所有,仅供学习研究参考,未经过合肥综合性国家科学中心人工智能研究院(安徽省人工智能实验室)授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。