下载一种基于矩阵路由与Token分配的混合专家模型训练优化方法的技术资料

文档序号:45058625

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本发明公开了一种基于矩阵路由与Token分配的混合专家模型训练优化方法,该方法首先在预训练过程中,MoE模型利用多个专家子模型处理不同的输入数据,MoE模型通过门控网络生成专家索引,并基于专家索引生成调度索引和组合索引。其次基于生成调度索引...
该专利属于杭州电子科技大学所有,仅供学习研究参考,未经过杭州电子科技大学授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。