下载大语言模型的推理方法和装置的技术资料

文档序号:46619187

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本公开涉及一种大语言模型的推理方法和装置,该方法包括:将待推理数据输入大语言模型中的自注意推理模块,得到自注意特征矩阵数据;将自注意特征矩阵数据输入多层感知器中的第一全连接层,通过第一均衡权重矩阵得到第一全连接推理数据;将根据第一全连接推理...
该专利属于深圳比特微电子科技有限公司所有,仅供学习研究参考,未经过深圳比特微电子科技有限公司授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。