下载支持混合比特量化的矩阵向量乘算子实现方法及装置的技术资料

文档序号:41334187

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本申请涉及深度神经网络技术领域,特别涉及一种支持混合比特量化的矩阵向量乘算子实现方法及装置,其中,方法包括:获取经量化的大语言模型的权重矩阵和半精度浮点数精度的激活向量;使用面向混合比特精度数据的向量访问方法,将权重矩阵加载到寄存器中;使用...
该专利属于清华大学所有,仅供学习研究参考,未经过清华大学授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。