下载人工智能AI模型的量化推理方法、推理系统和计算设备的技术资料

文档序号:43845176

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

一种AI模型的量化推理方法、推理系统和计算设备。推理系统在AI模型进行量化推理时,将权重矩阵中离群值所在列的权重参数集中分配到一个或多个计算单元中,将权重矩阵中不包含离群值所在列的权重参数分配到其它计算单元,有利于对离群值的批量处理,减少其...
该专利属于华为技术有限公司所有,仅供学习研究参考,未经过华为技术有限公司授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。