下载模型量化方法、装置、计算设备、存储介质及产品的技术资料

文档序号:38770830

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本申请提供了一种模型量化方法、装置、计算设备、存储介质及产品,属于人工智能技术领域。所述方法包括:根据模型每层上每种模型参数在第一存储格式下的参数非负范围及第二存储格式的非负表示范围,所确定的每层上每种模型参数对应的第一缩放因子,对每层上每...
该专利属于阿里巴巴(中国)有限公司所有,仅供学习研究参考,未经过阿里巴巴(中国)有限公司授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。