下载一种适用于AI芯片的量化调优装置及方法的技术资料

文档序号:43308910

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本发明实施例公开了一种适用于AI芯片的量化调优装置及方法,所述方法包括:按约束条件将模型拆分成多个子图;其中,所述模型为深度学习浮点模型,所述约束条件为AI芯片在量化过程中所面临的限制;采用组合方式,组合了众多调优设定,以得到对应的调优策略...
该专利属于北京谦合益邦云信息技术有限公司所有,仅供学习研究参考,未经过北京谦合益邦云信息技术有限公司授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。