温馨提示：您尚未登录，请点 登陆 后下载，如果您还没有账户请点 注册 ，登陆完成后，请刷新本页查看技术详细信息。

本发明提供一种模型缓存量化方法及装置，所述方法包括：对模型的缓存进行切块，得到多个缓存块；采用原始精度在当前缓存块存储对应推理数据，直至当前缓存块的存储空间达到容量上限时，对当前缓存块所存储的推理数据进行量化处理。本发明提供的模型缓存量化方...
该专利属于上海壁仞科技股份有限公司所有，仅供学习研究参考，未经过上海壁仞科技股份有限公司授权不得商用。

详细技术文档下载地址

温馨提示：您尚未登录，请点 登陆 后下载，如果您还没有账户请点 注册 ，登陆完成后，请刷新本页查看技术详细信息。