计算数据压缩参数制造技术

本发明专利技术公开了计算数据压缩参数。用于使用码本条目值计算数据压缩参数的装置、系统和技术。在至少一个实施例中，一个或更多个电路将至少部分地基于与至少两个码本条目值相关的待压缩数据的至少一个或更多个值来计算一个或更多个数据压缩参数。或更多个数据压缩参数。或更多个数据压缩参数。

【技术实现步骤摘要】
计算数据压缩参数


[0001]至少一个实施例涉及被配置为利用标量量化技术的图形处理资源。例如，至少一个实施例涉及处理器或计算系统以使用可扩展的固定码本执行数据的最优均方误差量化。

技术介绍

[0002]使用固定码本对数据进行标量量化已成为神经网络压缩的一种普遍方法。量化过程引入了均方误差(MSE)，可以通过找到最优标量参数和分配来最小化该误差。然而，当前试图找到最小化MSE的标量参数的方法在计算上效率低下并且不能保证合理的运行时间。例如，交替优化(ALTOPT)方法不断迭代alpha和分配优化操作，但计算成本高，并且不能保证在全局最优标量参数上收敛。在另一个示例中，网格搜索方法遍历预定义标量参数的大“网格”并计算每个标量参数的最优分配，标量参数之间的间距较小，从而导致更高的整体准确度，但运行时间不切实际。
附图说明
[0003]图1A示出了根据至少一个实施例的推理和/或训练逻辑；
[0004]图1B示出了根据至少一个实施例的推理和/或训练逻辑；
[0005]图2示出了根据至少一个实施例的神经网络的训练和部署；...

【技术保护点】

【技术特征摘要】
1.一种处理器，包括：一个或更多个电路，用于至少部分地基于与至少两个码本条目值相关的待压缩数据的至少一个或更多个值来计算一个或更多个数据压缩参数。2.如权利要求1所述的处理器，其中，所述一个或更多个数据压缩参数用于最小化与将所述待压缩数据的一个或更多个值分配给包括所述至少两个码本条目值的码本条目值相关联的量化误差。3.如权利要求1所述的处理器，其中，所述数据压缩参数包括量化标量参数和分配参数以将所述待压缩数据的一个或更多个值中的每一个分配给码本条目值。4.如权利要求3所述的处理器，其中为了计算所述量化标量参数，所述一个或更多个电路用于从一组候选标量参数中选择所述量化标量参数，基于所述至少两个码本条目值之间的中间点计算每个候选标量参数。5.如权利要求1所述的处理器，其中，所述一个或更多个电路用于至少部分地基于所述至少两个码本条目值之间的中点来计算一个或更多个数据压缩参数。6.如权利要求5所述的处理器，其中，所述一个或更多个电路用于基于根据所述中点计算的测试标量参数来计算至少一个分配参数。7.如权利要求6所述的处理器，其中，所述一个或更多个电路用于基于所述至少一个分配参数进一步计算候选标量参数。8.如权利要求1所述的处理器，其中，所述一个或更多个电路用于将通过确定候选标量参数来从一组候选标量参数中选择量化标量参数，所述候选标量参数最小化将所述待压缩数据的一个或更多个值分配给所述码本条目值的均方误差。9.一种系统，包括：一个或更多个处理器，用于至少部分地基于与至少两个码本条目值相关的待压缩数据的至少一个或更多个值来计算一个或更多个数据压缩参数；以及一个或更多个存储器，用于存储所述一个或更多个数据压缩参数。10.如权利要求9所述的系统，其中，所述一个或更多个数据压缩参数用于最小化与将所述待压缩数据的一个或更多个值分配给包括所述至少两个码本条目值的码本条目值相关联的量化误差。11.如权利要求9所述的系统，其中，所述数据压缩参数包括量化标量参数和分配参数以将所述待压缩数据的一个或更多个值中的每一个分配给码本条目值。12.如权利要求11所述的系统，其中为了计算所述量化标量参数，所述一个或更多个处理器用于从一组候选标量参数中选择所述量化标量参数，基于所述至少两个码本条目值之间的中间点计算每个候选标量参数。13.如权利要求9所述的系统，其中，所述一个或更多个处理器用于至少部分地基于所述至少两个码本条目值之间的中点来计算一个或更多个数据压缩参数。14.如权利要求13所述的系统，其中，所述一个或更多个处理器用于基于根据所述中点计算的测试标量参数来计算至少一个分配参数。15.如权利要求14所述的系统，其中，所述一个或更多个处理器用于基于所述至少一个分配参数进一步计算候选标量参数。16.如权利要求9所述的系统，其中，所述一个或更多个处理器用于将通过确定候选标
量参数来从一组候选标量参数中选择量化...

【专利技术属性】
技术研发人员：Y，
申请(专利权)人：辉达公司，
类型：发明
国别省市：