用于适配卷积神经网络中的特征数据的方法和装置制造方法及图纸

公开了一种用于适配卷积神经网络中的特征数据的方法和装置。该方法包括：选择连续的多个层；确定最后层的输出特征数据的子数据块的期望数量以及每个子数据块的布局位置、宽度和高度；确定每个层的输入特征数据的每个子数据块的布局位置、宽度和高度；确定最先层的输入特征数据的每个子数据块的实际位置；以及根据最先层的输入特征数据的每个子数据块的实际位置、宽度和高度，获得最先层的输入特征数据的期望数量的输入子数据。通过该方法能够在有效地减少外部存储器和处理器之间的大量的数据搬运的同时，高效地实现任意大小的特征数据的卷积操作。

【技术实现步骤摘要】
用于适配卷积神经网络中的特征数据的方法和装置
本申请总体上涉及人工神经网络的
，并且具体地涉及用于适配卷积神经网络中的特征数据的方法和装置。
技术介绍
基于卷积神经网络的深度学习技术已经被广泛地应用于图像识别、视频分析、自然语言处理、辅助驾驶等不同的领域。期望能够使用诸如通用的中央处理器(CPU)、图形处理器(GPU)或专用加速器等硬件高效地执行卷积神经网络中的运算。数据的存取速度是影响运算效率的重要因素。为此，可以针对处理器(例如，CPU、GPU或专用加速器)设置例如高速缓冲存储器(cache)或片上存储器等高速存储器，以缓存至少一部分数据。然而，由于诸如成本等方面的限制，高速存储器的容量通常是有限的，因此可能无法缓存卷积神经网络的多个层的所有数据(例如，特征数据)，从而导致高速存储器与存取速度相对较低的其他存储器(例如，通过总线与处理器耦接的随机存取存储器，或者诸如硬盘等通过接口或数据线与处理器或包含该处理器的计算装置耦接的储存器)之间的大量的数据搬运。
技术实现思路
一方面，本申请涉及一种用于适配卷积神经网络中的特征数据的方法。该方法包括：选择卷积神经网络中的连续的多个层；确本文档来自技高网...

【技术保护点】
一种用于适配卷积神经网络中的特征数据的方法，包括：选择所述卷积神经网络中的连续的多个层；确定所述多个层中的最后层的输出特征数据的子数据块的期望数量以及每个子数据块的布局位置、宽度和高度；在所述多个层中的每个当前层中，根据所述当前层的输出特征数据的每个子数据块的布局位置、宽度和高度，确定所述当前层的输入特征数据的每个子数据块的布局位置、宽度和高度；确定所述多个层中的最先层的输入特征数据的每个子数据块在所述最先层的输入特征数据中的实际位置；以及根据所述最先层的输入特征数据的每个子数据块的实际位置、宽度和高度，获得所述最先层的输入特征数据的所述期望数量的子数据块。

【技术特征摘要】
1.一种用于适配卷积神经网络中的特征数据的方法，包括：选择所述卷积神经网络中的连续的多个层；确定所述多个层中的最后层的输出特征数据的子数据块的期望数量以及每个子数据块的布局位置、宽度和高度；在所述多个层中的每个当前层中，根据所述当前层的输出特征数据的每个子数据块的布局位置、宽度和高度，确定所述当前层的输入特征数据的每个子数据块的布局位置、宽度和高度；确定所述多个层中的最先层的输入特征数据的每个子数据块在所述最先层的输入特征数据中的实际位置；以及根据所述最先层的输入特征数据的每个子数据块的实际位置、宽度和高度，获得所述最先层的输入特征数据的所述期望数量的子数据块。2.根据权利要求1所述的方法，其中，所述最后层的输出特征数据和相关参数的大小之和小于或等于阈值。3.根据权利要求2所述的方法，其中，所述阈值取决于用于对所述卷积神经网络的运算所涉及的数据进行高速缓存的高速存储器的容量。4.根据权利要求3所述的方法，其中，所述阈值小于或等于所述高速存储器的容量的2/3。5.根据权利要求1所述的方法，其中，如果将所述最后层的输出特征数据的所有子数据块按照各个子数据块的布局位置、以彼此不重叠的方式拼接在一起，则所获得的数据的宽度和高度分别等于所述最后层的输出特征数据的宽度和高度。6.根据权利要求1所述的方法，其中，所述期望数量取决于参考值以及所述多个层中的每个层的输入特征数据的大小。7.根据权利要求6所述的方法，其中，所述期望数量满足以下条件：E>(max1≤i≤N{Fi+Pi})/R，E为所述期望数量，max表示获取最大值，N为所述多个层的数量，Fi和Pi分别为所述多个层中的第i层的输入特征数据和相关参数的大小，R为所述参考值。8.根据权利要求1所述的方法，其中，所述当前层的输入特征数据的每个子数据块的宽度和高度还取决于所述当前层的相关参数的核的宽度和高度、所述相关参数的核在宽度和高度方向上的步长以及在当前层针对子数据块在宽度和高度方向上的一个或多个填充量。9.根据权利要求1所述的方法，还包括：根据所述最先层的输入特征数据的每个子数据块的布局位置、宽度和高度以及所述最先层的输入特征数据的宽度和高度，确定所述最先层的输入特征数据的相邻的子数据块之间的重叠部分的重叠宽度和重叠高度。10.根据权利要求9所述的方法，其中，对于所述最先层的输入特征数据的每个当前子数据块，如果根据所述当前子数据块的布局位置确定在所述当前子数据块的左侧和上方没有其他子数据块，则所述当前子数据块在所述最先层的输入特征数据中的实际位置为所述最先层的输入特征数据的左上角，如果根据所述当前子数据块的布局位置确定在所述当前子数据块的左侧存在一个或多个子数据块，则所述当前子数据块在所述最先层的输入特征数据中的实际位置取决于在所述当前子数据块的左侧的每个数据块的宽度以及所述重叠宽度，并且如果根据所述当前子数据块的布局位置确定在所述当前子数据块的上方存在一个或多个子数据块，则所述当前子数据块在所述最先层的输入特征数据中的实际位置还取决于在所述当前子数据块的上方的每个数据块的高度以及所述重叠高度。11.根据权利要求1至10中的任一项所述的方法...

【专利技术属性】
技术研发人员：李建军，黄畅，陈亮，凌坤，李德林，
申请(专利权)人：北京地平线信息技术有限公司，
类型：发明
国别省市：北京,11