数据处理方法、装置及相关产品制造方法及图纸

本申请涉及一种数据处理方法、装置及相关产品，所述相关产品包括板卡，所述板卡包括：多个人工智能处理器，所述多个人工智能处理器对应的内存为多通道内存；其中，目标人工智能处理器用于在通过目标并行线程接收通用处理器CPU发出的人工智能处理器计算指令后，通过与所述目标并行线程对应的内存通道。采用本方法能够实现自定义激活函数在神经网络处理器中顺畅运行。

Data processing methods, devices and related products

【技术实现步骤摘要】
数据处理方法、装置及相关产品相关申请的交叉引用本申请要求申请日为2018年12月18日、申请号为201811554134.2、申请人为北京中科寒武纪科技有限公司、名称为“数据处理方法、装置及相关产品”的中国专利申请的优先权的权益，所述申请的全部内容通过引用结合在本申请中。
本申请涉及人工智能
，特别是涉及一种数据处理方法、装置及相关产品。
技术介绍
随着人工智能技术的发展，出现了各种各样的神经网络算法，而激活操作是神经网络算法中非常重要的计算步骤。现有的神经网络处理器中，支持的激活函数种类很少，只有不超过十种。现有的神经网络处理器在处理激活函数的过程中对激活函数的种类兼容性差，无法对自定义的激活函数进行处理。
技术实现思路
基于此，有必要针对现有神经网络处理器在处理激活函数的过程中对激活函数的种类兼容性差，无法对自定义的激活函数进行处理的问题，提供一种数据处理方法、装置及相关产品。一种数据处理方法，所述方法包括：获取激活函数的拟合配置表和输入数据；判断所述输入数据对应所述拟合配置表中的分段区间；根据所述输入数据对应所述拟合配置表中的分段区间，确定所述输入数据在所述拟合配置表中对应的配置信息；根据所述配置信息对所述输入数据执行拟合运算，得到所述激活函数的输出数据。在其中一个实施例中，所述根据所述配置信息对所述输入数据执行拟合运算，得到所述激活函数的输出数据包括：获取硬件指令集；根据所述硬件指令集和所述配置信息，编译生成控制指令；将所述控制指令翻译为机器指令；根据所述配置信息及机器指令对所述输入数据执行拟合运算，得到所述激活函数的输出数据。在其中一个实施例中，所述根据所述输入数据对应所述拟合配置表中的分段区间，确定所述输入数据在所述拟合配置表中对应的配置信息包括：根据所述输入数据，确定各所述分段区间的区间拟合函数。在其中一个实施例中，所述根据所述输入数据对应所述拟合配置表中的分段区间，确定所述输入数据在所述拟合配置表中对应的配置信息包括：获取所述激活函数的拟配置函数；根据所述输入数据，确定所述拟合配置表中的各所述分段区间的拟合参数；根据所述拟合参数，配置得到各所述分段区间对应所述拟配置函数的配置拟合函数。在其中一个实施例中，所述方法还包括创建拟合配置表，所述创建拟合配置表包括如下步骤：获取激活函数；根据预设规则选取所述激活函数的采样点；根据所述激活函数计算各所述采样点的函数值；根据所述采样点以及所述采样点的函数值对所述激活函数进行拟合运算，得到拟合配置表。在其中一个实施例中，所述获取激活函数包括：获取所述激活函数的定义域；以及获取所述激活函数的切分段数。在其中一个实施例中，所述根据预设规则选取所述激活函数的采样点，包括：根据所述切分段数，在每个分段中选取所述采样点。在其中一个实施例中，所述根据所述采样点以及所述采样点的函数值对所述激活函数进行拟合运算，得到拟合配置表包括：通过最小二乘法对所述激活函数进行拟合运算，得到拟合配置表。在其中一个实施例中，所述方法还包括：确定所述激活函数包含的各函数点的斜率；根据所述各函数点的斜率，在所述各函数点中，确定子区间的端点；根据所述激活函数的起始函数点、终止函数点和确定出的子区间的端点，将所述激活函数对应的定义域划分为至少一个子区间；针对每个子区间，根据该子区间包含的各函数点的斜率和预设的分段区间端点确定规则，在该子区间包含的各函数点中，确定分段区间的端点；根据该子区间的起始函数点、终止函数点和确定出的分段区间的端点，将该子区间对应的定义域划分为至少一个分段区间。在其中一个实施例中，所述根据所述各函数点的斜率，在所述各函数点中，确定子区间的端点，包括：针对所述激活函数包含的各函数点中的每个函数点，确定与该函数点相邻的第一函数点和第二函数点，所述第一函数点的自变量小于该函数点的自变量，所述第二函数点的自变量大于该函数点的自变量；计算该函数点的斜率与所述第一函数点的斜率的第一差值，并计算该函数点的斜率与所述第二函数点的斜率的第二差值；如果所述第一差值和所述第二差值均为正数或负数，则确定该函数点为子区间的端点。在其中一个实施例中，所述针对每个子区间，根据该子区间包含的各函数点的斜率和预设的分段区间端点确定规则，在该子区间包含的各函数点中，确定分段区间的端点，包括：针对每个子区间，从该子区间的起始函数点开始，将斜率与该子区间的起始函数点的斜率的差值的绝对值等于第一预设差值阈值的函数点，确定为第一分段区间的端点；从所述第一分段区间的端点开始，将斜率与所述第一分段区间的端点的斜率的差值的绝对值等于所述第一预设差值阈值的函数点，确定为第二分段区间的端点，直到该子区间的终止函数点的斜率与所述第二分段区间的端点的斜率的差值的绝对值小于或等于所述第一预设差值阈值。在其中一个实施例中，所述针对每个子区间，根据该子区间包含的各函数点的斜率和预设的分段区间端点确定规则，在该子区间包含的各函数点中，确定分段区间的端点，包括：针对每个子区间，从该子区间的终止函数点开始，将斜率与该子区间的终止函数点的斜率的差值的绝对值等于第二预设差值阈值的函数点，确定为第三分段区间的端点；从所述第三分段区间的端点开始，将斜率与所述第三分段区间的端点的斜率的差值的绝对值等于所述第二预设差值阈值的函数点，确定为第四分段区间的端点，直到该子区间的起始函数点的斜率与所述第四分段区间的端点的斜率的差值的绝对值小于或等于所述第二预设差值阈值。在其中一个实施例中，所述方法还包括：针对每个分段区间，确定该分段区间的起始函数点的函数值与终止函数点的函数值的第三差值；在差值与拟合函数的对应关系中，确定所述第三差值对应的目标拟合函数，并将所述目标拟合函数确定为该分段区间对应的拟合函数。一种数据处理装置，所述装置包括：接口模块，用于获取激活函数的拟合配置表和输入数据；比较模块，用于判断所述输入数据对应所述拟合配置表中的分段区间；以及用于根据所述输入数据对应所述拟合配置表中的分段区间，确定所述拟合配置表中对应的配置信息；运算模块，用于根据所述拟合配置表对所述输入数据执行拟合运算，得到所述激活函数的输出数据。一种板卡，应用于异构计算架构中，所述板卡包括：多个人工智能处理器，所述多个人工智能处理器对应的内存为多通道内存；其中，目标人工智能处理器用于在通过目标并行线程接收通用处理器CPU发出的人工智能处理器计算指令后，通过与所述目标并行线程对应的内存通道，根据所述人工智能处理器计算指令对所述内存通道对应的物理内存进行访问；所述目标人工智能处理器为所述多个人工智能处理器中的任一人工智能处理器，所述目标并行线程为所述CPU启动的多个并行线程中本文档来自技高网...

【技术保护点】
1.一种数据处理方法，其特征在于，所述方法包括：/n获取激活函数的拟合配置表和输入数据；/n判断所述输入数据对应所述拟合配置表中的分段区间；/n根据所述输入数据对应所述拟合配置表中的分段区间，确定所述输入数据在所述拟合配置表中对应的配置信息；/n根据所述配置信息对所述输入数据执行拟合运算，得到所述激活函数的输出数据。/n

【技术特征摘要】
20181218 CN 20181155413421.一种数据处理方法，其特征在于，所述方法包括：
获取激活函数的拟合配置表和输入数据；
判断所述输入数据对应所述拟合配置表中的分段区间；
根据所述输入数据对应所述拟合配置表中的分段区间，确定所述输入数据在所述拟合配置表中对应的配置信息；
根据所述配置信息对所述输入数据执行拟合运算，得到所述激活函数的输出数据。


2.根据权利要求1所述的方法，其特征在于，所述根据所述配置信息对所述输入数据执行拟合运算，得到所述激活函数的输出数据包括：
获取硬件指令集；
根据所述硬件指令集和所述配置信息，编译生成控制指令；
将所述控制指令翻译为机器指令；
根据所述配置信息及机器指令对所述输入数据执行拟合运算，得到所述激活函数的输出数据。


3.根据权利要求1所述的方法，其特征在于，所述根据所述输入数据对应所述拟合配置表中的分段区间，确定所述输入数据在所述拟合配置表中对应的配置信息包括：
根据所述输入数据，确定各所述分段区间的区间拟合函数。


4.根据权利要求1所述的方法，其特征在于，所述根据所述输入数据对应所述拟合配置表中的分段区间，确定所述输入数据在所述拟合配置表中对应的配置信息包括：
获取所述激活函数的拟配置函数；
根据所述输入数据，确定所述拟合配置表中的各所述分段区间的拟合参数；
根据所述拟合参数，配置得到各所述分段区间对应所述拟配置函数的配置拟合函数。


5.根据权利要求1所述的方法，其特征在于，所述方法还包括创建拟合配置表，所述创建拟合配置表包括如下步骤：
获取激活函数；
根据预设规则选取所述激活函数的采样点；
根据所述激活函数计算各所述采样点的函数值；
根据所述采样点以及所述采样点的函数值对所述激活函数进行拟合运算，得到拟合配置表。


6.根据权利要求5所述的方法，其特征在于，所述获取激活函数包括：
获取所述激活函数的定义域；以及
获取所述激活函数的切分段数。


7.根据权利要求5所述的方法，其特征在于，所述根据预设规则选取所述激活函数的采样点，包括：
根据所述切分段数，在每个分段中选取所述采样点。


8.根据权利要求5所述的方法，其特征在于，所述根据所述采样点以及所述采样点的函数值对所述激活函数进行拟合运算，得到拟合配置表包括：
通过最小二乘法对所述激活函数进行拟合运算，得到拟合配置表。


9.根据权利要求1所述的方法，其特征在于，所述方法还包括：
确定所述激活函数包含的各函数点的斜率；
根据所述各函数点的斜率，在所述各函数点中，确定子区间的端点；
根据所述激活函数的起始函数点、终止函数点和确定出的子区间的端点，将所述激活函数对应的定义域划分为至少一个子区间；
针对每个子区间，根据该子区间包含的各函数点的斜率和预设的分段区间端点确定规则，在该子区间包含的各函数点中，确定分段区间的端点；
根据该子区间的起始函数点、终止函数点和确定出的分段区间的端点，将该子区间对应的定义域划分为至少一个分段区间。


10.根据权利要求9所述的方法，其特征在于，所述根据所述各函数点的斜率，在所述各函数点中，确定子区间的端点，包括：
针对所述激活函数包含的各函数点中的每个函数点，确定与该函数点相邻的第一函数点和第二函数点，所述第一函数点的自变量小于该函数点的自变量，所述第二函数点的自变量大于该函数点的自变量；<...

【专利技术属性】
技术研发人员：不公告发明人，
申请(专利权)人：中科寒武纪科技股份有限公司，
类型：发明
国别省市：北京;11