一种基于区间算法的神经网络损失层设计方法技术

本发明专利技术公开了一种基于区间算法的神经网络损失层设计方法，包括如下步骤：1)基于传统神经网络的损失层进行设计，获取区间损失层的特征输入元素；2)将区间形式的输入元素，与对应的真实值做减法，获得每个元素对应的最大距离以及最小距离值；3)获得单个训练样本的最大损失值和最小损失值；4)将所有所述的训练样本按照步骤3)的方法获得最大损失值和最小损失值后取平均，获得本次训练的区间损失值。本发明专利技术和现有技术相比，将损失层的输入值，以及输出值，定义成区间数据类型，从而形成区间损失层，该区间损失层能够处理不确定的有一定范围的输入值，并输出可靠的区间值，弥补了神经网络无法处理区间数据的不足。

A neural network loss layer design method based on interval algorithm

The invention discloses a neural network loss layer design method based on the interval algorithm, which includes the following steps: 1) design the loss layer based on the traditional neural network, obtain the characteristic input element of the interval loss layer; 2) subtract the input element in the interval form, and the corresponding real real value, and obtain the most corresponding of each element. Large and minimum distance values; 3) get the maximum loss value and the minimum loss value of the individual training sample; 4) get the maximum loss value and the minimum loss value of all the training samples according to step 3), and get the interval loss value of this training. Compared with the existing technology, the input value and output value of the loss layer are defined as the interval data type, and the interval loss layer is formed. The interval loss layer can handle the uncertain range of input values and output reliable interval values to make up for the inability of the neural network to deal with the interval data.

【技术实现步骤摘要】
一种基于区间算法的神经网络损失层设计方法
本专利技术涉及人工智能领域，具体地说是一种基于区间算法的神经网络损失层设计方法。
技术介绍
神经网络技术时下非常流行，它模拟人脑神经元的连接方式，在模式识别等领域获得了很多的成功。神经网络需要先进行训练，之后才能正确预测。训练时一般需要计算损失函数，即神经网络预测值与真实值得差距大小，距离越大说明神经网络性能越差，反之越好。通过获取的损失函数值可以在神经网络中反向传播，从而优化神经网络的参数，获得性能更好的神经网络。现实生活中存在很多并不能被准确数值描述的数据，同时某些精确数值也不可能被机器精确地表述，因此衍生出来区间算法来处理这类数据。为了使这类数据也能够利用神经网络技术解决问题，特此引入区间神经网络损失层设计方法。
技术实现思路
本专利技术的技术任务是提供一种基于区间算法的神经网络损失层设计方法。本专利技术的技术任务是按以下方式实现的：一种基于区间算法的神经网络损失层设计方法，包括如下步骤：步骤1)基于传统神经网络的损失层进行设计，获取区间损失层的特征输入元素；步骤2)将区间形式的输入元素，与对应的真实值做减法，获得每个元素对应的最大距离以及最小距离值；步骤3)获得单个训练样本的最大损失值和最小损失值；步骤4)将所有所述的训练样本按照步骤3)的方法获得最大损失值和最小损失值后取平均，获得本次训练的区间损失值。所述的步骤1)中特征输入元素为神经网络的输出预测值，其特点为每个元素均为区间数据类型。所述的步骤3)中单个训练样本的最大损失值获得方法如下：用所有所述的元素对应的最大距离的平方值取平均得到训练样本的最大损失值。所述的步骤3)中单个训练样本的最小损失值获得方法如下：用所有所述的元素对应的最小距离的平方值取平均得到训练样本的最小损失值。所述的步骤4)中获得本次训练的区间损失值，包括：平均最大损失值为区间损失值的上界，平均最小损失值为区间损失值的下界。所述的区间损失层利用了区间算法，包括：加法：[x1，x2]+[y1，y2]＝[x1+x2，y1+y2]减法：[x1，x2]-[y1，y2]＝[x1-y2，x2-y1]乘法：[x1，x2]*[y1，y2]＝[min(x1y1，x2y1，x1y2，x2y2)，max(x1y1，x2y1，x1y2，x2y2)]。所述的传统神经网络的损失层为欧氏距离损失函数，计算方法为：其中，N为训练的样本数目，为神经网络预测值，yn为训练数据的标签。所述的区间损失层融入区间算法的概念，获得区间损失层的输出值，其计算方法如下：其中其中N为训练的样本数目，为神经网络预测值，yn为训练数据的标签，为区间神经网络的输出区间真实值，为区间神经网络的输出区间预测值，i为输出值的每个元素序号。本专利技术的一种基于区间算法的神经网络损失层设计方法和现有技术相比，将损失层的输入值，以及输出值，定义成区间数据类型，从而形成区间损失层；因为实际中许多参数是用区间来表述，该区间损失层能够处理不确定的有一定范围的输入值，并输出可靠的区间值，弥补了神经网络无法处理区间数据的不足；避免了有些高精度浮点数值无法被计算机精确表达的问题，也解决了有些物理上，技术上的参数没有确定值的问题，提高可靠性。附图说明附图1为一种基于区间算法的神经网络损失层设计方法的运算示意图。具体实施方式实施例1：一种基于区间算法的神经网络损失层设计方法，包括如下步骤：步骤1)基于传统神经网络的损失层进行设计，获取区间损失层的特征输入元素；所述的特征输入元素为神经网络的输出预测值，其特点为每个元素均为区间数据类型；步骤2)将区间形式的输入元素，与对应的真实值做减法，获得每个元素对应的最大距离以及最小距离值；步骤3)获得单个训练样本的最大损失值和最小损失值；所述的单个训练样本的最大损失值获得方法如下：用所有所述的元素对应的最大距离的平方值取平均得到训练样本的最大损失值。所述的单个训练样本的最小损失值获得方法如下：用所有所述的元素对应的最小距离的平方值取平均得到训练样本的最小损失值。步骤4)将所有所述的训练样本按照步骤3)的方法获得最大损失值和最小损失值后取平均，获得本次训练的区间损失值，包括：平均最大损失值为区间损失值的上界，平均最小损失值为区间损失值的下界。所述的区间损失层利用了区间算法，包括：加法：[x1，x2]+[y1，y2]＝[x1+x2，y1+y2]减法：[x1，x2]-[y1，y2]＝[x1-y2，x2-y1]乘法：[x1，x2]*[y1，y2]＝[min(x1y1，x2y1，x1y2，x2y2)，max(x1y1，x2y1，x1y2，x2y2)]。所述的传统神经网络的损失层为欧氏距离损失函数，计算方法为：其中，N为训练的样本数目，为神经网络预测值，yn为训练数据的标签。所述的区间损失层融入区间算法的概念，获得区间损失层的输出值，其计算方法如下：其中其中N为训练的样本数目，为神经网络预测值，yn为训练数据的标签，为区间神经网络的输出区间真实值，为区间神经网络的输出区间预测值，i为输出值的每个元素序号。该公式描述为：区间损失值的上界由每个神经网络区间输出值与对应真实值的最大距离组成，下界由每个神经网络区间输出值与对应真实值的最小距离组成。所述的区间损失层能够与其他相关区间技术以及神经网络技术相结合，构建区间神经网络，利用神经网络技术解决区间数据相关问题。通过上面具体实施方式，所述
的技术人员可容易的实现本专利技术。但是应当理解，本专利技术并不限于上述的几种具体实施方式。在公开的实施方式的基础上，所述
的技术人员可任意组合不同的技术特征，从而实现不同的技术方案。本文档来自技高网...

【技术保护点】
1.一种基于区间算法的神经网络损失层设计方法，其特征在于，包括如下步骤：步骤1)基于传统神经网络的损失层进行设计，获取区间损失层的特征输入元素；步骤2)将区间形式的输入元素，与对应的真实值做减法，获得每个元素对应的最大距离以及最小距离值；步骤3)获得单个训练样本的最大损失值和最小损失值；步骤4)将所有所述的训练样本按照步骤3)的方法获得最大损失值和最小损失值后取平均，获得本次训练的区间损失值。

【技术特征摘要】
1.一种基于区间算法的神经网络损失层设计方法，其特征在于，包括如下步骤：步骤1)基于传统神经网络的损失层进行设计，获取区间损失层的特征输入元素；步骤2)将区间形式的输入元素，与对应的真实值做减法，获得每个元素对应的最大距离以及最小距离值；步骤3)获得单个训练样本的最大损失值和最小损失值；步骤4)将所有所述的训练样本按照步骤3)的方法获得最大损失值和最小损失值后取平均，获得本次训练的区间损失值。2.根据权利要求1所述的方法，其特征在于，所述的步骤1)中特征输入元素为神经网络的输出预测值，其特点为每个元素均为区间数据类型。3.根据权利要求1所述的方法，其特征在于，所述的步骤3)中单个训练样本的最大损失值获得方法如下：用所有所述的元素对应的最大距离的平方值取平均得到训练样本的最大损失值。4.根据权利要求1所述的方法，其特征在于，所述的步骤3)中单个训练样本的最小损失值获得方法如下：用所有所述的元素对应的最小距离的平方值取平均得到训练样本的最小损失值。5.根据权利要求1所述的方法，其特征在于，所述...

【专利技术属性】
技术研发人员：周玉山，段成德，于治楼，
申请(专利权)人：济南浪潮高新科技投资发展有限公司，
类型：发明
国别省市：山东,37