基于人工智能的神经网络参数配置方法及装置制造方法及图纸

本发明专利技术公开了一种基于人工智能的神经网络参数配置方法及装置，该方法包括：利用预设算法对所述神经网络的输入信号的自相关矩阵进行处理，得到对称矩阵；根据所述对称矩阵的主对角线元素确定矩阵特征值；根据所述矩阵特征值，确定所述自相关矩阵的逆矩阵；根据所述逆矩阵配置所述神经网络参数的初始化值。本发明专利技术实施例能够解决现有技术中存在神经网络参数配置不准确的问题。

Parameter configuration method and device of neural network based on Artificial Intelligence

【技术实现步骤摘要】
基于人工智能的神经网络参数配置方法及装置
本专利技术涉及人工智能
，尤指一种基于人工智能的神经网络参数配置方法及装置。
技术介绍
人工神经网络是对生物神经网络的一种模拟和近似，是由大量神经元通过相互连接而构成的自适应非线性动态网络系统。在众多的网络结构系统中，由于多层人工神经网络具有非常优异的特征学习能力，从而成为人工神经网络发展的主要方向。多层神经网络使用反向传播算法进行迭代训练，每一层的计算依靠上一层的计算结果，在这个过程中，误差会自上而下的传播。我们通过计算输出值和实际值之间的差值，采用梯度下降法算法不断更新偏向和权重，最小化误差，达到最后设置的期望值。上述神经网络存在两个问题:第一，神经网络每次训练不一定会得到全局最优解，三层以上的神经网络训练时可能会陷入局部最优解；第二，要想分类更多的超曲面，我们需要训练三层以上的网络，这样会导致参数太多，算法的效率就会下降。当学习模型过于复杂导致待估计的参数个数远远多于训练样本个数时，学习模型容易收敛于训练集数据从而在测试集数据上的表现变差。通过实践发现，问题的关键不是学习模型的复杂性，而在于待估计参数的初始化问题。传统的人工智能算法采用随机化权重系数和偏置项的方式对参数进行初始化，在参数个数很多的时候，此方法会大概率收敛到一个表现很差的局部极值。
技术实现思路
本专利技术实施例提供一种基于人工智能的神经网络参数配置方法及装置，用以解决现有技术中存在神经网络参数配置不准确的问题。本专利技术实施例提供一种基于人工智能的神经网络参数配置方法，所述方法，包括：利用预设算法对所述神经网络的输入信号的自相关矩阵进行处理，得到对称矩阵；根据所述对称矩阵的主对角线元素确定矩阵特征值；根据所述矩阵特征值，确定所述自相关矩阵的逆矩阵；根据所述逆矩阵配置所述神经网络参数的初始化值。优选地，所述利用预设算法对所述神经网络的输入信号的自相关矩阵进行处理，包括：利用构建所述预设算法的旋转变换矩阵；所述旋转变换矩阵的逆矩阵为自身的转置矩阵；所述sinθ和cosθ由以下公式计算：sinθ＝tcosθ；其中，app为所述自相关矩阵中元素；通过所述旋转变换矩阵对所述自相关矩阵按照预设次数进行平面旋转得到对称矩阵；k为小于等于预设次数的正整数。优选地，所述通过所述旋转变换矩阵对所述自相关矩阵Ak按照预设次数进行平面旋转得到对称矩阵，包括：按照公式对所述自相关矩阵进行7次平面旋转得到对称矩阵；其中，Ak为自相关矩阵，k为小于等于7的正整数。优选地，所述根据所述对称矩阵的主对角线元素确定矩阵特征值，包括：确定所述对称矩阵的主对角线元素即为矩阵特征值；为旋转变换矩阵，特征向量为r7的各列向量。优选地，所述根据所述矩阵特征值，确定所述自相关矩阵的逆矩阵，包括：将自相关矩阵左乘特征矩阵的转置，右乘特征矩阵，得到逆矩阵。本专利技术实施例还提供一种基于人工智能的神经网络参数配置装置，所述装置，包括：对称矩阵确定单元、矩阵特征值确定单元、逆矩阵确定单元以及初始化单元；其中，所述对称矩阵确定单元，用于利用预设算法对所述神经网络的输入信号的自相关矩阵进行处理，得到对称矩阵；所述矩阵特征值确定单元，用于根据所述对称矩阵的主对角线元素确定矩阵特征值；所述逆矩阵确定单元，用于根据所述矩阵特征值，确定所述自相关矩阵的逆矩阵；所述初始化单元，用于根据所述逆矩阵配置所述神经网络参数的初始化值。优选地，所述对称矩阵确定单元，利用预设算法对所述神经网络的输入信号的自相关矩阵进行处理，具体为：利用构建所述预设算法的旋转变换矩阵；所述旋转变换矩阵的逆矩阵为自身的转置矩阵；所述sinθ和cosθ由以下公式计算：sinθ＝tcosθ；其中，app为所述自相关矩阵中元素；通过所述旋转变换矩阵对所述自相关矩阵按照预设次数进行平面旋转得到对称矩阵；k为小于等于预设次数的正整数。优选地，所述对称矩阵确定单元，通过所述旋转变换矩阵对所述自相关矩阵Ak按照预设次数进行平面旋转得到对称矩阵，具体为：按照公式对所述自相关矩阵进行7次平面旋转得到对称矩阵；其中，Ak为自相关矩阵，k为小于等于7的正整数。优选地，所述矩阵特征值确定单元，根据所述对称矩阵的主对角线元素确定矩阵特征值，具体为：确定所述对称矩阵的主对角线元素即为矩阵特征值；为旋转变换矩阵，特征向量为r7的各列向量。优选地，所述逆矩阵确定单元，根据所述矩阵特征值，确定所述自相关矩阵的逆矩阵，具体为：将自相关矩阵左乘特征矩阵的转置，右乘特征矩阵，得到逆矩阵。本专利技术有益效果如下：本专利技术实施例提供的基于人工智能的神经网络参数配置方法及装置，通过利用预设算法对所述神经网络的输入信号的自相关矩阵进行处理，得到对称矩阵；根据所述对称矩阵的主对角线元素确定矩阵特征值；根据所述矩阵特征值，确定所述自相关矩阵的逆矩阵；根据所述逆矩阵配置所述神经网络参数的初始化值。本专利技术实施例由于预设算法的旋转变换矩阵的逆矩阵就是其共轭转置矩阵，因此极大的简化了逆矩阵的计算量，使该算法应用到FPGA进行硬件实现成为可能。本专利技术实施例可以极大的提高人工智能算法中数据的收敛速度，提高人工智能算法的稳定性和可靠性。附图说明图1为本专利技术实施例中基于人工智能的神经网络参数配置方法的流程图；图2为本专利技术实施例中基于人工智能的神经网络参数配置装置的结构示意图。具体实施方式神经网络系数的计算方法是采用最小二乘法实现的。对于每一层网络，都可以看做一组输入信号通过传输网络，输出到下一层网络。通过应用一组输入来研究参数的修正过程。一组输入信号为x，输入和输出之间的权值为ω，所有的输入及对应的连接权值分别构成了输入连接x＝(x1,x2,...xm)，ω＝(ω1,ω2,...ωm)T，其中T为转置符号。因为神经元是线性的，输出y(i)恰为诱导局部域v(i)，即：神经元的输出y(i)和该系统在时刻i的相应输出d(i)作比较，就可以得到误差信号e(i)。神经网络一般利用最小二乘理论来进行反向计算，从而调整连接权值ω，使得e2(t)最小。Rxx表示x的自相关矩阵，Rxd表示输入x和理论输出的互相关矢量。为了使e2(t)最小，需对ω求梯度，然后令其为零。从而得到连接权值的最优解：由上式可知，求解连接权值的最优解必须求得相关矩阵的逆矩阵。针对现有技术中存在的神经网络参数配置不准确的问题，本专利技术实施例提供的基于人工智能的神经网络参数配置方法，首先通过预设算法对自相关矩阵处理，得到对称矩阵，确定所述对称矩阵的矩阵特征值，根据矩阵特征值确定逆矩阵，并根据所述逆矩阵对神经网络参数进行初始化。本专利技术方法的流程如图1所示，执行步骤如下：步骤101，利用预设算法对所述神经网络的输入信号的自相关矩阵进行处理，得到对称矩阵；...

【技术保护点】
1.一种基于人工智能的神经网络参数配置方法，其特征在于，所述方法，包括：/n利用预设算法对所述神经网络的输入信号的自相关矩阵进行处理，得到对称矩阵；/n根据所述对称矩阵的主对角线元素确定矩阵特征值；/n根据所述矩阵特征值，确定所述自相关矩阵的逆矩阵；/n根据所述逆矩阵配置所述神经网络参数的初始化值。/n

【技术特征摘要】
1.一种基于人工智能的神经网络参数配置方法，其特征在于，所述方法，包括：
利用预设算法对所述神经网络的输入信号的自相关矩阵进行处理，得到对称矩阵；
根据所述对称矩阵的主对角线元素确定矩阵特征值；
根据所述矩阵特征值，确定所述自相关矩阵的逆矩阵；
根据所述逆矩阵配置所述神经网络参数的初始化值。


2.根据权利要求1所述的方法，其特征在于，所述利用预设算法对所述神经网络的输入信号的自相关矩阵进行处理，包括：
利用构建所述预设算法的旋转变换矩阵；所述旋转变换矩阵的逆矩阵为自身的转置矩阵，所述sinθ和cosθ由以下公式计算：sinθ＝tcosθ；其中，app为所述自相关矩阵中元素；
通过所述旋转变换矩阵对所述自相关矩阵按照预设次数进行平面旋转得到对称矩阵；k为小于等于预设次数的正整数。


3.根据权利要求2所述的方法，其特征在于，所述通过所述旋转变换矩阵对所述自相关矩阵Ak按照预设次数进行平面旋转得到对称矩阵，包括：
按照公式对所述自相关矩阵进行7次平面旋转得到对称矩阵；其中，Ak为自相关矩阵，k为小于等于7的正整数。


4.根据权利要求3所述的方法，其特征在于，所述根据所述对称矩阵的主对角线元素确定矩阵特征值，包括：
确定所述对称矩阵的主对角线元素即为矩阵特征值；为所述旋转变换矩阵，特征向量为r7的各列向量。


5.根据权利要求1至4任一所述的方法，其特征在于，所述根据所述矩阵特征值，确定所述自相关矩阵的逆矩阵，包括：
将自相关矩阵左乘特征矩阵的转置，右乘特征矩阵，得到逆矩阵。


6.一种基于人工智能的神经网络参数配置装置，其特征在于，所述装置，包括：对称矩阵确定单元、矩阵特征值确定单元、逆...

【专利技术属性】
技术研发人员：王千喜，
申请(专利权)人：航天信息股份有限公司，
类型：发明
国别省市：北京;11