神经网络模型训练方法与系统技术方案

一种神经网络模型训练方法，包含：接收影像数据；利用该影像数据进行卷积计算；利用该影像数据进行非线性卷算；以及根据该卷积计算的结果与该非线性卷算的结果进行分类，其中该卷积计算的结果系根据该影像数据与屏蔽的多个乘积和所产生，该非线性卷算结果系根据该影像数据、屏蔽、一数学操作数与一非线性操作数所产生。本申请所提供的神经网络模型训练方法可以透过深度学习，分别训练线性与非线性的运算参数，使得该神经网络模型所撷取的特征具有高鉴别度，其有利于后续分类运算之用。据此得到的类神经网络模型对影像的某些特征更敏感，能够检测出具有这些细微特征的影像。能够检测出具有这些细微特征的影像。能够检测出具有这些细微特征的影像。

【技术实现步骤摘要】
神经网络模型训练方法与系统


[0001]本申请系关于人工智能，特别系关于以类神经网络实施的人工智能。

技术介绍

[0002]计算器学习是实施人工智能的主要方法之一。特别是以类神经网络(neural network)组织的算法进行计算器学习与训练，是近年来实施人工智能的主流。
[0003]人工智能的主流应用之一为图像处理与辨识。先利用一些已知分类的影像对某一类神经网络模型进行训练，再利用已经训练完成的该类神经网络模型对未知的影像进行分类。然而，如何让类神经网络模型对影像的某些特征更敏感，能够检测出具有这些细微特征的影像，是亟待解决的问题。

技术实现思路

[0004]根据本申请一实施例，提供一种神经网络模型训练方法，包含：接收影像数据；利用该影像数据进行卷积计算；利用该影像数据进行非线性卷算；以及根据该卷积计算的结果与该非线性卷算的结果进行分类，其中该卷积计算的结果系根据该影像数据与屏蔽的多个乘积和所产生，该非线性卷算结果系根据该影像数据、屏蔽、一数学操作数与一非线性操作数所产生。
[0005]优选地，为了进行多次循环计算，该神经网络模型训练方法更包含多次该卷积计算，第二次之后的该卷积计算系利用前一次卷积计算的结果作为该影像数据进行卷积计算，其中该分类步骤更根据每一次该卷积计算的结果进行分类。
[0006]优选地，为了进行多次循环计算，该神经网络模型训练方法更包含多次该非线性卷算，第二次之后的该非线性卷算系利用前一次非线性卷算的结果作为该影像数据进行非线性卷算，其中该分类步骤更根据每一次该非线性卷算的结果进行分类。
[0007]优选地，为了提供计算上的弹性、节省计算资源与非线性的表现，其中每一次该卷积计算更包含下列步骤的其中之一或其任意组合：更动该卷积计算的结果的维度；以及根据一活化函式更新该卷积计算的结果。
[0008]优选地，为了提供计算上的弹性、节省计算资源与非线性的表现，其中每一次该非线性卷算更包含下列步骤其中之一或其任意组合：更动该非线性卷算的结果的维度；以及根据一活化函式更新该非线性卷算的结果。
[0009]优选地，为了让非线性卷算前后的影像尺寸不变，该非线性卷算更包含将该影像数据扩充N圈，其中N为正整数，该扩充部分的填充值相应于该非线性操作数。
[0010]优选地，为了让填充值符合该非线性操作数的运算特性，其中当该非线性操作数为取最大值时，该扩充部分的填充值为其数值范围的最小值；当该非线性操作数为取最小值时，该扩充部分的填充值为其数值范围的最大值；以及当该非线性操作数为取平均值时，该扩充部分的填充值等于其位置最接近的数值数据的值。
[0011]优选地，为了呈现非线性的表现形式，其中该数学操作数包含下列其中之一：加
法、减法、乘法、除法与次方值。
[0012]优选地，为了呈现非线性的表现形式，其中该非线性操作数包含下列其中之一：取最大值、取最小值与取平均值。
[0013]根据本申请一实施例，提供一种神经网络模型训练系统，包含：一内存，用于储存一神经网络模型；以及一处理器，用于执行储存于非挥发性内存内的多个指令，以便实现上述的神经网络模型训练方法以训练该神经网络模型。
[0014]如前所述，本申请所提供的神经网络模型训练方法与系统，可以透过深度学习，分别训练线性与非线性的运算参数，使得该神经网络模型所撷取的特征具有高鉴别度，其有利于后续分类运算之用。据此得到的类神经网络模型对影像的某些特征更敏感，能够检测出具有这些细微特征的影像。
附图说明
[0015]图1为根据本申请一实施例的一神经网络训练系统100的一方框示意图。
[0016]图2为根据本申请一实施例的一神经网络学习方法200的一流程示意图。
[0017]图3为根据本申请一实施例的卷积计算方法220的一流程示意图。
[0018]图4为根据本申请一实施例的非线性卷算方法230的一流程示意图。
[0019]图5为根据本申请一实施例的卷积步骤310的一流程示意图。
[0020]图6为根据本申请一实施例的非线性卷算步骤410的一流程示意图。
[0021]图7(a)为输入影像的一范例，其尺寸为7
×
7。
[0022]图7(b)为步骤520所使用之屏蔽的一范例。
[0023]图7(c)为步骤620所使用之屏蔽的一范例。
[0024]图8(a)至图8(e)为根据本申请一实施例的非线性卷算步骤410的计算过程示意图。
[0025]图9(a)至图9(e)为根据本申请另一实施例的非线性卷算步骤410的计算过程示意图。
具体实施方式
[0026]本领域的普通技术人员可以理解到，本专利技术实施例提供之方法所包含的各个步骤，其执行顺序未必依照该实施例所示的顺序，除非各个步骤之间有特别说明的依存关系，否则本专利技术并不限定各个步骤之间的执行顺序。除此之外，在不影响本专利技术所提供之精神的情况下，各个步骤之间可以插入其他步骤。如此衍生出的实作范例，也会落入本专利技术的范围当中。
[0027]请参考图1所示，其为根据本申请一实施例的一神经网络训练系统100的一方框示意图。该神经网络训练系统100包含一中央处理器110，可以执行一操作系统，以便控制该神经网络训练系统100的作动。本申请并不限定该中央处理器110所使用的指令集，也不限定其所使用的操作系统。举例来说，该中央处理器110可以包含一或多个处理器芯片，每一个处理器芯片可以包含一或多个处理器核心。该处理器核心所使用的指令集可以包含普通数值与逻辑运算(Arithmetic and Logic Operations)，也可以包含特殊的向量指令，特别适用于处理神经网络。
[0028]该神经网络训练系统100可以包含一输出入接口120，用于连接各种输出装置180与输入设备190。举例来说，上述的输出装置180可以包含扬声器、蜂鸣器、以及灯光，用于发出声光以便提示或警示使用者。上述的输入设备190可以包含键盘、鼠标、轨迹球、触控面板、扫描仪、麦克风等装置，用于将外界的讯息输入到该神经网络训练系统100。该输出入接口120还可以连接到有线与无线网络装置，例如常见的蓝芽、WiFi、IEEE 802.3、第四代或第五代无线通信系统等。
[0029]该输出入接口120可以用于连接影像感测装置160与/或储存装置170。该影像感测装置160可以包含摄影或摄像感测元器件，用于感测各种光谱的光线。该影像感测装置160可以包含一缓冲存储器，用于暂存感测到的影像，稍后在传输到中央处理器110与/或内存130。在一实施例中，该影像感测装置160可以是内视镜。该储存装置170可以是传统的软盘驱动器、光驱、硬盘机、或固态电子储存装置。在一实施例中，该影像感测装置160与该储存装置170可以是一体的。
[0030]该内存130可以包含多级(stage)的内存，例如动态随机存取内存与静态随机存取内存的阶层(hierarchy)。该内存130可以用于储本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种神经网络模型训练方法，包含：接收影像数据；利用该影像数据进行卷积计算；利用该影像数据进行非线性卷算；以及根据该卷积计算的结果与该非线性卷算的结果进行分类，其中该卷积计算的结果系根据该影像数据与屏蔽的多个乘积和所产生，该非线性卷算的结果系根据该影像数据、屏蔽、一数学操作数与一非线性操作数所产生。2.如请求项1所述的神经网络模型训练方法，更包含：多次该卷积计算，第二次之后的该卷积计算系利用前一次卷积计算的结果作为该影像数据进行卷积计算，其中该分类步骤更根据每一次该卷积计算的结果进行分类。3.如请求项1所述的神经网络模型训练方法，更包含：多次该非线性卷算，第二次之后的该非线性卷算系利用前一次非线性卷算的结果作为该影像数据进行非线性卷算，其中该分类步骤更根据每一次该非线性卷算的结果进行分类。4.如请求项1所述的神经网络模型训练方法，其中每一次该卷积计算更包含下列步骤的其中之一或其任意组合：更动该卷积计算的结果的维度；以及根据一活化函式更新该卷积计算的结果。5.如请求项3所述的神经网络模型训练方法，其中每一次该非线性卷算更包含下...

【专利技术属性】
技术研发人员：吴易达，萧光廷，
申请(专利权)人：瑞泰生医科技香港有限公司，
类型：发明
国别省市：