数据处理系统及其数据处理方法技术方案

本发明专利技术公开了一种数据处理系统以及一种数据处理方法，该数据处理系统包含有至少一信号处理单元以及至少一神经网络层。至少一信号处理单元中的一第一信号处理单元利用至少一第一参数进行信号处理。至少一神经网络层中的一第一神经网络层具有至少一第二参数，至少一第一参数与至少一第二参数一并训练。

【技术实现步骤摘要】
数据处理系统及其数据处理方法
本专利技术指一种数据处理系统及其数据处理方法，尤指可针对整体系统进行优化并减少时间及人力耗费的一种数据处理系统及其数据处理方法。
技术介绍
在深度学习(deeplearning)技术中，神经网络(neuralnetwork)可包含有神经元集合，且可具有类似于生物神经网络的结构或功能。神经网络可为多种应用提供有用的技术，特别是与数字信号处理相关的应用，例如影像或音频等数据处理，而这些应用若藉由现有的数字信号处理则会相当繁杂。举例来说，数字信号处理的参数须藉由人工调整(Manualadjustment)，而耗费时间及人力。神经网络则可藉由大量数据和自动训练而建立优化的神经网络，因此有利于处理复杂的任务或数据。
技术实现思路
因此，本专利技术主要提供一种数据处理系统及其数据处理方法，以针对整体系统进行优化并减少时间及人力耗费。本专利技术公开一种数据处理系统，包含有至少一信号处理单元以及至少一神经网络层。至少一信号处理单元中的一第一信号处理单元利用至少一第一参数进行信号处理。至少一神经网络层中的一第一神经网络层具有至少一第二参数，至少一第一参数与至少一第二参数一并训练(trainedjointly)。本专利技术另公开一种数据处理方法，适用于一数据处理系统，包含有判断数据处理系统的至少一信号处理单元与至少一神经网络层；藉由一算法自动调整至少一第一参数与至少一第二参数；以及依据至少一第一参数与至少一第二参数，计算数据处理系统的输出。至少一信号处理单元中的一第一信号处理单元利用至少一第一参数进行信号处理，至少一神经网络层中的一第一神经网络层具有至少一第二参数。附图说明图1为本专利技术实施例一神经网络的局部示意图。图2至图4分别为本专利技术实施例一数据处理系统的示意图。图5为本专利技术实施例一数据处理方法的流程图。图6至图9分别为本专利技术实施例一数据处理系统的示意图。附图标记说明：20、30、40、60、70、80、90-数据处理系统；50-数据处理方法；110、210、310、410、910-神经网络；320、420、920-信号处理模块；500～508-步骤；620U1、620U2、720U、820U1、820U2、820U5、920U1～920U5-信号处理单元；Din-输入；M1～M3、M7、M8-资料；Dout-输出；LR1～LR3、610LR1～610LR7、710LR1～710LR3、810LR1～810LRn、910LR1、910LR2-神经网络层；NR11～NR12、NR21～NR23、NR31～NR32-神经元；W1121～W1221、W2131～W2331-参数。具体实施方式在通篇说明书及后续的权利要求当中所提及的「包括」为一开放式的用语，故应解释成「包括但不限定于」。在通篇说明书及后续的权利要求当中所提及的「第一」、「第二」等叙述，仅用以区别不同的组件，并不对其产生顺序的限制。请参考图1，图1为本专利技术实施例一神经网络(neuralnetwork)110的局部示意图。在一些实施例中，神经网络110可以是运算单元或由运算单元执行的方法。神经网络110包含有神经网络层LR1～LR3，神经网络层LR1～LR3分别包含有神经元(neuron)NR11～NR12、NR21～NR23、NR31～NR32。神经元NR11～NR12接收输入至神经网络110的数据，且神经网络110藉由神经元NR31～NR32输出数据。神经网络层LR1～LR3分别具有至少一参数(又可称为第二参数)。举例来说，W1121代表神经元NR11自神经元NR21的参数，广义来说，即神经网络层LR1或神经网络层LR2具有参数W1121。类似地，W1221代表神经元NR12自神经元NR21的参数，W2131代表神经元NR21自神经元NR31的参数，W2231代表神经元NR22自神经元NR31的参数，W2331代表神经元NR23自神经元NR31的参数。依据前向传播(ForwardPropagation)，神经元NR21的输入值iNR21为神经元NR11的输出oNR11乘以参数W1121加上神经元NR12的输出oNR12乘以参数W1221，之后再经过启用函式(activationfunction)F，也就是说，iNR21＝F(oNR11*W1121+oNR12*W1221)。神经元NR21的输出oNR21为其输入值iNR21的函数。类似地，神经元NR31的输入值iNR31为神经元NR21的输出oNR21乘以参数W2131加上神经元NR22的输出oNR22乘以参数W2231加上神经元NR23的输出oNR23乘以参数W2331，之后再经过启用函式F，也就是说，iNR31＝F(oNR21*W2131+oNR22*W2231+oNR23*W2331)。神经元NR31的输出oNR31为其输入值iNR31的函数。由上述可知，神经元NR31的输出oNR31为参数W1121～W2331的函数。请参考图2，图2为本专利技术实施例一数据处理系统20的示意图。数据处理系统20接收一输入Din，并发送一输出Dout。数据处理系统20包含有一神经网络210，神经网络210包含有多个神经网络层(例如图1所示的神经网络层LR1～LR3)。神经网络210的每一神经网络层分别包含有至少一神经元(例如图1所示的神经元NR11～NR32)。请参考图3，图3为本专利技术实施例一数据处理系统30的示意图。类似于数据处理系统20，数据处理系统30包含有一神经网络310，其可包含有多个神经网络层，且每一神经网络层分别包含有至少一神经元。不同于数据处理系统20，数据处理系统30另包含有一信号处理模块320，其可用来提供现有的数字信号处理(digitalsignalprocessing)的功能作为整体数据处理系统的部分功能，而神经网络310则是用来作为整体数据处理系统的另一部分的功能区块。信号处理模块320可藉由处理器(processor)而实现，例如藉由数字信号处理器(digitalsignalprocessor)而实现。也就是说，数据处理系统30将数据处理分阶段为多个任务，部分的任务由神经网络310处理，部分的任务由信号处理模块320处理。然而，分阶段需要人工介入设计。并且，信号处理模块320的参数(即参数的值)一旦经由人工确定后，神经网络310在训练过程中不会再改变信号处理模块320的参数。基于信号处理模块320的参数须藉由人工调整(Manualadjustment)，意即须藉由手动输入或调整参数，而耗费时间及人力。再者，数据处理系统30仅能针对各阶段优化，无法针对整体系统进行优化。图3的信号处理模块320的信号处理单元所运用的信号处理算法(例如数字信号处理算法)可提供数据处理系统30所需的部分功能，为了加速整体系统开发，并且为了减少时间及人力负担，在一些实施例中，可将信号处理单元嵌入神经网络，组成整体数据处理系统。请参考图4，图4为本专利技术实施例一数据处理系统40的示意图。数据处理系统40包含本文档来自技高网...

【技术保护点】
1.一种数据处理系统，其特征在于，包含有：/n至少一信号处理单元，其中，该至少一信号处理单元中的一第一信号处理单元利用至少一第一参数进行信号处理；以及/n至少一神经网络层，其中，该至少一神经网络层中的一第一神经网络层具有至少一第二参数，该至少一第一参数与该至少一第二参数一并训练。/n

【技术特征摘要】
20191115 TW 108141621;20191001 US 62/908,6091.一种数据处理系统，其特征在于，包含有：
至少一信号处理单元，其中，该至少一信号处理单元中的一第一信号处理单元利用至少一第一参数进行信号处理；以及
至少一神经网络层，其中，该至少一神经网络层中的一第一神经网络层具有至少一第二参数，该至少一第一参数与该至少一第二参数一并训练。


2.如权利要求1所述的数据处理系统，其特征在于，该至少一第一参数与该至少一第二参数为可变的，该至少一第一参数与该至少一第二参数藉由一算法而自动调整。


3.如权利要求1所述的数据处理系统，其特征在于，该数据处理系统的输出为该至少一第一参数与该至少一第二参数的函数，而相关于该至少一第一参数与该至少一第二参数。


4.如权利要求1所述的数据处理系统，其特征在于，该第一信号处理单元接收至少一第一数据，该第一神经网络层接收至少一第二数据，部分或全部的该至少一第一数据相同于部分或全部的该至少一第二数据。


5.如权利要求1所述的数据处理系统，其特征在于，该第一信号处理单元输出的至少一第三数据与该第一神经网络层输出的至少一第四数据进行结合，结合方式包括但不仅限于串接或加总。


6.如权利要求1所述的数据处理系统，其特征在于，该第一信号处理单元自该第一神经网络层接收至少一第一数据或将该至少一第一数据传送至该第一神经网络层。


7.如权利要求1所述的数据处理系统，其特征在于，该至少一神经网络层中的一者包括卷积神经网络、递归神经网络、前馈类神经网络、长短期记忆网络、门控循环单元、注意力机制、启用函式、全连接层或池化层。


8.如权利要求1所述的数据处理系统，其特征在于，该至少一信号处理单元中的一者执行傅立叶变换、余弦转换、傅立叶逆转换或余弦反转换、加窗或框化。


9.如权利要求1所述的数据处理系统，其特征在于，藉由一算法，该至少一第一参数及该至少一第二参数逐渐收敛...

【专利技术属性】
技术研发人员：林永隆，高肇阳，郭皇志，
申请(专利权)人：创鑫智慧股份有限公司，
类型：发明
国别省市：中国台湾;71