基于局部误差逐层训练的人体姿态识别方法和装置制造方法及图纸

本发明专利技术公开了一种基于局部误差逐层训练的人体姿态识别方法和装置，所述方法包括：S1、获取人体姿态数据，进行降噪、归一化处理；S2、将处理后数据送入卷积神经网络模型进行逐层训练，对人体姿态进行分类识别，当识别结果符合准确率要求时，输出模型；S3、利用训练好的模型对待识别的人体姿态数据进行分类识别。本发明专利技术摆脱了传统卷积神经网络依赖全局误差及反向传播更新网络参数，通过在每层神经网络中构建代价函数，实现逐层反向传播、层层优化、分批更新权重参数。通过避免保存全局梯度流参数实现节省计算机资源，并极大加快训练周期，提高了可穿戴传感器识别精度，在运动辅助、智能家居、医疗康复、虚拟运动场景等领域具有重要应用意义。

Method and device of human body posture recognition based on local error layer by layer training

【技术实现步骤摘要】
基于局部误差逐层训练的人体姿态识别方法和装置
本专利技术涉及人工智能领域的可穿戴式智能检测识别方法，尤其涉及一种基于局部误差的逐层卷积神经网络训练的人体姿态识别方法和装置。
技术介绍
随着传感器技术的不断进步，可穿戴传感器识别已经成为了一个新兴的研究热点，在运动辅助、智能家居、医疗康复、虚拟运动场景和交互式游戏等领域有着广阔的应用前景。另外，科技的发展和制造工艺的不断提高，角速度传感器、陀螺仪传感器、加速度传感器、心率传感器等各种各样的传感器均可内嵌智能手机或智能手环等智能设备当中，这为可穿戴传感器识别技术的商业化发展提供了硬件上的支持。如今计算机计算能力的提升以及互联网上大规模有价值数据的产生，极大的推动了人工智能特别是深度学习在各个领域中的发展，为分析和研究可穿戴传感器识别提供了新的研究思路。深度学习中的卷积神经网络因其强大的层次化表征能力脱颖而出，极大的提高了可穿戴传感器识别精度。然而，基于卷积神经网络搭建的可穿戴传感器识别系统虽然在一定程度上能够完成目标对象的识别，但是受限于传感器数据训练量、全局训练误差耗时耗材等消极因素使识别的准确度存在很大的波动。因此，单一的卷积神经网络应用并不能满足对传感器数据的高精度识别期望，针对传感器数据预处理及基于卷积神经网络的算法改良成为亟待解决的难题。根据当前署名专利技术人的工作发现，传统的基于卷积神经网络可穿戴传感器识别系统通过全局误差实现参数的更新，从而达到训练网络模型的目的。全局误差训练需要保存前向传播和反向梯度流的参数，导致占用了大量计算机内存，并使得训练时间变得极其缓慢。同时，对于普通性质的计算机更是难以实现网络的正常运行，如何降低对硬件设备的需求程度和保证计算精度质量的前提下减轻计算机负荷便成为首要解决的问题。
技术实现思路
专利技术目的：针对上述问题，本专利技术的目的是提供一种基于局部误差的逐层卷积神经网络训练的人体姿态识别方法和识别装置，能够节省计算机资源，并极大加快训练周期，提高可穿戴传感器识别精度。技术方案：根据本专利技术的第一方面，提供一种基于局部误差的逐层卷积神经网络训练的人体姿态识别方法，包括以下步骤：S1、获取人体姿态数据，进行降噪、归一化处理；S2、将处理后数据送入卷积神经网络模型进行逐层训练，对人体姿态进行分类识别，当识别结果符合准确率要求时，输出模型；S3、利用训练好的模型对待识别的人体姿态数据进行分类识别；其中所述卷积神经网络模型在训练时截断全局误差及反向梯度流回传，利用局部误差模型替代全局误差函数，根据前向梯度流的逐层误差更新当前网络参数，实现逐层训练。进一步地，所述步骤S1中利用移动传感器采集人体姿态数据，记录不同肢体动作下的传感器数据，对每种活动类型打上相应标签，利用下采样降噪，利用零中心化处理方法归一化，作为模型的输入数据。进一步地，所述步骤S2中卷积神经网络模型中包括输入层、三层前向传播卷积层、全连接层，在三层前向传播卷积层之间应用局部误差模型，获取逐层误差，更新当前网络参数，所述局部误差模型包括一卷积层、一池化层和全连接层。进一步地，所述局部误差模型由两部分局部误差函数构成，分别为相似度匹配函数和预测误差函数，两个局部误差函数通过权重联合参数结合，形式如下：lsp＝als+(1-a)lplsp表示最终的局部误差函数，ls表示相似度匹配函数，lp表示预测误差函数，α为权重参数，其中，ls＝||S(C(X；w))-S(Y)||2lp＝CrossEntropy(Y,WTX)矩阵X是前向流的卷积层输出，符号C表示进行卷积操作，符号Y表示标签矩阵，S表示自适应余弦相似度匹配函数，符号w为局部误差模型卷积层的权重参数，W表示局部误差模型全连接层的权重参数。进一步地，所述步骤S3还包括将获得的神经网络模型移植于移动智能终端，对移动智能终端的传感器获取的人体姿态数据进行分类识别。根据本专利技术的第二方面，提供一种基于局部误差的逐层卷积神经网络训练的人体姿态识别装置，包括：括数据采集模块、模型训练模块和姿态识别模块；所述数据采集模块用于获取人体姿态数据，进行降噪、归一化处理；所述模型训练模块用于将处理后数据送入卷积神经网络模型进行逐层训练，对人体姿态进行分类识别，当识别结果符合准确率要求时，输出模型；所述姿态识别模块利用训练好的模型对待识别的人体姿态数据进行分类识别；其中所述卷积神经网络模型在训练时截断全局误差及反向梯度流回传，利用局部误差模型替代全局误差函数，根据前向梯度流的逐层误差更新当前网络参数，实现逐层训练。进一步地，所述数据采集模块采用移动传感器采集人体姿态数据，记录不同肢体动作下的传感器数据，对每种活动类型打上相应标签，利用下采样降噪，利用零中心化处理方法归一化，作为模型的输入数据。进一步地，所述卷积神经网络模型包括输入层、三层前向传播卷积层、全连接层，在三层前向传播卷积层之间应用局部误差模型，获取逐层误差，更新当前网络参数，所述局部误差模型包括一卷积层、一池化层和全连接层。进一步地，所述模型训练模块中局部误差模型由两部分局部误差函数构成，分别为相似度匹配函数和预测误差函数，两个局部误差函数通过权重联合参数结合，形式如下：lsp＝als+(1-α)lplsp表示最终的局部误差函数，ls表示相似度匹配函数，lp表示预测误差函数，a为权重参数，其中，ls＝||S(C(X；w))-S(Y)||2lp＝CrossEntropy(Y,WTX)矩阵X是前向流的卷积层输出，符号C表示进行卷积操作，符号Y表示标签矩阵，S表示自适应余弦相似度匹配函数，符号w为局部误差模型卷积层的权重参数，W表示局部误差模型全连接层的权重参数。根据本专利技术的第三方面，提供一种智能移动终端，所述智能移动终端集成了如本专利技术第二方面所述的人体姿态识别装置。有益效果：1、本专利技术提出逐层训练的思路，避免全局误差实现网络参数的更新，实现层层训练，分批优化，以此优化每层网络参数，无需等待最终反向梯度流进行统一参数更新，极大加快训练周期。2、本专利技术通过构建局部训练误差模块实现网络的逐层训练更新，避免了计算机保存所有层的网络参数，极大降低了计算机内存占用和消耗。3、本专利技术利用两个局部训练误差函数实现逐层的误差消减，极大提高了可穿戴传感器识别精度，只需采集的数据质量可靠全面，便可快速，准确地分类的动作类别，在运动辅助、智能家居、医疗康复、虚拟运动场景和交互式游戏等领域具有重要应用意义。附图说明图1是本专利技术的人体姿态识别方法流程图；图2是本专利技术的逐层卷积神经网络训练方法原理图；图3是本专利技术的第一个卷积层经过300个训练周期仍具有活性的权重分布图；图4是本专利技术训练次数对应的损失值变化图；图5是本专利技术经过训练300次后的精度图；图6是本专利技术经过训练300次后的混淆矩阵图；图7是本专利技术训练中使用传本文档来自技高网...

【技术保护点】
1.一种基于局部误差的逐层卷积神经网络训练的人体姿态识别方法，其特征在于：包括如下步骤：/nS1、获取人体姿态数据，进行降噪、归一化处理；/nS2、将处理后数据送入卷积神经网络模型进行逐层训练，对人体姿态进行分类识别，当识别结果符合准确率要求时，输出模型；/nS3、利用训练好的模型对待识别的人体姿态数据进行分类识别；/n其中所述卷积神经网络模型在训练时截断全局误差及反向梯度流回传，利用局部误差模型替代全局误差函数，根据前向梯度流的逐层误差更新当前网络参数，实现逐层训练。/n

【技术特征摘要】
1.一种基于局部误差的逐层卷积神经网络训练的人体姿态识别方法，其特征在于：包括如下步骤：
S1、获取人体姿态数据，进行降噪、归一化处理；
S2、将处理后数据送入卷积神经网络模型进行逐层训练，对人体姿态进行分类识别，当识别结果符合准确率要求时，输出模型；
S3、利用训练好的模型对待识别的人体姿态数据进行分类识别；
其中所述卷积神经网络模型在训练时截断全局误差及反向梯度流回传，利用局部误差模型替代全局误差函数，根据前向梯度流的逐层误差更新当前网络参数，实现逐层训练。


2.根据权利要求1所述的人体姿态识别方法，其特征在于：所述步骤S1中利用移动传感器采集人体姿态数据，记录不同肢体动作下的传感器数据，对每种活动类型打上相应标签，利用下采样降噪，利用零中心化处理方法归一化，作为模型的输入数据。


3.根据权利要求1所述的人体姿态识别方法，其特征在于：所述步骤S2中卷积神经网络模型中包括输入层、三层前向传播卷积层、全连接层，在三层前向传播卷积层之间应用局部误差模型，获取逐层误差，更新当前层网络参数，所述局部误差模型包括一卷积层、一池化层和全连接层。


4.根据权利要求3所述的人体姿态识别方法，其特征在于：所述局部误差模型由两部分局部误差函数构成，分别为相似度匹配函数和预测误差函数，两个局部误差函数通过权重联合参数结合，形式如下：
lsp＝αls+(1-α)lp
lsp表示最终的局部误差函数，ls表示相似度匹配函数，lp表示预测误差函数，α为权重参数，其中，
ls＝||S(C(X；w))-S(Y)||2
lp＝CrossEntropy(Y,WTX)
矩阵X是前向流的卷积层输出，符号C表示进行卷积操作，符号Y表示标签矩阵，S表示自适应余弦相似度匹配函数，符号w为局部误差模型卷积层的权重参数，W表示局部误差模型全连接层的权重参数。


5.根据权利要求1所述的人体姿态识别方法，其特征在于：所述步骤S3还包括将获得的神经网络模型移植于移动智能终端，对移动智能终端的传感器获取的人体姿态数据进行分类识别。

<...

【专利技术属性】
技术研发人员：张雷，滕起，严佳欢，黄文博，程鑫，权威铭，
申请(专利权)人：南京师范大学，
类型：发明
国别省市：江苏;32