一种具有注意力机制的浅层卷积神经网络结构及优化方法和电子设备技术

本申请涉及一种具有注意力机制的浅层卷积神经网络结构及优化方法和电子设备，用于可穿戴设备的时间序列数据的实时识别。该优化方法包括：构建卷积神经网络；设置混合分块层的连接位置，所述混合分块层包括分块分割模块、编码器、传递与融合模块、解码器、分块合并模块；基于所述混合分块层的连接位置，优化所述神经网络模型；调整所述分块的大小，进一步优化所述神经网络模型。本申请的方案使用二维乐高卷积来替代传统的卷积层，并在轻量化网络中加入混合分块层，使用自注意力机制来提高特征表达性，提高识别精确度。提高识别精确度。提高识别精确度。

【技术实现步骤摘要】
一种具有注意力机制的浅层卷积神经网络结构及优化方法和电子设备


[0001]本申请涉及人工智能领域，特别涉及一种具有注意力机制的浅层卷积神经网络结构及优化方法和电子设备。

技术介绍

[0002]近年来，由于深度学习不断的发展，人体活动识别领域的成果产生了不少进展，比如有基于视觉的自动人体活动识别，有基于传感器的人体活动识别，在健康监测和智能医疗系统领域的人体活动识别研究也是热点之一。根据传感器的部署方式，存在多传感器的人体活动识别和单传感器的人体活动识别。多传感器的部署可以获得更准确的数据信息，多种模态的数据特征能够更容易获得更好得识别效果。单传感器的部署虽然能够获得的数据信息量相比而言更少，但是轻量、灵活、便携的特性使得单传感器在实际运用中受到青睐。此外，因为传感器无时无刻不在收集人们活动的数据，出于隐私度的考虑，大多数人对于单传感器的接受度更高。
[0003]在基于传感器的人体活动识别中，根据提取特征的不同，可分为两类，一类是人工提取的特征，另一类是使用深度学习对原始数据提取深层特征。在早期的活动识别中，最常使用的人工提取特征是基本的本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种具有注意力机制的浅层卷积神经网络结构的优化方法，用于可穿戴设备的时间序列数据的实时识别，其特征在于，包括：构建卷积神经网络，所述卷积神经网络包括二维卷积层、第一乐高卷积层、第二乐高卷积层、全连接层，所述二维卷积层对输入的二维数据进行特征提取，所述第一乐高卷积层及所述第二乐高卷积层分别对输入的特征进行特征提取；设置混合分块层的连接位置，所述混合分块层包括：分块分割模块，将每个通道输入的第一特征划分为多个分块，所述第一特征为卷积神经网络根据来自穿戴式传感器的至少一个通道的时序数据提取的特征；编码器，对每个通道的所述多个分块进行编码；传递与融合模块，对于每个通道，将每个分块表达为所述通道内通过编码器后的多个分块的融合结果；解码器，对包括多个融合结果的每个通道进行解码，得到包括通道全局信息的多个解码分块；分块合并模块，对于每个通道，将所述多个解码分块合并，从而得到与所述第一特征具有相同格式的第二特征，所述第二特征与所述第一特征叠加后输入至下一层；基于所述混合分块层的连接位置，优化所述神经网络模型；调整所述分块的大小，进一步优化所述神经网络模型。2.根据权利要求1所述的优化方法，其特征在于，还包括：调整对所述第一特征和所述第二特征分别进行下采样和上采样的比例参数，以进一步优化所述神经网络模型。3.根据权利要求1所述的优化方法，其特征在于，所述二维数据通过采用滑动窗口技术分割来自穿戴式传感器的时间序列信号而得到。4.根据权利要求1所述的优化方法，其特征在于，所述编码器包括两个线性函数层以及一个线性整流激活函数层。5.根据权利要求4所述的优化方法，其特征在于，将每个分块表达为所述通道内通过编码器后的多个分块的融合结果，包括：将每个分块表达为所述通道内通过编码器后的多个分块的加权线性组合。6.根据权利要求5所述的优化方法，其特征在于，将每个分块表达为所述通道内通过编码器后的多个分块的加权线性组合，包括：利用各分块的均值编码和标准差编码构造各分块的编码信息组合；利用各...

【专利技术属性】
技术研发人员：黄天羽，吴思思，李弋豪，唐明湘，丁刚毅，李鹏，
申请(专利权)人：北京理工大学，
类型：发明
国别省市：