基于深度学习的健康管理方法与系统技术方案

本发明专利技术公开了一种基于深度学习的健康管理方法。包括：收集用户健康状态数据，对数据预处理形成二维数组A；将数组A输入到Transformer模型中训练，得到预训练的总模型存于服务端；通过总模型，利用数组A和Transformer模型预测输出层训练个人模型，将训练后的预测输出层参数保存在用户端，根据个人情况对总模型进行微调得到个人模型；输入健康数据到个人模型，根据其输出的四种健康情况概率，提供相应的专家健康管理建议。本发明专利技术还公开了基于深度学习的健康管理系统。本发明专利技术使用基于自注意力机制的Transformer模型能够更好地学习大规模医疗数据，减少模型对疾病先验知识的依赖，增加模型的智能性和准确性，针对用户进行微调节省个人模型训练的成本和时间。用户进行微调节省个人模型训练的成本和时间。用户进行微调节省个人模型训练的成本和时间。

【技术实现步骤摘要】
基于深度学习的健康管理方法与系统


[0001]本专利技术涉及深度学习、智能健康管理，具体涉及一种基于深度学习的健康管理方法与系统。

技术介绍

[0002]随着社会进步和人们健康意识的觉醒，人口老龄化问题的不断加剧，人们对于提升医疗技术、延长人类寿命、增强健康的需求也更加急迫。健康管理是以预防和控制疾病发生与发展，降低医疗费用，提高生命质量为目的，针对个体及群体进行健康教育，提高自我管理意识和水平，并对其生活方式相关的健康危险因素，通过健康信息采集、健康检测、健康评估、个性化健康管理方案、健康干预等手段持续加以改善的过程和方法。相较于被动的疾病治疗，健康管理的出现很大的提高了群众的主观自我管理意识，通过定时对自身的体征数据进行采集，进行疾病预测和疾病防范，定制一套个体化的健康管理方案，从而大大缓解了医疗资源的供需。
[0003]近年来，随着硬件的发展，算法的进步和数据存储成本的下降，人工智能在医疗和健康管理方面也慢慢成熟了起来。现在智能健康管理方面利用的方法模型大多还是传统机器学习方法或者小规模的模型，而深度学习对于大数据的处理比传统机器学习或者小规模的模型要更加有效，预测会更加准确。因此在大数据的背景驱动下，深度学习也将在智能健康管理方面慢慢发挥出优势。
[0004]目前的现有技术之一，是论文“时间序列健康数据的分析与预测”中的基于深度神经网络构的时间序列特征引导的预测模型方法，该方法将时间序列数据和相关的截面数据作为神经网络的两类输入，通过深度学习自动学习时间序列数据的潜在趋势,校正模型的预测结果,提升模型的预测精度；构建ARIMA
‑
SVM混合模型对连续时序数据进行预测，ARIMA模型对时序数据中的线性部分进行建模,对于ARIMA模型的预测残差通过SVM进行预测,将两部分的结果相加得到最终的预测结果,从而完成连续时间序列数据的预测。该方案的缺点是不能处理很长的时序序列数据，传统模型对于早期时间段的数据遗忘严重，不能真正从时序序列中得到有效信息，由于每个人都有独特性，若依靠先验知识的模型，将会带来很大偏差，对疾病的预测是不可接受的。

技术实现思路

[0005]本专利技术的目的是克服现有方法的不足，提出了基于深度学习的健康管理方法与系统。本专利技术解决的主要问题，一是传统机器学习模型或早期的LSTM模型对大数据的处理效果不佳，预测的准确度较低；二是传统算法很大程度取决于人类对疾病的先验知识，并不能做到真正的智能化。
[0006]为了解决上述问题，本专利技术提出了一种基于深度学习的健康管理方法，所述方法包括：
[0007]通过智能穿搭设备定期检测收集身体特征数据，对所述身体特征数据进行预处
理，将每天的身体特征按固定顺序排列成向量，再按时间顺序排列成N*D的二维数组A，N是天数，D是向量长度
[0008]输入所述二维数组A到Transformer模型，对该Transformer模型进行训练，其中Transformer模型的输出是健康状态、亚健康状态、疾病的前驱状态、疾病状态四种状态的概率，训练完成后得到预训练的总模型，保存至服务端；
[0009]使用所述预训练的总模型，利用所述二维数组A和所述Transformer模型预测输出层训练用户个人模型，得到训练后的个人模型的预测输出层参数，存于用户端，当用户需要重复训练个人模型时，把个人模型的预测输出层参数上传覆盖所述总模型的预测输出层参数，并以此参数状态继续训练，直至得到最终微调后的个人模型；
[0010]用户输入当前健康数据到所述微调后的个人模型中，得到用户的四种健康情况的概率，提供相应的专家健康管理建议，用户根据健康状态做出相应的反应。
[0011]优选地，通过智能穿搭设备定期检测收集身体特征数据，对所述身体特征数据进行预处理，将每天的身体特征按固定顺序排列成向量，再按时间顺序排列成N*D的二维数组A，N是天数，D是向量长度，具体为：
[0012]通过智能穿搭设备定期检测用户身体特征，例如用户的血压，血糖，身高体重，心跳脉搏等，将用户身体特征数据按天数为时序单位进行收集存储；
[0013]将所述用户身体特征数据附加用户个人的电子健康档案数据定期提交到服务端，当用户第一次使用时，根据当前的健康状况，近期有病情时，需将包括病情前的一个月内的健康状态数据输入到服务端；当没有病情时，需将当前一个月内的健康状态参数输入到服务端，将用户当前的健康状况作为当天数据的标签一起上传到服务端；
[0014]当收集的用户身体特征数据部分缺失时，为避免因丢失数据的空白项影响训练结果，将一个月内用户身体特征数据的中位数来替代缺失值；
[0015]将每一天的数据按固定顺序排列成向量，按照时间顺序将这些向量排列成N*D的二维数组A，其中N是天数，D是向量长度。
[0016]优选地，所述输入所述二维数组A到Transformer模型，对该Transformer模型进行训练，其中Transformer模型的输出是健康状态、亚健康状态、疾病的前驱状态、疾病状态四种状态的概率，训练完成后得到预训练的总模型，保存至服务端，具体为：
[0017]使用Transformer模型Embedding层，将N*D的二维数组经过一个全连接层，输出N*D的二维数组A，其中D
’
＝512，添加位置编码向量PE表示数据在时间顺序的位置，位置编码向量PE表示数据在整个时间顺序的位置，该向量的定义如下：
[0018]PE
(pos，2i)
＝sin(pos/10000
2i/d
)
[0019]PE
(pos，2i+1)
＝cos(pos/10000
2i/d
)
[0020]其中pos是天数N的顺序位置，pos＝0，1，2，
…
，N，d是pos天的D
’
维向量的维度，2i表示偶数的维度，2i+1表示奇数维度，其中2i≤d，N种PE向量拼接形成的N*D
’
的二维数组与A
’
数组进行元素相加，得到输入到模型的N*D
’
的张量X；
[0021]输出N*D
’
矩阵到Transformer模型的Encoder中，Encoder由六个块构成，自下而上是Multi
‑
HeadAttention层，Add&Norm层，FeedForward层，Add&Norm层，由于每个块的输入和输出维度是一致，Encoder最后的输出二维数组B还是N*D
’
的矩阵；
[0022]Multi
‑
HeadAttention层包含h个Self
‑
Attention层，h默认设置为8，多头通道的
目的是为了让每个Self
‑
Attention层能够学到独特的参数，使模型效果更好，每个Self
‑...

【技术保护点】

【技术特征摘要】
1.一种基于深度学习的健康管理方法，其特征在于，所述方法包括：通过智能穿搭设备定期检测收集身体特征数据，对所述身体特征数据进行预处理，将每天的身体特征按固定顺序排列成向量，再按时间顺序排列成N*D的二维数组A，N是天数，D是向量长度；输入所述二维数组A到Transformer模型，对该Transformer模型进行训练，其中Transformer模型的输出是健康状态、亚健康状态、疾病的前驱状态、疾病状态四种状态的概率，训练完成后得到预训练的总模型，保存至服务端；使用所述预训练的总模型，利用所述二维数组A和所述Transformer模型预测输出层训练用户个人模型，得到训练后的个人模型的预测输出层参数，存于用户端，当用户需要重复训练个人模型时，把个人模型的预测输出层参数上传覆盖所述总模型的预测输出层参数，并以此参数状态继续训练，直至得到最终微调后的个人模型；用户输入当前健康数据到所述微调后的个人模型中，得到用户的四种健康情况的概率，提供相应的专家健康管理建议，用户根据健康状态做出相应的反应。2.如权利要求1所述的基于深度学习的健康管理方法，其特征在于，所述通过智能穿搭设备定期检测收集身体特征数据，对所述身体特征数据进行预处理，将每天的身体特征按固定顺序排列成向量，再按时间顺序排列成N*D的二维数组A，N是天数，D是向量长度，具体为：通过智能穿搭设备定期检测用户身体特征，例如用户的血压，血糖，身高体重，心跳脉搏等，将用户身体特征数据按天数为时序单位进行收集存储；将所述用户身体特征数据附加用户个人的电子健康档案数据定期提交到服务端，当用户第一次使用时，根据当前的健康状况，当近期有病情时，需将包括病情前的一个月内的健康状态数据输入到服务端；当没有病情时，需将当前一个月内的健康状态参数输入到服务端，将用户当前的健康状况作为当天数据的标签一并上传至服务端；当收集的用户身体特征数据部分缺失时，为避免因丢失数据的空白项影响训练结果，将一个月内用户身体特征数据的中位数来替代缺失值；将每一天的数据按固定顺序排列成向量，按照时间顺序将这些向量排列成N*D的二维数组A，其中N是天数，D是向量长度。3.如权利要求1所述的基于深度学习的健康管理方法，其特征在于，所述输入所述二维数组A到Transformer模型，对该Transformer模型进行训练，其中Transformer模型的输出是健康状态、亚健康状态、疾病的前驱状态、疾病状态四种状态的概率，训练完成后得到预训练的总模型，保存至服务端，具体为：使用Transformer模型Embedding层，将N*D的二维数组经过一个全连接层，输出N*D的二维数组A，其中D
’
＝512，添加位置编码向量PE表示数据在时间顺序的位置，位置编码向量PE来表示数据在整个时间顺序的位置，该向量的定义如下：PE
(pos,2i)
＝sin(pos/10000
2i/d
)PE
(pos,2i+1)
＝cos(pos/10000
2i/d
)其中pos是天数N的顺序位置，pos＝0，1，2，
…
，N，d是pos天的D
’
维向量的维度，2i表示偶数的维度，2i+1表示奇数维度，其中2i≤d，N种PE向量拼接形成的N*D
’
的二维数组与A
’
数组进行元素相加，得到输入到模型的N*D
’
的张量X；
输入N*D矩阵到Transformer模型Encoder层中，Encoder由六个块构成，自下而上是Multi
‑
Head Attention层，Add&Norm层，Feed Forward层，Add&Norm层，由于每个块的输入和输出维度是一致，Encoder最后的输出二维数组B还是N*D
’
的矩阵；Multi
‑
Head Attention层包含h个Self
‑
Attention层，h默认设置为8，多头通道的目的是为了让每个Self
‑
Attention层能够学到独特的参数，使模型效果更好，每个Self
‑
Attention层将张量X分别通过三个全连接层，得到三个矩阵Q,K,V，这三个矩阵是N*D
’
维度的矩阵，得到Q,K,V后，通过公式得到Self
‑
Attention层的输出：其中dk是Q,K矩阵的列数，即向量维度D
’
，本方法将h个Self
‑
Attention层的输出Zi(i＝1，2，
…
，h)拼接在一起后形成的N*hD
’
的矩阵通过用hD
’
*D
’
的线性变换的全连接层，得到最终输出Z，Z的维度是N*D
’
；Feed Forward层(前馈层)，是一个两层的全连接层，第一层的激活函数为ReLU函数，第二层不需要激活函数，用于提高神经网络的深度，以此提升网络的性能；Add&Norm层由Add和Norm两部分组成，Add是ResNet提出的残差和，用于解决多层网络训练的问题，让网络只关注当前差异的部分，即输入X和Z相加，或者输入X和Feed Forward层的输出相加的结果；Norm是指层归一化，会将每一层神经元的输入转成均值方差是一样的，可以加快收敛，最终Add&Norm层的输出为LayerNorm(X+Multi
‑
Head Attention(X))或者LayerNorm(X+Feed Forward(X))；Transformer模型预测输出层，在所述二维数组B后添加两层全连接层形成向量C，第一层是512*32的线性变换矩阵，使用ReLU函数激活，第二层是32*4的线性变换矩阵，使用Softmax函数激活，利用Transformer模型中自注意力机制和向量C进行健康状态预测，得到健康状态、亚健康状态、疾病的前驱状态、疾病状态这四种状态的概率；将训练完成后得到的预训练的总模型保存至服务端。4.如权利要求1所述的基于深度学习的健康管理方法，其特征在于，所述使用所述预训练的总模型，利用所述二维数组A和所述Transformer模型预测输出层训练用户个人模型，得到训练后的个人模型的预测输出层参数，存于用户端，当用户需要重复训练个人模型时，把个人模型的预测输出层参数上传覆盖所述总模型的预测输出层参数，并以此参数状态继续训练，直至得到最终微调后的个人模型，具体为：由于用户个人差异较大，利用总模型预测所有人的健康状态会带来较大偏差，为每个用户定制专门的模型需要巨大成本，因此采用模型微调方法，冻结Transformer模型中的Embedding层和Encoder层，利用所述二维数组A和所述Transformer模型预测输出层进行训练，将训练后的模型预测输出保存在用户端；用户需要重复训练模型时，用户端保存的模型预测输出层参数会上传到服务端，覆盖总模型的预测输出层，利用所述模型预测输出层参数进行训练，可以有效避免训练资源浪费。5.如权利要求1所述的基于深度学习的健康管理方法，其特征在于，所述用户输入当前健康数据到所述微调后的个人模型中，得到用户的四种健康情况的概率，提供相应的专家

【专利技术属性】
技术研发人员：薛凯军，王立峰，韩冠亚，
申请(专利权)人：广东中大讯通信息有限公司，
类型：发明
国别省市：