【技术实现步骤摘要】
一种数据处理方法、装置及设备
本申请涉及人工智能
,尤其是一种数据处理方法、装置及设备。
技术介绍
机器学习是实现人工智能的一种途径,是一门多领域的交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。机器学习用于研究计算机如何模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。机器学习更加注重算法设计,使计算机能够自动地从数据中学习规律,并利用规律对未知数据进行预测。机器学习已经有了十分广泛的应用,如深度学习、数据挖掘、计算机视觉、自然语言处理、生物特征识别、搜索引擎、医学诊断、检测信用卡欺诈、证券市场分析、DNA序列测序、语音和手写识别、战略游戏和机器人运用等。为了采用机器学习实现人工智能处理,服务器需要获取大量样本数据,并基于这些样本数据训练出机器学习模型,并将该机器学习模型部署到终端设备(如摄像机等),以使终端设备基于该机器学习模型实现人工智能处理。由于终端设备采集的流式数据不会发送给服务器,因此,无法基于流式数据对机器学习模型进行训练,导致无法充分利用终端设备采集的流式数据,使得机器学习模型无法匹配终端设备所处环境,机器学习模型的性能比较低。
技术实现思路
本申请提供一种数据处理方法,应用于终端设备,所述方法包括:获取初始基线模型;通过所述初始基线模型对所述终端设备当前获得的流式数据进行处理,得到与所述流式数据对应的训练数据;其中,所述训练数据包括与所述流式数据对应的数据特征,及所述数据特征 ...
【技术保护点】
1.一种数据处理方法,其特征在于,应用于终端设备,所述方法包括:/n获取初始基线模型;/n通过所述初始基线模型对所述终端设备当前获得的流式数据进行处理,得到与所述流式数据对应的训练数据;其中,所述训练数据包括与所述流式数据对应的数据特征,及所述数据特征对应的标签信息;/n通过所述训练数据对初始基线模型进行训练,得到训练后的目标基线模型;/n在所述终端设备部署所述初始基线模型或所述目标基线模型,以通过所述初始基线模型或所述目标基线模型对所述终端设备的应用数据进行处理。/n
【技术特征摘要】
1.一种数据处理方法,其特征在于,应用于终端设备,所述方法包括:
获取初始基线模型;
通过所述初始基线模型对所述终端设备当前获得的流式数据进行处理,得到与所述流式数据对应的训练数据;其中,所述训练数据包括与所述流式数据对应的数据特征,及所述数据特征对应的标签信息;
通过所述训练数据对初始基线模型进行训练,得到训练后的目标基线模型;
在所述终端设备部署所述初始基线模型或所述目标基线模型,以通过所述初始基线模型或所述目标基线模型对所述终端设备的应用数据进行处理。
2.根据权利要求1所述的方法,其特征在于,所述初始基线模型包括第一子网络模型,所述第一子网络模型是用于生成标签信息的网络模型;
所述通过所述初始基线模型对所述终端设备当前获得的流式数据进行处理,得到与所述流式数据对应的训练数据,包括:
将所述流式数据输入给所述第一子网络模型,通过所述第一子网络模型对所述流式数据进行处理,得到与所述流式数据对应的数据特征;
通过所述第一子网络模型生成所述数据特征对应的标签信息;
基于所述数据特征和所述标签信息生成所述训练数据。
3.根据权利要求1所述的方法,其特征在于,所述初始基线模型包括第二子网络模型,所述第二子网络模型是需要进行增量训练的网络模型;所述通过所述训练数据对初始基线模型进行训练,得到训练后的目标基线模型,包括:
将所述训练数据存储到数据缓存队列;
在数据缓存队列中的训练数据数量达到预设阈值时,将数据缓存队列中的训练数据输入给所述第二子网络模型,通过所述数据缓存队列中的训练数据对所述第二子网络模型进行训练,得到训练后的第二子网络模型;
基于训练后的第二子网络模型获取所述目标基线模型;其中,所述目标基线模型包括所述训练后的第二子网络模型。
4.根据权利要求3所述的方法,其特征在于,所述初始基线模型包括第一子网络模型,所述基于训练后的第二子网络模型获取所述目标基线模型,包括:
将所述第一子网络模型和所述训练后的第二子网络模型组合在一起,得到所述目标基线模型;或者,
通过所述数据缓存队列中的训练数据对所述第一子网络模型进行训练,得到训练后的第一子网络模型;将所述训练后的第一子网络模型和所述训练后的第二子网络模型组合在一起,得到所述目标基线模型。
5.根据权利要求3所述的方法,其特征在于,所述第二子网络模型包括至少一个网络层,所述通过所述数据缓存队列中的训练数据对所述第二子网络模型进行训练,得到训练后的第二子网络模型,包括:
针对所述第二子网络模型的每个网络层,通过所述网络层对输入数据进行处理,得到初始输出数据,并将所述初始输出数据划分为至少两个初始子矩阵;对每个初始子矩阵进行归一化处理,得到与所述初始子矩阵对应的目标子矩阵,并根据得到的所有目标子矩阵生成所述网络层的目标输出数据;
其中,所述数据缓存队列中的训练数据作为所述第二子网络模型的第一个网络层的输入数据,每个网络层的目标输出数据作为本网络层的下一个网络层的输入数据;最后一个网络层的目标输出数据用于对所述第二子网络模型的网络参数进行调整,得到训练后的第二子网络模型。
6.根据权利要...
【专利技术属性】
技术研发人员:郭阶添,
申请(专利权)人:杭州海康威视数字技术股份有限公司,
类型:发明
国别省市:浙江;33
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。