异构模型自适应协作方法技术

技术编号:29791845 阅读:33 留言:0更新日期:2021-08-24 18:11
本公开提供了一种异构模型自适应协作方法,包括:获取异构模型的训练结果,根据所述训练结果建立多源映射关系组和多域映射关系组;根据预设指标分别计算所述多源映射关系组和所述多域映射关系组的执行概率和模型调度。本公开中的异构模型自适应协作方法,让原本孤立运行的异构模型能够进行协作,且支持融合多个任务、多个域的知识,提高协作的有效性和泛化性,基于异构模型协作的调度策略,可以在有限资源下,提高模型内输出标签的精度,且扩大输出标签的范围。

【技术实现步骤摘要】
异构模型自适应协作方法
本公开涉及深度学习领域,尤其涉及一种异构模型自适应协作方法。
技术介绍
日趋复杂的智能应用的分析任务通常由多个异构模型组成。例如城市视频分析,该分析过程需要从单帧图像中检测违停车辆等,同时需要利用时序信息分析视频中的动态事件(例如跨摄像头车辆追踪),有时还需要分析音频数据(例如噪声监控)。上述任务需由多个异构的机器学习模型完成,需要很大的计算开销,并带来很高的数据延迟。现有的方法集中在单个模型的优化上,通过压缩单一模型的大小、对单一模型的计算进行重用、过滤单一模型的输入数据等等,这些方法可以加速单一模型的推理速度,并保持分析精度基本不变。但是现有方法尚存在如下问题。单一模型优化复用性低,针对单一模型的优化方法所需的知识背景的专业性较强,进而难以预估其试错成本,这使得优化过程难以复用,即当新的模型待部署时,往往仍需要大量的人力物力进行针对性地优化。此外,现有的模型优化方法都假设已知模型的白盒信息,即该过程被设定为是在部署之前进行的。对于已部署的异构模型而言,得到白盒信息进行优化是不可行的,这使得现有方法难以本文档来自技高网...

【技术保护点】
1.一种异构模型自适应协作方法,包括:/n获取异构模型的训练结果,根据所述训练结果建立多源映射关系组和多域映射关系组;/n根据预设指标分别计算所述多源映射关系组和所述多域映射关系组的执行概率和模型调度。/n

【技术特征摘要】
1.一种异构模型自适应协作方法,包括:
获取异构模型的训练结果,根据所述训练结果建立多源映射关系组和多域映射关系组;
根据预设指标分别计算所述多源映射关系组和所述多域映射关系组的执行概率和模型调度。


2.根据权利要求1所述的异构模型自适应协作方法,其中,所述获取异构模型的训练结果包括:
收集N个模型数据,建立与所述N个模型数据相对应的所述异构模型,其中,N为大于等于2的整数;
将第N个所述异构模型作为原异构模型,将除第N个所述异构模型之外的所述异构模型作为目标异构模型,建立由所述原异构模型至所述目标异构模型间的映射关系;
对所述异构模型设定真实标签,通过所述真实标签和所述异构模型的输出数据指导所述映射关系进行训练得到所述训练结果。


3.根据权利要求2所述的异构模型自适应协作方法,其中,所述异构模型的所述输出数据的集合构成一输出空间,所述输出空间包括:定长向量和变长序列,所述原异构模型的所述输出空间为原输出空间,所述目标异构模型的所述输出空间为目标输出空间,
所述建立由所述原异构模型至所述目标异构模型间的映射关系包括:
建立所述原输出空间内的所述定长向量至所述目标输出空间内的所述定长向量的第一映射关系;
建立所述原输出空间内的所述定长向量至所述目标输出空间内的所述变长序列的第二映射关系;
建立所述原输出空间内的所述变长序列至所述目标输出空间内的所述定长向量的第三映射关系;
建立所述原输出空间内的所述变长序列至所述目标输出空间内的所述变长序列的第四映射关系。


4.根据权利要求2所述的异构模型自适应协作方法,其中,所述通过所述真实标签和所述异构模型的输出数据指导所述映射关系进行训练得到所述训练结果,包括:
根据所述原异构模型的输出数据和所述目标异构模型的所述真实标签建立第一数据元组,通过所述第一数据元组对所述映射关系进行训练;或者
根据所述原异构模型的输出数据和所述目标异构模型的输出数据建立第二数据元组,通过所述第二数据元组对所述映射关系进行训练。


5.根据权利要求1所述的异构模型自适应协作方法,其中,所述根据所述训练结果建立多源映射关系组和多域映射关系组包括:
将每个所述目标异构模型的训练结果进行融合形成一多源映射关系,所述多源映射关系的数目为N个,N个所述多源映射关系构成多源映射关系组;
将每个所述原异构模型的所述训练结果进行梯度聚合形成...

【专利技术属性】
技术研发人员:张兰李向阳袁牧
申请(专利权)人:中国科学技术大学
类型:发明
国别省市:安徽;34

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1