一种多移动设备的DNN任务的拆分和卸载方法技术

本发明专利技术公开了一种多移动设备的DNN任务的拆分和卸载方法，一、根据移动设备的数量、DNN任务的层数以及每个DNN任务的划分构建划分及卸载模型；二、基于多项式拟合方法获得DNN任务中每层的参数分别对各层处理时延的影响，从而获得各层的时延预测模型；三、根据DNN任务中各层的处理次序、划分及卸载模型、移动设备和服务器之间的传输时延以及时延预测模型得到DNN任务中各层的处理时间关系，并以各层的处理时间关系和服务器的处理原则为约束条件，以平均时延最小为目标函数构建优化问题，获得各DNN任务最优的划分方式以及各层的处理时间安排；本发明专利技术能够有效减低DNN任务处理的时延。

A method of splitting and unloading DNN tasks for multiple mobile devices

【技术实现步骤摘要】
一种多移动设备的DNN任务的拆分和卸载方法
本专利技术属于移动边缘计算的
，具体涉及一种多移动设备的DNN任务的拆分和卸载方法。
技术介绍
目前，智能应用在日常生活中变得越来越常见。这些智能应用对移动设备的计算能力有很高的要求，但是普通移动设备的计算能力是有限的。为了缓解这个问题，传统的方法是将移动设备上的所有智能任务都上传至云服务器处理。随着人工智能学科的快速发展，基于深度神经网络(DNN)的应用凭借其巨大优势越来越受人们的欢迎。然而，基于DNN的应用有巨大的计算需求，如果要将DNN应用传输到云端处理，将需要传输特别多的数据，导致很大的传输时延，所以仅靠云端处理DNN任务并不是最好的选择。目前有许多关于加速DNN任务处理的研究。然而，现有的研究仅通过优化DNN的设计来加速DNN任务的处理，这种方式无法被推广。所以，亟需设计一个普适性的计算框架，以适用于所有的DNN任务。近期，移动边缘计算(MEC)凭借其减少对移动设备的计算需求、减少传输数据量的优点，越来越普及。为了实现该优点，MEC采用先将任务划分，再卸载的模式。近年来有许多关于MEC机制设计的研究。然而，现有的研究仅针对传统任务，传统任务的计算复杂度和数据量远小于DNN任务。DNN任务卸载面临许多挑战，比如，如何划分多层DNN任务以实现任务卸载？当有多个移动设备时，如何进行联合DNN任务划分以实现任务卸载？这些挑战成为了本专利技术研究的动机。
技术实现思路
有鉴于此，本专利技术提供了一种多移动设备的DNN任务的拆分和卸载方法，能够有效减低DNN任务处理的时延。实现本专利技术的技术方案如下：一种多移动设备的DNN任务的拆分和卸载方法，包括以下步骤：步骤一、根据移动设备的数量、DNN任务的层数以及每个DNN任务的划分构建划分及卸载模型，其中，每个移动设备有一个DNN任务，每个DNN任务被划分为两部分，前一部分在移动设备本地被处理，处理后所得的输出数据传输至服务器，后一部分被卸载到服务器由服务器处理；步骤二、基于多项式拟合方法获得DNN任务中每层的参数分别对各层处理时延的影响，从而获得各层的时延预测模型；步骤三、根据DNN任务中各层的处理次序、划分及卸载模型、移动设备和服务器之间的传输时延以及时延预测模型得到DNN任务中各层的处理时间关系，并以各层的处理时间关系和服务器的处理原则为约束条件，以平均时延最小为目标函数构建优化问题，最终获得各DNN任务最优的划分方式以及各层的处理时间安排。进一步地，所述划分及卸载模型为N×M的矩阵X，N为移动设备的数量，M为DNN任务的层数，每层为一个子任务，矩阵的各个元素xij都是0-1变量，xij＝0表示移动设备i的第j个子任务在移动设备本地处理，xij＝1表示移动设备i的第j个子任务由服务器处理。进一步地，所述时延预测模型包括移动设备本地处理时延和服务器处理时延。进一步地，所述优化问题为：s.t.0≤si1<…<siM,fi1<…<fiM,sij≥fi,j-1,fij≤spq,ifxij＝xpq＝1andsij<spq.其中，为所有DNN任务的平均处理时延，X,S,F均为N×M的矩阵，N为移动设备的数量，M为DNN任务的层数，每层为一个子任务，X中的元素xij都是0-1变量，xij＝0表示移动设备i的第j个子任务在本地处理，xij＝1表示移动设备i的第j个子任务由服务器处理，S中的元素sij表示移动设备i的第j个子任务开始处理的时间；F中的元素fij表示移动设备i的第j个子任务结束处理的时间；表示移动设备i的第j个子任务的本地处理时延，表示移动设备i的第j个子任务的服务器处理时延；表示本地第k层的输出数据传输到服务器上第(k+1)层之间的传输时延；p＝1,2,...,N，q＝1,2,...,M，k＝0,1,...,M-1，且当k＝0时，fi0＝0，为将第一层子任务处理时所需数据传输到服务器的传输时延。有益效果：(1)本专利技术为DNN任务建立处理时延预测模型，以便DNN任务的拆分，且该处理时延预测模型具有普适性，适用于所有的DNN任务。(2)本专利技术提出了一种适用于多移动设备和单MEC服务器的DNN任务划分和卸载方法，实验结果表明，相较于传统DNN任务处理方式，本专利技术方法能达到DNN任务处理的最小时延。附图说明图1为本专利技术方法流程示意图。图2为在ALEXNET和服务器无负载情况下，本专利技术方法和两种传统方法随带宽变化的平均处理时延。图3为在1Mbps带宽和服务器无负载情况下，本专利技术方法和两种传统方法处理不同DNN类型任务的相对处理速度。具体实施方式下面结合附图并举实施例，对本专利技术进行详细描述。如图1所示，本专利技术提供了一种多移动设备的DNN任务的拆分和卸载方法，其具体针对的是多移动设备和单MEC服务器的DNN任务划分和卸载问题。包括以下步骤：步骤一、根据移动设备的数量、DNN任务的层数以及每个DNN任务的划分构建划分及卸载模型，其中，每个移动设备有一个DNN任务，每个DNN任务被划分为两部分，前一部分在移动设备本地被处理，处理后所得的输出数据传输至服务器，后一部分被卸载到服务器由服务器处理。假设有N个移动设备和一个MEC(移动边缘计算)服务器。每个移动设备有一个DNN任务待处理。为了减少任务处理时延，缓解移动设备的计算负担，每个DNN任务可以被划分并卸载到拥有强大计算能力的服务器。DNN一共有M层，比如卷积层、全连接层、池化层等等。假设这些层是相对独立的，为了处理某一层的计算量，只需要获得前一层的输出。因此，将每层的计算量视为一个子任务。于是，一个DNN任务有M个子任务。任务划分是指将一个任务划分为两部分，前一部分将在本地被处理，处理之后所得到的输出数据将被传输至服务器，即后一部分将被卸载到服务器，由服务器处理。考虑到某任务的各个子任务间是相对独立的，可以在层与层之间进行DNN任务划分。为了用数学的方法描述划分模式，引入一个N×M的矩阵X，该矩阵的各个元素xij都是0-1变量。xij＝0表示移动设备i的第j个子任务在本地处理，xij＝1表示移动设备i的第j个子任务由服务器处理。于是，如果有xi1＝…＝xij＝0，xi,j+1＝…＝xiM＝1，意味着对移动设备i的DNN任务，在第j层和第j+1层之间进行划分。第j层之前的子任务(包括第j层)将在本地处理，第j+1层之后的子任务(包括第j+1层)将卸载至服务器，由服务器处理。步骤二、基于多项式拟合方法获得DNN任务中每层的参数分别对各层处理时延的影响，从而获得各层的时延预测模型。本专利技术提出的DNN任务划分及卸载方法，是为了最小化多移动设备DNN任务的平均处理时延为了构建优化问题，首先要分析在DNN任务划分及卸载过程中的相关时延，然后得到时延预测模型，以便后续的优化问题的设计。DNN有多种类型的层，不本文档来自技高网...

【技术保护点】
1.一种多移动设备的DNN任务的拆分和卸载方法，其特征在于，包括以下步骤：/n步骤一、根据移动设备的数量、DNN任务的层数以及每个DNN任务的划分构建划分及卸载模型，其中，每个移动设备有一个DNN任务，每个DNN任务被划分为两部分，前一部分在移动设备本地被处理，处理后所得的输出数据传输至服务器，后一部分被卸载到服务器由服务器处理；/n步骤二、基于多项式拟合方法获得DNN任务中每层的参数分别对各层处理时延的影响，从而获得各层的时延预测模型；/n步骤三、根据DNN任务中各层的处理次序、划分及卸载模型、移动设备和服务器之间的传输时延以及时延预测模型得到DNN任务中各层的处理时间关系，并以各层的处理时间关系和服务器的处理原则为约束条件，以平均时延最小为目标函数构建优化问题，最终获得各DNN任务最优的划分方式以及各层的处理时间安排。/n

【技术特征摘要】
1.一种多移动设备的DNN任务的拆分和卸载方法，其特征在于，包括以下步骤：
步骤一、根据移动设备的数量、DNN任务的层数以及每个DNN任务的划分构建划分及卸载模型，其中，每个移动设备有一个DNN任务，每个DNN任务被划分为两部分，前一部分在移动设备本地被处理，处理后所得的输出数据传输至服务器，后一部分被卸载到服务器由服务器处理；
步骤二、基于多项式拟合方法获得DNN任务中每层的参数分别对各层处理时延的影响，从而获得各层的时延预测模型；
步骤三、根据DNN任务中各层的处理次序、划分及卸载模型、移动设备和服务器之间的传输时延以及时延预测模型得到DNN任务中各层的处理时间关系，并以各层的处理时间关系和服务器的处理原则为约束条件，以平均时延最小为目标函数构建优化问题，最终获得各DNN任务最优的划分方式以及各层的处理时间安排。


2.如权利要求1所述的一种多移动设备的DNN任务的拆分和卸载方法，其特征在于，所述划分及卸载模型为N×M的矩阵X，N为移动设备的数量，M为DNN任务的层数，每层为一个子任务，矩阵的各个元素xij都是0-1变量，xij＝0表示移动设备i的第j个子任务在移动设备本地处理，xij＝1表示移动设备i的第j个子任务由服务器处理。


3.如权利要求1所述的一种多移动设备的DNN任务的拆分和卸载方法...

【专利技术属性】
技术研发人员：高明晋，沈茹婧，石晶林，
申请(专利权)人：中科晶上苏州信息技术有限公司，
类型：发明
国别省市：江苏;32