一种适用于异构网络的系统编码分布式计算分配方法技术方案

本发明专利技术提供了一种适用于异构网络的系统编码分布式计算分配方法，包括：步骤一，采用多消息通信模型将计算矩阵进行块划分，采用系统MDS码进行矩阵编码，根据编码和系统参数，设计最小化任务执行时延问题；步骤二，采用贪心二分搜索算法，解决第一步的执行时延最小化问题，由所述贪心二分搜索算法获得每个工作节点所分配的最佳块数量；步骤三，采用系统块的比例分配算法，获得每个工作节点所分配的最佳系统块数，以降低译码时延。本发明专利技术的有益效果是：1.本发明专利技术的一种适用于异构网络的系统编码分布式计算分配方法可以降低任务执行时延；2.本发明专利技术的一种适用于异构网络的系统编码分布式计算分配方法可降低译码时延，从而降低任务总完成时延。完成时延。完成时延。

【技术实现步骤摘要】
一种适用于异构网络的系统编码分布式计算分配方法


[0001]本专利技术涉及通信
，尤其涉及一种适用于异构网络的系统编码分布式计算分配方法。

技术介绍

[0002]对于大规模数据处理和计算复杂任务的迫切需求，人们开始越来越广泛地采用分布式计算，以利用多个工作节点同时处理计算任务。然而，系统中的随机性，例如工作节点之间的负载分配和网络通信状态的变化等，会导致某些工作节点的计算时间明显变长，这种节点被称作“慢节点”。引入编码技术到分布式计算系统中可以缓解慢节点的不利影响，即编码分布式计算(Coded Distributed Computing,CDC)。而编码技术带来的冗余计算量需要根据工作节点的算力进行均衡分配，以最小化任务的总完成时延。但在常见的负载分配方案中，只有算力较强的节点的计算结果才会被主节点利用，丢弃其余工作节点计算的部分结果将会导致冗余计算。因此，为了利用包括慢节点在内的所有节点完成的部分工作，有文献提出将工作节点收到的任务分成多个小块，并利用多消息通信模型(Multi
‑
Message Communication,MMC)，使得每个节点一旦完成单个块的计算就能将结果立即回传，而不用等待所分配的任务全部完成。此外，编码技术带来的编码和译码时延也会对任务的总完成时延造成不小的影响。

技术实现思路

[0003]为了解决现有技术中的问题，本专利技术提供了一种适用于异构网络的系统编码分布式计算分配方法。本专利技术提供了一种一种适用于异构网络的系统编码分布式计算分配方法，包括以下步骤：
[0004]步骤一，采用多消息通信模型将计算矩阵进行块划分，采用系统最大距离可分码进行矩阵编码，根据编码和系统参数，设计最小化任务执行时延问题；
[0005]步骤二，采用贪心二分搜索算法，解决第一步的执行时延最小化问题，由所述贪心二分搜索算法获得每个工作节点所分配的最佳块数量；
[0006]步骤三，采用系统块的比例分配算法，获得每个工作节点所分配的最佳系统块数，以降低译码时延。作为本专利技术的进一步改进，所述步骤一中，在多消息通信模型中，给每个工作节点分配矩阵A编码后被划分成的多个小矩阵块A
i,j
和向量x，工作节点在完成单个子任务y
i,j
＝A
i,j
x的计算后，将结果回传给主节点，无需等待所有分配的子任务全部完成；所述步骤一中，采用码率为k/n的(D,Dk/n)系统最大距离可分码，其中D表示主节点分割编码矩阵后得到的总块数，
[0007]该系统最大距离可分码的编码过程如下：
[0008]步骤1，将矩阵A分割成Dk/n个不相交的矩阵块
[0009]步骤2，将步骤1的Dk/n个矩阵块编码为D个块，工作节点i将收到D
i
个块，其中所有工作节点所分配的块数之和等于总块数D，所有工作节点的系统块数量之和等于Dk/n，校验
块数量之和等于D(n
‑
k)/n；
[0010]步骤3，用L表示计算负载，主节点收到来自不同工作节点的共Dk/n个子任务结果y
i,j
＝A
i,j
x后就能够恢复出最终结果y。作为本专利技术的进一步改进，所述步骤一中，建立最小化任务执行时延的优化问题，包括：
[0011]步骤A1，使用一个二参数的移位指数分布来描述工作节点的计算时延；
[0012]步骤A2，使用一个指数分布来描述工作节点的通信时延；
[0013]步骤A3，设计反映任务计算完成的执行时延；
[0014]步骤A4，构建最小化执行时延的优化问题。作为本专利技术的进一步改进，所述步骤A1具体为：
[0015]设工作节点i计算单个子任务的计算时延为T
icp
，计算负载为L时，计算时延的累积分布函数可表示为：
[0016][0017]其中，是移位参数，表示节点i执行单个内积计算所需要的时间，是慢参数，表示工作节点i的计算能力，由于工作节点的T
icp
是相互独立的，因此工作节点i计算d
i
∈{0,1,
…
,D
i
}个子任务的时间期望值是
[0018]作为本专利技术的进一步改进，所述步骤A2具体为：
[0019]设工作节点i传输单个子任务的计算结果的通信时延为T
icm
，通信负载为L，通信时延的累积分布函数可表示为：
[0020][0021]其中，是慢参数，表示节点i的通信能力，由于每条信道的T
icp
是相互独立的，因此工作节点i通信d
i
∈{0,1,
…
,D
i
}个子任务的计算结果的时间期望值是
[0022]作为本专利技术的进一步改进，所述步骤A3具体为：
[0023]令表示主节点从工作节点i接收d
i
个计算结果的执行时间，它是工作节点i回传d
i
个结果所需的计算延迟和通信延迟之和，即：
[0024][0025]在t时刻，主节点收到的子任务数的期望值为
[0026][0027]其中，
[0028][0029]其中，是的概率密度函数，由的概率密度函数和的概率密度函数卷积得到。
[0030]作为本专利技术的进一步改进，所述步骤A4具体为：
[0031]令T
exe
表示主节点收到足够多的可译码块的执行时延，能够构建下面的优化问题：
[0032][0033]其中，
[0034][0035]作为本专利技术的进一步改进，所述步骤二具体包括：
[0036]步骤S1，确定算法的输入：工作节点的异构参数系统中的总矩阵块数D，时刻t和(D,Dk/n)MDS码；
[0037]步骤S2，确定算法的输出：最小执行时延和最佳块分配方案
[0038]步骤S3，算法的初始化：令T表示由最慢的工作节点执行完D个块所需要的最短时延，初始化二分搜索算法的左端点和右端点：令初始块分配方案为：[D1,D2,
…
,D
n
]＝[0,0,...,0]；
[0039]步骤S4，找到节点的坐标i
*
，使得对应的块分配方案有最大的接收子任务的期望值Ε[D(t
mid
)]，并将块分配给节点i
*
，依次执行步骤S4 D次，将所有的D个块分配给n个工作节点，得到时刻t
mid
下的最佳负载分配；
[0040]步骤S5，判断在时刻t
mid
下，步骤S4得到的最佳负载分配所对应的Ε[D(t
mid
)]是否满足0≤Ε[D(t
mid
)]≤ε，ε为一设定的阈值参数，如果满足，则说明此时的t
mid
就是使得主节点刚好收到足够多的可译码块的时延，此时直接返回相应的最小执行时延和最佳块分配方案如果Ε[D(本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种适用于异构网络的系统编码分布式计算分配方法，其特征在于，包括以下步骤：步骤一，采用多消息通信模型将计算矩阵进行块划分，采用系统最大距离可分码进行矩阵编码，根据编码和系统参数，设计最小化任务执行时延问题；步骤二，采用贪心二分搜索算法，解决第一步的执行时延最小化问题，由所述贪心二分搜索算法获得每个工作节点所分配的最佳块数量；步骤三，采用系统块的比例分配算法，获得每个工作节点所分配的最佳系统块数，以降低译码时延。2.根据权利要求1所述的系统编码分布式计算分配方法，其特征在于，所述步骤一中，在多消息通信模型中，给每个工作节点分配矩阵A编码后被划分成的多个小矩阵块A
i,j
和向量x，工作节点在完成单个子任务y
i,j
＝A
i,j
x的计算后，将结果回传给主节点，无需等待所有分配的子任务全部完成；所述步骤一中，采用码率为k/n的(D,Dk/n)系统最大距离可分码，其中D表示主节点分割编码矩阵后得到的总块数，该系统最大距离可分码的编码过程如下：步骤1，将矩阵A分割成Dk/n个不相交的矩阵块步骤2，将步骤1的Dk/n个矩阵块编码为D个块，工作节点i将收到D
i
个块，其中所有工作节点所分配的块数之和等于总块数D，所有工作节点的系统块数量之和等于Dk/n，校验块数量之和等于D(n
‑
k)/n；步骤3，用L表示计算负载，主节点收到来自不同工作节点的共Dk/n个子任务结果y
i,j
＝A
i,j
x后就能够恢复出最终结果y。3.根据权利要求1所述的系统编码分布式计算分配方法，其特征在于，所述步骤一中，建立最小化任务执行时延的优化问题，包括：步骤A1，使用一个二参数的移位指数分布来描述工作节点的计算时延；步骤A2，使用一个指数分布来描述工作节点的通信时延；步骤A3，设计反映任务计算完成的执行时延；步骤A4，构建最小化执行时延的优化问题。4.根据权利要求3所述的系统编码分布式计算分配方法，其特征在于，所述步骤A1具体为：设工作节点i计算单个子任务的计算时延为T
icp
，计算负载为L时，计算时延的累积分布函数可表示为：其中，是移位参数，表示节点i执行单个内积计算所需要的时间，是慢参数，表示工作节点i的计算能力，由于工作节点的T
icp
是相互独立的，因此工作节点i计算d
i
∈{0,1,
…
,D
i
}个子任务的时间期望值是5.根据权利要求3所述的系统编码分布式计算分配方法，其特征在于，所述步骤A2具体为：设工作节点i传输单个子任务的计算结果的通信时延为T
icm
，通信负载为L，通信时延的累积分布函数可表示为：
其中，是慢参数，表示节点i的通信能力，由于每条信道的T
icp
是相互独立的，因此工作节点i通信d
i
∈{0,1,
…
,D
i
}个子任务的计算结果的时间期望值是6.根据权利要求3所述的系统编码分布式计算分配方法，其特征在于，所述步骤A3具体为：令表示主节点从工作节点i接收d
i
个计算结果的执行时间，它是工作节点i回传d
i
个结果所需的计算延迟和通信延迟之和，即：在t时刻，主节...

【专利技术属性】
技术研发人员：顾术实，王玉，张智凯，覃凯，张钦宇，
申请(专利权)人：哈尔滨工业大学深圳哈尔滨工业大学深圳科技创新研究院，
类型：发明
国别省市：