【技术实现步骤摘要】
一种用于计算机视觉应用的异构平台任务瓶颈消除方法
：
[0001]本专利技术涉及计算机视觉，流式计算系统，动态调度等领域，尤其涉及一种基于基于流式计算模型的，面向异构平台的任务瓶颈消除方法，该方法可以被用于解决异构平台计算机视觉应用性能瓶颈的问题，有利于缩短计算机视觉人工智能算法落地周期，降低企业研发成本。
技术介绍
：
[0002]在计算机视觉领域飞速发展的今天，已经有非常多的基础研究使得计算机视觉方法在像安防、物流这样的领域有了被应用的可能。计算机视觉算法工程化渐渐成为了一个促进算法落地、应用的至关重要的一环。然而由于计算机视觉算法的训练过程往往较推理过程更复杂，推理过程通常不包含复杂的迭代算法，往往被视作是较为容易的部分，因此计算机视觉领域的研究都聚焦于提升模型训练的效率或者精度，计算机视觉领域的框架也集中在模型的训练上，推理过程只提供简单的基本功能。随着计算机视觉的应用变得越来越多，高可用、易扩展、能够帮助计算机视觉算法快速落地的计算机视觉推理框架正成为快速增长的新需求。
[0003]如图1所示，计算机视觉应用一...
【技术保护点】
【技术特征摘要】
1.一种用于计算机视觉应用的异构平台任务瓶颈消除方法，包括下列步骤：(1)将计算机视觉应用拆分为多个语义上独立的任务，每个任务需要实现预先定义的一个统一接口；(2)通过队列连接这些任务，队列提供按索引分流、广播、聚合、保序功能；每个任务有若干输入队列及若干输出队列，这些输入队列及输出队列被若干任务共享所有权，从而将应用组织为有向图的形式；(3)发现瓶颈任务，方法如下：1)一个任务的输入队列的输出端流速小于输入端流速，则认为该任务处于瓶颈路径上，而瓶颈路径上的最后一个任务认为是瓶颈任务；对于任意任务，通过其单次执行前后的输入管道剩余数据量的变化判断该任务的执行开销，计算任务执行开销C:C＝max(N1‑
N2,1)Cost
n+1
＝Cost
n
×
S+C
×
(1
‑
S)其中N1是任务单次执行前所有输入队列中剩余数据量最小值，N2是任务单次执行后所有输入队列中剩余数据量最小值，S是平滑系数，s＝0.7，Cost
n
是上次执行开销，初始值是一个极大值，Cost
n+1
是这次执行开销；2)为了将任务本身的执行开销与任务前后依赖的执行开销结合起来,以更准确的判断当前应用的瓶颈任务，计算上下文任务执行开销:其中N3是任务单次执行后所有输出管道中剩余数据量的最小值；(4)瓶颈任务处理，方法如下：以任意顺序遍历所有任务，计算上下文任务执行开销，上下文任务执行开销最大的任务即全局的瓶颈任务；若瓶颈任务是cpu上的计算任务，则根据瓶颈任务是否有状态，执行复制,或者按索引复制，来并行化瓶颈任务，消除瓶颈；若瓶颈任务是gpu上的计算任务，采用加大攒批处理输入数据的超时时间，以提...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。