【技术实现步骤摘要】
一种基于机器学习的显卡任务资源的调度方法及系统
[0001]本专利技术涉及机器学习
,特别涉及一种基于机器学习的显卡任务资源的调度方法及系统。
技术介绍
[0002]显卡(Video card、Display card、Graphics card、Video adapter)是个人计算机基础的组成部分之一,将计算机系统需要的显示信息进行转换驱动显示器,并向显示器提供逐行或隔行扫描信号,控制显示器的正确显示,是连接显示器和个人计算机主板的重要组件,是“人机”的重要设备之一,其内置的并行计算能力现阶段也用于深度学习等运算。
[0003]当前机器学习训练中,使用显卡提供算力已经非常普遍,由于显卡本身就会存在各种运算资源、学习资源,如果对显卡本身情况掌握不清楚的情况下,回导致后续资源调取的效率降低。
[0004]因此,本专利技术提出一种基于机器学习的显卡任务资源的调度方法及系统。
技术实现思路
[0005]本专利技术提供一种基于机器学习的显卡任务资源的调度方法及系统,用以通过对显卡本身的请求数量 ...
【技术保护点】
【技术特征摘要】
1.一种基于机器学习的显卡任务资源的调度方法,其特征在于,包括:步骤1:确定同时刻在线的显卡数量以及针对每个在线显卡的请求数量,同时,确定每个在线显卡的资源集以及与在线显卡匹配的资源集中每个资源的任务响应时间;步骤2:基于机器学习模型分析同个在线显卡在同时刻的请求数量、资源集以及任务响应时间,输出所述同个在线显卡的冲突事件;步骤3:从除所述同个在线显卡外的剩余显卡中获取基于所述冲突事件的可调度单元,并基于所述可调度单元进行冲突任务的分配,实现显卡资源调度。2.如权利要求1所述的基于机器学习的显卡任务资源的调度方法,其特征在于,确定同时刻在线的显卡数量以及针对每个在线显卡的请求数量,包括:获取针对同个在线显卡在同时刻下的请求表;统计所述请求表中的请求数量。3.如权利要求1所述的基于机器学习的显卡任务资源的调度方法,其特征在于,确定每个在线显卡的资源集以及与在线显卡匹配的资源集中每个资源的任务响应时间,包括:确定每个在线显卡的当前已有资源、预约传输资源、剩余可保存资源,其中,所述当前已有资源、预约传输资源、剩余可保存资源即为资源集;分析每个在线显卡的显卡类型,并从历史数据库中调取与所述显卡类型匹配的资源分配情况;对所述资源分配情况进行分配切分,得到针对不同资源的任务响应时间。4.如权利要求3所述的基于机器学习的显卡任务资源的调度方法,其特征在于,对所述资源分配情况进行分配切分,得到针对不同资源的任务响应时间,包括:对所述资源分配情况进行时间点分配,构建历史时刻分配表,其中,所述历史时刻分配表包括不同历史时刻下的历史分配资源;根据所述历史时刻分配表,建立历史分配数组;对所述历史分配数组进行同类型资源分配,得到历史分配序列,并得到针对同类型资源的第一响应时间;确定同类型资源的历史先后出现时间顺序与在线显卡匹配的资源集中的当前已有资源以及预约传输资源的先后出现时间顺序之间的匹配映射关系;根据与所述当前已有资源、预约传输资源以及剩余可保存资源所匹配的资源类型的第一响应时间,且结合匹配映射关系,得到针对不同资源的任务响应时间。5.如权利要求1所述的基于机器学习的显卡任务资源的调度方法,其特征在于,基于机器学习模型分析同个在线显卡在同时刻的请求数量、资源集以及任务响应时间,输出所述同个在线显卡的冲突事件,包括:确定同时刻下同个在线显卡的请求数量是否存在数量拥挤;若存在,则获取多余请求,并作为第一冲突事件输出;确定同个在线显卡的每个请求的请求资源类型以及请求占用资源;当基于同个在线显卡下的同时刻的请求资源类型中的同类型请求的总数量超出类型数量上限时,作为第二冲突事件输出;判断请求占用资源的资源条目是否超出上限资源集的空闲占用条目;若超出,作为第三冲突事件输出;
确定同个在线显卡的每个请求的当下排队响应时间点以及当下排队响应时间点与对应任务响应时间的时间差异,作为第四冲突事件输出。6.如权利要求1所述的基于机器学习的显卡任务资源的调度方法,其特征在于,获取基于所述冲突事件的可调度单元,并基于所述可调度单元进行冲突任务的分配,实现显卡资源调度,包括:获取针对每个在线显卡的冲突集合;根据所述冲突集合所包含的冲突类型,向对应在线显卡设置冲突缓解权重;对所设置的冲突缓解权重进行大小排序,并当存在一致权...
【专利技术属性】
技术研发人员:鲁定一,傅豪,郭兆龙,董锦芝,刘锐,付文杰,李奕飞,
申请(专利权)人:太极计算机股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。