一种旁路方式的智能媒体服务器调度方法、系统、设备及介质技术方案

技术编号:37405984 阅读:8 留言:0更新日期:2023-04-30 09:32
本发明专利技术属于通信技术领域,公开了一种旁路方式的智能服务器调度方法、系统、设备及介质,方法包括:步骤一,使用旁路方式启动检测进程,根据一段时间的资源占有率、热加载脚本和预警模型重新调整计算多服务器架构的权重比重;步骤二,根据ssdp协议发送数据使媒体引擎调整匹配不同的策略模式来调度服务器。本发明专利技术通过报警模型提高计算服务器策略选择速度,提高了服务器利用率,减少服务器奔溃;动态调整权值,提高服务器程序群得高可用性,并最大化利用空闲服务器,减少服务响应时间,同时通过ssdp协议获得IO,cpu能耗计算,统计报警模型数据,合理利用各个服务器资源,静态稳定性,保证性能利用效率。用效率。用效率。

【技术实现步骤摘要】
一种旁路方式的智能媒体服务器调度方法、系统、设备及介质


[0001]本专利技术属于通信
,尤其涉及一种旁路方式的智能媒体服务器调度方法、系统、设备及介质。

技术介绍

[0002]目前,媒体服务器有信令服务,转发服务,存储服务,推理服务(AI)或还有其他服务类型服务器,统称为媒体服务,分别有多个服务器或者叫做集群。为了合理分配服务器资源,原有做法为:根据信令服务器信令去查找所有服务器,找到多个服务器后随机指定某一个服务器做转发服务或者存储,推理,或直接根据权重指定某服务器做转发服务,或根据即时得cpu等占用率去指定服务器。权重一般为服务器指定得归一化数字,如服务器1:0.7服务器2:0.3,则有百分之七十得概率会指定服务器1,百分之三十得概率指定服务器2.,转移概率矩阵为[0.7,0.3]。
[0003]通过上述分析,现有技术存在的问题及缺陷为:
[0004]现有的多个服务器实际的cpu,gpu,内存,磁盘,网络带宽占用率,磁盘IO请求,耗电性能是不断变化得,某些服务器可能长时间已经占用比较多得资源,但由于计算太过简单(根据即时占用率计算),随着时间推移,而权值依然很重,从而在存在媒体服务和AI推理服务,存储服务架构得情况下,无法合理分配服务器。

技术实现思路

[0005]针对现有技术存在的问题,本专利技术提供了一种旁路方式的智能服务器调度方法。服务器包括sip信令调度服务器,其他媒体服务器。当客户端链接上来时,会表明自己为发布身份或者是订阅身份,信令调度服务器去调度分配其他服务器,如流媒体服务器包括主服务器和边缘服务器,AI推理服务器包括主推理服务器和边缘推理服务器,存储服务器包括主存储服务器和边缘存储服务器。主服务器一开始配置的权值相对重。
[0006]本专利技术是这样实现的,一种旁路方式的智能服务器调度方法,所述旁路方式的智能服务器调度方法包括:
[0007]步骤一,每个物理服务器启动一个旁路监测进程watch,该进程去检测物理服务器的cpu,gpu,内存,磁盘io,进程根据ssdp协议发送检测到的数据,由sip信令服务进程再根据ssdp协议获取cpu,gpu,io等资源占有率,通过热加载策略脚本和预警模型来删除服务器,重新调整计算多种服务器情况下各个服务器的权重比重;
[0008]热加载脚本应用过程:信令服务器在启动以后,会根据操作系统文件改变事件检测脚本,当脚本文件发生变化时,重新读取脚本获取权重公式,从而更新服务器调度策略。
[0009]步骤二,旁路进程watch根据ssdp协议发送监测数据,各个服务器进程增加脚本文件并且执行的功能,代码量非常少,脚本文件会发送自己的职能,IP地址等等,sip中心信令调度服务器通过ssdp协议侦测到附近有多少服务器,以及各个服务器的职能,同时通过热加载脚本来改变调度策略,媒体引擎调整匹配不同的策略模式来调度服务器,做到了旁路
方式调度资源。
[0010]进一步,将已发布的数据在推流端以数据流的形式依次传输至流媒体服务器中,sip中心信令调度服务器检测到数据流到达流媒体服务器后,通过流媒体服务器中的ssdp协议侦测当前局域网的服务器以及其职能,同时通过推理服务器包含的目录服务中已经准备好的python热加载脚本或者c++热加载脚本或者lua热加载脚本或者js热加载脚本改变sip中心信令调度服务器的调度策略,流媒体服务器根据sip中心信令调度服务器的调度策略调整origin主服务与边缘服务器之间的匹配模式的相应策略,然后sip中心信令调度服务器调用推理服务器中的主推理服务器与边缘推理服务器进行数据流推理,存储服务器将处理好的数据流进行存储,sip中心信令调度服务器通过直接调用流媒体服务器中的数据流或者存储服务器中的数据文件,传输至展示play订阅中的播放器处,,将数据展示给订阅者。
[0011]进一步,所述步骤二中策略模式包括带宽占有率型以及IO带宽类型;
[0012]假设不同得服务器占用得网卡接口不同;
[0013]所述带宽占有率型为权值比重中网络带宽占有率高的策略;
[0014]所述带宽占有率型的权值比重计算过程为:
[0015]X=a*0.4+b*0.3+c*0.1+d*0.1+e*0.1
[0016]式中,a为网络带宽占有率,b为CPU占有率,c为GPU占有率,d为磁盘IO占有率,e为内存存储块占有率;
[0017]所述IO带宽类型的权值比重计算过程为:
[0018]X=f/total*0.5+a*0.5
[0019]式中,f为磁盘io请求个数,total为最大磁盘IO请求,该值可以从服务器得配置中得到。
[0020]进一步,所述调度的具体过程为:
[0021]服务器每隔n(n<=20)秒钟计算一次Y值,每一分钟求一次均值Y/n=X/(60/n),每5分钟为一个时间单位组,为(Y1,Y2,Y3,Y4,Y5),即可只存储5分钟的值5个;
[0022]根据每个服务器发送的Y/n值,确定最小值为权重最高的服务器。
[0023]服务器群间并不直接通信,根据ssdp协议发送数据,根据职能不同,每个基础权重在脚本中动态调整。
[0024]进一步,所述预警模型包括如下数据:
[0025]H:cpu警告;
[0026]I:用电警告;
[0027]J:温度警告;
[0028]K:内存不足警告;
[0029]L:磁盘不足警告;
[0030]进一步,服务器内存储5分钟之内的报警模型数据,并根据所述预警模型直接删除掉待选服务器。
[0031]将已发布的数据在推流端以数据流的形式依次传输至流媒体服务器中,sip中心信令调度服务器检测到数据流到达流媒体服务器后,通过流媒体服务器中的ssdp协议侦测当前局域网的服务器以及其职能,同时通过推理服务器包含的目录服务中已经准备好的
python热加载脚本或者c++热加载脚本或者lua热加载脚本或者js热加载脚本改变sip中心信令调度服务器的调度策略,流媒体服务器根据sip中心信令调度服务器的调度策略调整origin主服务与边缘服务器之间的匹配模式的相应策略,然后sip中心信令调度服务器调用推理服务器中的主推理服务器与边缘推理服务器进行数据流推理,存储服务器将处理好的数据流进行存储,sip中心信令调度服务器通过直接调用流媒体服务器中的数据流或者存储服务器中的数据文件,传输至展示play订阅中的播放器处,结合大屏DLAN协议,将数据展示给订阅者。
[0032]本专利技术的另一目的在于提供一种实施所述旁路方式的智能服务器调度方法的旁路方式的智能服务器调度系统,所述旁路方式的智能服务器调
[0033]度系统包括:
[0034]A)自定义搜索发现协议ssiop,组播模块,用户网内协议,包括发送和接收;
[0035]1发送模块
[0036]向组播地址239.255.255.123,端口18000发送身份,本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种旁路方式的智能服务器调度方法,其特征在于,所述旁路方式的智能服务器调度方法包括:步骤一,使用旁路方式启动检测进程,根据一段时间的资源占有率、热加载脚本和预警模型重新调整计算多服务器架构的权重比重;步骤二,根据ssdp协议发送数据使媒体引擎调整匹配不同的策略模式来调度服务器。2.如权利要求1所述旁路方式的智能服务器调度方法,其特征在于,步骤一中,每个物理服务器启动一个旁路监测进程watch,该进程去检测物理服务器的cpu,gpu,内存,磁盘io,进程根据ssdp协议发送检测到的数据,由sip信令服务进程再根据ssdp协议获取cpu,gpu,io资源占有率,通过热加载策略脚本和马尔可夫预警模型来删除服务器,重新调整计算多种服务器情况下各个服务器的权重比重。3.如权利要求2所述旁路方式的智能服务器调度方法,其特征在于,所述方法包含的热加载脚本应用过程为:信令服务器在启动以后,会根据操作系统文件改变事件检测脚本,当脚本文件发生变化时,重新读取脚本获取权重公式,从而更新服务器调度策略。4.如权利要求3所述旁路方式的智能服务器调度方法,其特征在于,所述脚本内置预警信令,超过规定的阈值,该服务器不宣布下线,只是宣布不接受更多的服务指令,仍然为已链接存在的客户点服务,如果cpu等能耗等居高不下,该服务器脚本将会宣布该服务器下线,sip将删除该服务器候选,同时sip信令服务器根据计算的X值,返回流媒体服务器地址,流媒体服务器使用脚本根据计算公式计算出存储服务器地址和推理服务器地址,通知存储服务器和推理服务器;如果为订阅,订阅者从sip服务器获取服务器地址获取流或者存储录像文件;并且根据实际得资源占有率来确定服务器得权值比重。采用热加载脚本,脚本改变策略模式,动态计算脚本公式,根据预警信息(ssdp协议)快速删除服务器候选,根据职能细分服务器权值比重。5.如权利要求1所述旁路方式的智能服务器调度方法,其特征在于,步骤二中,旁路进程watch根据ssdp协议发送监测数据,各个服务器进程增加脚本文件并且执行的功能,代码量非常少,脚本文件会发送自己的职能、IP地址;sip中心信令调度服务器通过ssdp协议侦测到附近有多少服务器,以及各个服务器的职能,同时通过热加载脚本来改变调度策略,媒体引擎调整匹配不同的策略模式来调度服务器,做到了旁路方式调度资源。6.如权利要求5所述旁路方式的智能服务器调度方法,其特征在于,所述步骤二中策略模式包括带宽占有率型以及IO带宽类型;假设不同得服务器占用得网卡接口不同;所述带宽占有率型为权值比重中网络带宽占有率高的策略;所述带宽占有率型的权值比重计算过程为:X=a*0.4+b*0.3+c*0.1+d*0.1+e*0.1式中,a为网络带宽占有率,b为CPU占有率,c为GPU占有率,d为磁盘存储块占有率,e为内存存储块占有率;所述IO带宽类型的权值比重计算过程为:X=f/total*0.5+a*0.5
式中,f为磁盘io请求个数,total为最大磁盘IO请求。7.如权利要求1所述旁路方式的智能服务器调度方法,其特征在于,所述调度服务器的具体过程为:服务器每隔n秒钟计算一次Y值,n<=20,每一分钟求一次均值Y=X/(60/n),每半小时为一个时间单位组,为Y1,Y2,Y3......Y30,只存储半小时的值30个;根据每个服务器发送的Y/n值,确定最小值为权重最高的服务器,根据存储的5分钟之内的报警模型数据直接删除掉待选服务器;所述预警模型包括如下数据:cpu警告、用电警告、温度警告、内存不足警告、磁盘不足警告。8.如权利要求1所述旁路方式的智能服务器调度方法,其特征在于,...

【专利技术属性】
技术研发人员:钱波
申请(专利权)人:上海元镜像信息科技有限公司
类型:发明
国别省市:

相关技术
    暂无相关专利
网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1