System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及资源分配领域,尤其涉及一种面向大型微服务生态系统的资源分配技术。
技术介绍
1、近年来,微服务系统的应用已经趋于广泛。微服务系统,又被称为微服务架构,是一种用于构建应用的架构方案,将复杂的系统功能分解到离散的各个服务中,每个服务都在独立的进程中运行,通过定义明确的接口(如rest)来互相通信,从而降低系统的耦合性,提升系统的稳定性和灵活性。大型微服务系统的高度分布式和动态的特性,使得服务节点的数量急速膨胀,服务间的依赖关系日益复杂,且涉及的资源众多,如cpu,gpu,内存等,如何对资源进行合理分配,成为了保障微服务生态系统可用性、稳定性和高效性的重要问题,需要有效的资源分配算法来实现。
2、当前的资源分配算法主要按照权重,优先级等方式进行调度,难以保证每个应用平均完成时间最小化。
技术实现思路
1、本专利技术针对现有技术中的缺点,提供了一种在面向大型微服务生态系统优化各应用平均响应时间的资源分配技术。
2、为了解决上述技术问题,本专利技术通过下述技术方案得以解决:
3、一种资源分配方法,在微服务系统中,基于用户请求信息,对各应用进行资源分配,包括以下步骤:
4、获取目标优化模型,所述目标优化模型包括若干个与资源一一对应的子优化模型;
5、所述子优化模型的优化目标为,在对应资源上,所有应用的平均响应时间之和最小化;
6、所述子优化模型的变量包括决策变量和环境变量;
7、所述决策变量包括对
8、所述环境变量包括各应用所对应的用户请求集合和内部通讯开销;
9、获取当前微服务系统所对应的环境参数;
10、基于所述环境参数,按照交替方向乘子法对各子优化模型进行并行化求解,获得各决策变量所对应的最优解,生成相应的资源分配策略。
11、作为一种可实施方式,所述目标优化模型的构建方法包括:
12、构建原始计算函数,所述原始计算函数用于基于所述环境参数计算目标应用的平均响应时间;
13、基于组范数构建差异化约束条件,获得第一约束,差异化约束条件指,针对各类资源,各应用程序中相应的资源小于等于该资源的上限阈值;
14、将目标应用所对应的子分配情况的矩阵向量乘法形式作为第二约束;
15、基于所述原始计算函数、所述第一约束和所述第二约束,构建所有应用的平均响应时间之和最小化问题,获得目标优化问题;
16、将所述目标优化问题拆分成与所述资源一一对应的子问题,将各子问题所对应的增广拉格朗日函数作为相应的子优化模型。
17、作为一种可实施方式:
18、原始计算函数为:
19、
20、其中:
21、是第n个应用所对应的平均响应时间;
22、是队列平均等待时间;
23、是平均服务时间;
24、λn是用户请求到达第n个应用的平均速率;
25、ln是第n个应用对应的队列中用户请求的平均数量;
26、γn是第n个应用对应的用户请求集合;
27、表示各资源在第n个应用中的子分配情况;
28、表示对于到达的用户请求集合γn,给定的资源,第n个应用的平均处理速度;
29、表示第n个应用的内部通信开销。
30、作为一种可实施方式:
31、所述目标优化问题为:
32、
33、
34、
35、
36、其中:
37、yk是第k种资源的总分配情况;
38、是第n个应用中第k种资源的子分配情况,是的简写;
39、sn是对角矩阵;
40、μk是第k种资源所对应的上限阈值;
41、是第n个应用中微服务的集合;
42、m是第n个应用中第m个微服务。
43、作为一种可实施方式:
44、第k种资源所对应的子问题为:
45、
46、
47、
48、
49、其中:
50、fnk函数是第n个应用在分配了第k种资源后对于用户请求r的处理速度;
51、αk是第k种资源所对应的处理速度对于最终服务速率的贡献权重;
52、k是资源类型的总数。
53、作为一种可实施方式:
54、所述子优化模型为对偶形式的增广拉格朗日函数;
55、第k种资源所对应的子优化模型的表达式为:
56、
57、
58、
59、
60、其中:
61、yk是第k种资源的总分配情况;
62、是第n个应用中第k种资源的子分配情况;
63、{un}n为对偶变量;
64、η是罚项系数;
65、αk是第k种资源所对应的处理速度对于最终服务速率的贡献权重;
66、tn是第n个应用对应的用户请求集合;
67、fnk函数是第n个应用在分配了第k种资源后对于用户请求r的处理速度;
68、k是资源类型的总数;
69、表示第n个应用的内部通信开销;
70、sn是对角矩阵;
71、μk是第k种资源所对应的上限阈值;
72、是第n个应用中微服务的集合;
73、m是第n个应用中第m个微服务。
74、一种资源分配系统,在微服务系统中,基于用户请求信息,对各应用进行资源分配,包括:
75、模型获取模块,用于获取目标优化模型,所述目标优化模型包括若干个与资源一一对应的子优化模型;
76、所述子优化模型的优化目标为,在对应资源上,所有应用的平均响应时间之和最小化;
77、所述子优化模型的变量包括决策变量和环境变量;
78、所述决策变量包括对应资源的总分配情况和子分配情况,所述总分配情况指对应资源在所述微服务系统中的分配情况,所述子分配情况指对应种类在各应用中的分配情况;
79、所述环境变量包括各应用所对应的用户请求集合和内部通讯开销;
80、数据获取模块,用于获取当前微服务系统所对应的环境参数;
81、优化模块,用于基于所述环境参数,按照交替方向乘子法对各子优化模型进行并行化求解,获得各决策变量所对应的最优解,生成相应的资源分配策略。
82、作为一种可实施方式,模型获取模块包括模型构建模块,所述模型构建模块被配置为:
83、构建原始计算函数,所述原始计算函数用于基于所述环境参数计算目标应用的平均响应时间;
84、基于组范数构建差异化约束本文档来自技高网...
【技术保护点】
1.一种资源分配方法,其特征在于,在微服务系统中,基于用户请求信息,对各应用进行资源分配,包括以下步骤:
2.根据权利要求1所述资源分配方法,其特征在于,所述目标优化模型的构建方法包括:
3.根据权利要求2所述资源分配方法,其特征在于:
4.根据权利要求3所述资源分配方法,其特征在于:
5.根据权利要求4所述资源分配方法,其特征在于:
6.根据权利要求1至5任一所述资源分配方法,其特征在于:
7.一种资源分配系统,其特征在于,在微服务系统中,基于用户请求信息,对各应用进行资源分配,包括:
8.根据权利要求7所述资源分配系统,其特征在于,模型获取模块包括模型构建模块,所述模型构建模块被配置为:
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1至6中任一项所述的资源分配方法的步骤。
10.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1至6中任一项
...【技术特征摘要】
1.一种资源分配方法,其特征在于,在微服务系统中,基于用户请求信息,对各应用进行资源分配,包括以下步骤:
2.根据权利要求1所述资源分配方法,其特征在于,所述目标优化模型的构建方法包括:
3.根据权利要求2所述资源分配方法,其特征在于:
4.根据权利要求3所述资源分配方法,其特征在于:
5.根据权利要求4所述资源分配方法,其特征在于:
6.根据权利要求1至5任一所述资源分配方法,其特征在于:
7.一种资源分配系统,其特征在于,在微服务...
【专利技术属性】
技术研发人员:赵海亮,邓水光,张艺蓉,尹建伟,
申请(专利权)人:浙江大学海南研究院,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。