【技术实现步骤摘要】
本申请涉及性能评估，尤其涉及服务性能评估方法、计算机程序产品、电子设备和算机可读存储介质。
技术介绍
1、随着人工智能技术的规模化落地，预训练语言模型渗透金融、医疗、科技等诸多领域，场景需求差异大，且带来推理效率、资源消耗等新要求，因而推理服务评估技术在预训练语言模型推理优化中有着至关重要的作用。目前，多服务评估的数据处理过程中存在诸多的重复计算，使得服务评估效率降低。
技术实现思路
1、本申请提供了服务性能评估方法、计算机程序产品、电子设备和算机可读存储介质，以至少解决相关技术中多服务评估的数据处理过程中存在诸多的重复计算，使得服务评估效率降低的问题。
2、本申请提供了一种服务性能评估方法，包括：
3、创建待评估服务对应的性能评估实验，待评估服务包括预训练语言模型服务；
4、基于数据缓存池，执行性能评估实验，其中，数据缓存池用于分区缓存多种实验测试数据，多种实验测试数据由多个数据集分别经多种数据处理方式处理得到；
5、在执行性能评估实验的过...
【技术保护点】
1.一种服务性能评估方法，其特征在于，包括：
2.根据权利要求1所述的服务性能评估方法，其特征在于，所述创建待评估服务对应的性能评估实验，包括：
3.根据权利要求2所述的服务性能评估方法，其特征在于，在所述创建待评估服务对应的性能评估实验之前，所述服务性能评估方法还包括：
4.根据权利要求1所述的服务性能评估方法，其特征在于，在所述创建待评估服务对应的性能评估实验之前，所述服务性能评估方法还包括：
5.根据权利要求4所述的服务性能评估方法，其特征在于，所述从所述数据缓存池中读取目标测试数据发送至所述待评估服务，包括：p>
6.根据权...
【技术特征摘要】
1.一种服务性能评估方法，其特征在于，包括：
2.根据权利要求1所述的服务性能评估方法，其特征在于，所述创建待评估服务对应的性能评估实验，包括：
3.根据权利要求2所述的服务性能评估方法，其特征在于，在所述创建待评估服务对应的性能评估实验之前，所述服务性能评估方法还包括：
4.根据权利要求1所述的服务性能评估方法，其特征在于，在所述创建待评估服务对应的性能评估实验之前，所述服务性能评估方法还包括：
5.根据权利要求4所述的服务性能评估方法，其特征在于，所述从所述数据缓存池中读取目标测试数据发送至所述待评估服务，包括：
6.根据权利要求5所述的服务性能评估方法，其特征在于，所述缓存标签包括第一标签和第二标签，所述根据所述目标数据集和目标数据处理方式确定所述目标测试数据的缓存标签，包括：
7.根据权利要求5所述的服务性能评估方法，其特征在于，所述根据所述缓存标签从所述数据缓存池中读取所述目标测试数据发送至所述待评估服务，包括：
8.根据...
【专利技术属性】
技术研发人员：宋小妹，
申请(专利权)人：苏州元脑智能科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。