一种网络模型能耗的确定方法及装置制造方法及图纸

本说明书实施例提供一种网络模型能耗的确定方法及装置，该方法包括：获取目标网络模型在训练过程的训练浮点计算总量；获取目标网络模型的当前调用量，当前调用量表示调用目标网络模型执行业务预测任务的次数；基于当前调用量及目标网络模型在单次业务预测任务执行过程的第一浮点计算量，确定预测浮点计算总量；基于训练浮点计算总量和预测浮点计算总量，确定目标网络模型的当前能耗量。确定目标网络模型的当前能耗量。确定目标网络模型的当前能耗量。

【技术实现步骤摘要】
一种网络模型能耗的确定方法及装置


[0001]本说明书涉及数据处理领域，尤其涉及一种网络模型能耗的确定方法及装置。

技术介绍

[0002]随着环境保护意识的增强，为了减缓全球变暖，目前人工智能也将参与到工作中来，提出"绿色AI"，致力于降低基于人工智能算法的网络模型在运行过程中的能耗。如何相对准确地评估出网络模型的能耗至关重要。
[0003]
技术实现思路

[0004]本说明书一个或多个实施例提供了一种网络模型能耗的确定方法及装置，以实现对模型能耗的准确确定。
[0005]根据第一方面，提供一种网络模型能耗的确定方法，包括：获取目标网络模型在训练过程的训练浮点计算总量；获取所述目标网络模型的当前调用量，所述当前调用量表示调用所述目标网络模型执行业务预测任务的次数；基于所述当前调用量及所述目标网络模型在单次业务预测任务执行过程的第一浮点计算量，确定预测浮点计算总量；基于所述训练浮点计算总量和预测浮点计算总量，确定所述目标网络模型的当前能耗量。
[0006]根据第二方面，提供一种网络模型能耗的确定装置，包括：第一获取模本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种网络模型能耗的确定方法，包括：获取目标网络模型在训练阶段的训练浮点计算总量；获取所述目标网络模型的当前调用量，所述当前调用量表示调用所述目标网络模型执行业务预测任务的次数；基于所述当前调用量及所述目标网络模型在单次业务预测任务执行过程的第一浮点计算量，确定预测浮点计算总量；基于所述训练浮点计算总量和所述预测浮点计算总量，确定所述目标网络模型的当前能耗量。2.如权利要求1所述的方法，在所述确定预测浮点计算总量之前，还包括：在所述目标网络模型的业务预测任务执行过程中，通过调用目标模型平台的指定接口，获取所述第一浮点计算量，其中，所述目标模型平台可对所述目标网络模型的业务预测任务执行过程进行监测。3.如权利要求1所述的方法，所述目标网络模型包括若干层卷积层和若干层全连接层；在所述确定预测浮点计算总量之前，还包括：基于第一浮点计算量公式，各卷积层的模型参数，确定各卷积层在所述目标网络模型的单次业务预测任务执行过程中的浮点计算量；基于第二浮点计算量公式，各全连接层的模型参数，确定各全连接层在所述目标网络模型的单次业务预测任务执行过程中的浮点计算量；基于各卷积层的浮点计算量和各全连接层的浮点计算量，确定所述第一浮点计算量。4.如权利要求1所述的方法，所述训练浮点计算总量是，基于所述目标网络模型在训练阶段中单批次数据训练过程的第二浮点计算量，以及所述训练阶段中数据批次个数而确定的。5.如权利要求1
‑
4任一项所述的方法，其中，所述确定预测浮点计算总量，包括：将所述当前调用量与所述第一浮点计算量的乘积，确定为所述预测浮点计算总量。6.一种网络模型能耗的确定装置，包括：第一获取模块，配置为获取目标网络模型在训练阶段的训练浮点计算总量；第二获取模块，配置为获取所述目标网络模型的当前调用量，所述当前调用量表示调用所述目标...

【专利技术属性】
技术研发人员：丁廷鹤，蒋如杰，赵尚春，周正磊，林晓程，萧仪宗，刘国栋，顾进杰，郎雨泽，卢星宇，钟文亮，马文琪，曾晓东，张冠男，林秀晶，
申请(专利权)人：支付宝杭州信息技术有限公司，
类型：发明
国别省市：