基于阈值控制跨域联合休眠机制的优化边缘推理方法技术

一种基于阈值控制跨域联合休眠机制的优化边缘推理方法，构造无线通信传输和GPU计算能耗的模型来建立端侧的整体能耗，采用跨域联合休眠机制和基于阈值控制跨域参数，将非连续发送(DTX)和动态电压频率调节(DVFS)技术结合，通过计算和通信域的联合调度，从而实现更高的节能增益，避免潜在的资源空闲期，提升整个无线通信系统的能源利用率，通过业务负载情况动态调整DTX的周期t_(dtx_cycle)和边缘服务器的等待周期t_i，从而避免无效的休眠，使得节能增益最大化。

【技术实现步骤摘要】

本专利技术涉及的是一种无线通信领域的技术，具体是一种基于阈值控制跨域联合休眠机制的优化边缘推理方法。

技术介绍

1、现有边缘推理系统能耗主要源于两个方面：用于数据传输的通信能耗和支撑模型推理运行的计算能耗。这双重的能耗压力对边缘节点的电池续航和整体系统可持续性构成了严峻考验。但是现有的针对边缘推理系统的节能构造大多数仅仅只考虑通信侧或者计算侧的休眠节能，未区分不同业务对不同资源的敏感性或对于每种业务分配相同的资源，无法适应混合业务需求的能效优化；而部分优化策略则仅优化计算侧休眠，忽视通信侧射频链路空闲能耗，不适应通信计算时域耦合的联合优化；未区分不同任务给用户带来的价值，不能很好的适应任务优先级驱动的优化。

技术实现思路

1、本专利技术针对现有技术存在的上述不足，提出一种基于阈值控制跨域联合休眠机制的优化边缘推理方法，通过跨域联合休眠机制和基于阈值控制跨域参数，将非连续发送(dtx)和动态电压频率调节(dvfs)技术结合，通过计算和通信域的联合调度，从而实现更高的节能增益，避免潜在的资源空闲期，提升整个无线通本文档来自技高网...

【技术保护点】

1.一种基于阈值控制跨域联合休眠机制的优化边缘推理方法，其特征在于，首先对包含边缘服务器的单基站和多用户的场景，建立相应的边缘端功耗模型后，分别设置该边缘端功耗模型中的基站下行通信中，采用DTX技术进行节能、设置边缘服务器在计算时采用DVFS进行节能；再基于改进后的边缘端功耗模型，对于单基站和多用户的场景构造TREE最大化问题；最后通过基于阈值控制跨域参数的方法求解TREE最大化问题，实现AI融合无线通信系统的能效最优解。

2.根据权利要求1所述的基于阈值控制跨域联合休眠机制的优化边缘推理方法，其特征是，所述的边缘端功耗模型，具体为：，其中：和GPU的电压和频率，k个核心计算...

【技术特征摘要】

1.一种基于阈值控制跨域联合休眠机制的优化边缘推理方法，其特征在于，首先对包含边缘服务器的单基站和多用户的场景，建立相应的边缘端功耗模型后，分别设置该边缘端功耗模型中的基站下行通信中，采用dtx技术进行节能、设置边缘服务器在计算时采用dvfs进行节能；再基于改进后的边缘端功耗模型，对于单基站和多用户的场景构造tree最大化问题；最后通过基于阈值控制跨域参数的方法求解tree最大化问题，实现ai融合无线通信系统的能效最优解。

2.根据权利要求1所述的基于阈值控制跨域联合休眠机制的优化边缘推理方法，其特征是，所述的边缘端功耗模型，具体为：，其中：和gpu的电压和频率，k个核心计算资源的平均利用率，即ai模型的模型flops利用率(mfu)；，和内存的电压，频率和平均利用率；dtx的无线传输功率，电路总静态功率；与基础结构的特征相关的硬件特定参数，例如组件总电容和泄漏电阻；与功率放大器效率相关的放大系数。

3.根据权利要求1或2所述的基于阈值控制跨域联合休眠机制的优化边缘推理方法，其特征是，所述的边缘服务器根据服务队列进行视频生成和视频理解并分别通过下行队列输出不同业务；

4.根据权利要求1所述的基于阈值控制跨域联合休眠机制的优化边缘推理方法，其特征是，所述的dtx技术是指：无线射频链路发射端采用周期性开关实现节能，打开时以固定的持续时间内检测传输队列，当队列为空则返回休眠状态，反之则立即执行传输，传输完则进入休眠。

5.根据权利要求1所述的基于阈值控制跨域联合休眠机制的优化边缘推理方法，其特征是，所述的dvfs进行节能是指：当ai推理队列不为空时，即刻激活边缘服务器，激活后依次进入计算密集型预填...

【专利技术属性】
技术研发人员：王腾胜，余涛，黄凯旋，李济宏，张舜卿，
申请(专利权)人：上海大学，
类型：发明
国别省市：