【技术实现步骤摘要】
本专利技术涉及边缘设备,具体为边缘设备上的模型量化感知训练系统。
技术介绍
1、在当今数字化时代,边缘设备在各个领域的应用越来越广泛,如智能家居、智能安防、工业物联网等。这些设备通常需要运行深度学习模型以实现智能化功能。
2、但由于边缘设备的硬件资源(如计算能力、内存、存储等)有限,传统的高精度深度学习模型在边缘设备上部署面临诸多挑战。具体存在以下问题:
3、1.计算资源限制:边缘设备的计算能力相对较弱,难以处理大规模、高复杂度的深度学习模型。例如,在智能安防监控中,需要实时对摄像头采集的视频流进行目标检测和识别。若使用未经过优化的高精度模型,如基于resnet-101的目标检测模型,在普通的边缘计算设备(如树莓派4b)上运行时,其计算速度远远无法满足实时性要求,导致视频分析延迟严重,无法及时发现异常情况。
4、2.内存资源紧张:深度学习模型的权重和中间数据通常占用大量内存。对于内存有限的边缘设备,如一些低功耗的物联网传感器节点,可能无法加载完整的模型。例如,一个简单的语音识别模型,其未量化的权重数据
...【技术保护点】
1.边缘设备上的模型量化感知训练系统,其特征在于,包括:
2.根据权利要求1所述的边缘设备上的模型量化感知训练系统,其特征在于,所述量化感知训练模块包括:
3.根据权利要求2所述的边缘设备上的模型量化感知训练系统,其特征在于,所述模拟量化配置模块包括:
4.根据权利要求2所述的边缘设备上的模型量化感知训练系统,其特征在于,所述模型初始化与训练参数设定模块包括:
5.根据权利要求2所述的边缘设备上的模型量化感知训练系统,其特征在于,所述前向传播与模拟量化执行模块包括:
6.根据权利要求2所述的边缘设备上的模型量
...【技术特征摘要】
1.边缘设备上的模型量化感知训练系统,其特征在于,包括:
2.根据权利要求1所述的边缘设备上的模型量化感知训练系统,其特征在于,所述量化感知训练模块包括:
3.根据权利要求2所述的边缘设备上的模型量化感知训练系统,其特征在于,所述模拟量化配置模块包括:
4.根据权利要求2所述的边缘设备上的模型量化感知训练系统,其特征在于,所述模型初始化与训练参数设定模块包括:
5.根据权利要求2所述的边缘设备上的模型量化感知训练系统,其特征在于,所述前向传播与模拟量化执行模块包括:
6.根据权利要...
【专利技术属性】
技术研发人员:孙境棋,张博尧,孙正烈,余剑峰,王彦棡,张东,杨真,
申请(专利权)人:瑞泊北京人工智能科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。