用于操作系统内核数据路径的自适应神经网络技术方案

本申请涉及人工智能和计算机系统技术领域，具体涉及一种用于操作系统内核数据路径的自适应神经网络。该自适应神经网络包括：第一网络分支，部署在内核空间并且通过第一路径与至少一种内核数据路径功能相对应的内核网络模块连通，以及配置为：通过第一路径从内核网络模块获取输入数据并将对应的推理结果发送给该内核网络模块；第二网络分支，部署在用户空间并且通过从内核空间到用户空间的第二路径与第一网络分支连通，以及配置为：通过第二路径获取第一网络分支相关联的训练数据并且自适应地生成自适应神经网络的模型调参信息。如此实现了对该自适应神经网络的模型推理和自适应模型调参进行解耦，有利于降低通信开销和应对动态变化的工作需求。和应对动态变化的工作需求。和应对动态变化的工作需求。

【技术实现步骤摘要】
用于操作系统内核数据路径的自适应神经网络


[0001]本申请涉及人工智能和计算机系统
，尤其涉及操作系统
，具体涉及一种用于操作系统内核数据路径的自适应神经网络。

技术介绍

[0002]随着计算机系统的软件和硬件相关技术的发展，以及如智能手机、智能平板、智能手环和其它智能化便携设备或智能化可穿戴设备的发展，需要在各种不同的设备上装载操作系统并且这些操作系统需要应对复杂多变且可能不停变化的工作需求，例如操作系统可能面对不同的工作量或者不同的网络通讯条件或者硬件条件的变化或者新的算法框架等。机器学习(Machine Learning，ML)技术被用来提升及确保操作系统在持续变化的环境中的表现。但是，现有的操作系统的框架及内部的组件的部署是基于过去的设计，无法很好地与ML技术结合从而应对动态变化的工作需求。
[0003]为此，需要一种用于操作系统内核数据路径的自适应神经网络，能够灵活应对可能部署在不同的设备上的操作系统各自面对的复杂多变且动态变化的工作需求。

技术实现思路

[0004]第一方面，本申请实施例提供了一种自适应神经网络，用于操作系统的内核数据路径。所述操作系统包括内核空间和用户空间，所述操作系统的内核数据路径通过部署在所述操作系统的内核空间的内核网络模块提供至少一种内核数据路径功能，所述自适应神经网络包括：第一网络分支，部署在所述内核空间并且通过第一路径与所述至少一种内核数据路径功能相对应的内核网络模块连通，以及配置为：通过所述第一路径从该内核网络模块获取输入数据并将与该输入数据对应的推理结果发送给该内核网络模块，该推理结果用于优化所述至少一种内核数据路径功能；第二网络分支，部署在所述用户空间并且通过从所述内核空间到所述用户空间的第二路径与所述第一网络分支连通，以及配置为：通过所述第二路径获取所述第一网络分支相关联的训练数据并且自适应地生成所述自适应神经网络的模型调参信息，所述模型调参信息用于优化所述第一网络分支的推理功能。
[0005]第一方面所描述的技术方案，通过对该自适应神经网络的模型推理和自适应模型调参进行解耦并且相应地分别部署第一网络分支在内核空间和第二网络分支在用户空间，以及通过第一路径和第二路径来分别满足模型推理所对应的快速执行的要求和自适应模型调参所对应的高精度、密集计算的要求，实现了避免因资源竞争而导致的对内核数据路径功能的影响，降低通信开销和控制开销，以及降低开发难度和提升模型性能，从而有利于应对动态变化的工作需求。
[0006]根据第一方面的技术方案的一种可能的实现方式，本申请实施例还提供了，所述模型调参信息包括以下至少一项：所述第一网络分支的模型结构、所述第一网络分支的模型参数和所述第一网络分支的权重系数，其中所述优化所述第一网络分支的推理功能是基于所述模型调参信息调整所述第一网络分支。
[0007]根据第一方面的技术方案的一种可能的实现方式，本申请实施例还提供了，所述第二网络分支通过将所述第一网络分支相关联的训练数据导入教师神经网络并解析所述教师神经网络的输出从而自适应地生成所述模型调参信息，其中所述第一网络分支是相对于所述教师模型的学生模型。
[0008]根据第一方面的技术方案的一种可能的实现方式，本申请实施例还提供了，所述第二网络分支通过将所述第一网络分支相关联的训练数据导入生成对抗性神经网络并通过比较所述生成对抗性神经网络所生成的子网络从而自适应地生成所述模型调参信息，其中所述模型调参信息是从所述生成对抗性神经网络所生成的子网络中选择。
[0009]根据第一方面的技术方案的一种可能的实现方式，本申请实施例还提供了，所述第二网络分支包括与所述用户空间兼容的参考神经网络，所述第二网络分支通过将所述第一网络分支相关联的训练数据导入所述参考神经网络并解析所述参考神经网络的输出从而自适应地生成所述模型调参信息，所述模型调参信息包括对所述参考神经网络进行整数量化操作和代码转换操作得到的与所述参考神经网络对应的网络快照，所述网络快照与所述内核空间兼容，其中所述优化所述第一网络分支的推理功能是基于所述网络快照。
[0010]根据第一方面的技术方案的一种可能的实现方式，本申请实施例还提供了，所述参考神经网络是基于与所述用户空间兼容的机器学习框架且采用以下任意一项：TensorFlow，PyTorch、GYM。
[0011]根据第一方面的技术方案的一种可能的实现方式，本申请实施例还提供了，对所述参考神经网络进行整数量化操作包括对所述参考神经网络的输入输出按照缩放因子进行缩放化和量化。
[0012]根据第一方面的技术方案的一种可能的实现方式，本申请实施例还提供了，对所述参考神经网络进行代码转换操作包括：针对所述参考神经网络所包括的每一个层，基于该层的类型选择与该层的类型对应的预设层模板并按照该预设层模板将该层的模型参数和权重系数转换为与该层对应的代码实例，然后整合与所述参考神经网络所包括的每一个层分别对应的代码实例得到与所述参考神经网络对应的源代码文件，其中所述网络快照是基于所述源代码文件编译得到。
[0013]根据第一方面的技术方案的一种可能的实现方式，本申请实施例还提供了，所述参考神经网络包括至少一个线性层和/或至少一个全连接层，其中，与所述至少一个线性层对应的预设层模板包括所述至少一个线性层的计算逻辑且与所述至少一个线性层对应的代码实例与所述内核空间兼容，与所述至少一个全连接层对应的预设层模板包括所述至少一个全连接层的计算逻辑且与所述至少一个全连接层对应的代码实例与所述内核空间兼容。
[0014]根据第一方面的技术方案的一种可能的实现方式，本申请实施例还提供了，所述参考神经网络还包括至少一个非线性层，其中，与所述至少一个非线性层对应的预设层模板是用于逼近所述至少一个非线性层的计算逻辑的查找表且与所述至少一个非线性层对应的代码实例与所述内核空间兼容。
[0015]根据第一方面的技术方案的一种可能的实现方式，本申请实施例还提供了，所述第二网络分支还配置为：基于用户自定义指标评估所述网络快照的准确性以及基于保真度损失评估所述网络快照的必要性，当评估通过时将所述网络快照发送到所述内核空间，当
评估不通过时不将所述网络快照发送到所述内核空间。
[0016]根据第一方面的技术方案的一种可能的实现方式，本申请实施例还提供了，所述网络快照在生成后被发送到所述第一网络分支，所述第一网络分支还配置为：基于用户自定义指标评估所述网络快照的准确性以及基于保真度损失评估所述网络快照的必要性，当评估通过时基于所述网络快照优化所述第一网络分支的推理功能，当评估不通过时不进行优化。
[0017]根据第一方面的技术方案的一种可能的实现方式，本申请实施例还提供了，所述第一网络分支相关联的训练数据包括一个或者多个训练数据批次，所述一个或者多个训练数据批次中的每一个训练数据批次包括基于特定时间间隔或者特定数据包个数确定的所述第一网络分支所获取的输入数据和相应推理结果。
[0018]根据第一方面的技术方案的一种可能本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种自适应神经网络，用于操作系统的内核数据路径，其特征在于，所述操作系统包括内核空间和用户空间，所述操作系统的内核数据路径通过部署在所述操作系统的内核空间的内核网络模块提供至少一种内核数据路径功能，所述自适应神经网络包括：第一网络分支，部署在所述内核空间并且通过第一路径与所述至少一种内核数据路径功能相对应的内核网络模块连通，以及配置为：通过所述第一路径从该内核网络模块获取输入数据并将与该输入数据对应的推理结果发送给该内核网络模块，该推理结果用于优化所述至少一种内核数据路径功能；第二网络分支，部署在所述用户空间并且通过从所述内核空间到所述用户空间的第二路径与所述第一网络分支连通，以及配置为：通过所述第二路径获取所述第一网络分支相关联的训练数据并且自适应地生成所述自适应神经网络的模型调参信息，所述模型调参信息用于优化所述第一网络分支的推理功能。2.根据权利要求1所述的自适应神经网络，其特征在于，所述模型调参信息包括以下至少一项：所述第一网络分支的模型结构、所述第一网络分支的模型参数和所述第一网络分支的权重系数，其中所述优化所述第一网络分支的推理功能是基于所述模型调参信息调整所述第一网络分支。3.根据权利要求1所述的自适应神经网络，其特征在于，所述第二网络分支通过将所述第一网络分支相关联的训练数据导入教师神经网络并解析所述教师神经网络的输出从而自适应地生成所述模型调参信息，其中所述第一网络分支是相对于所述教师模型的学生模型。4.根据权利要求1所述的自适应神经网络，其特征在于，所述第二网络分支通过将所述第一网络分支相关联的训练数据导入生成对抗性神经网络并通过比较所述生成对抗性神经网络所生成的子网络从而自适应地生成所述模型调参信息，其中所述模型调参信息是从所述生成对抗性神经网络所生成的子网络中选择。5.根据权利要求1所述的自适应神经网络，其特征在于，所述第二网络分支包括与所述用户空间兼容的参考神经网络，所述第二网络分支通过将所述第一网络分支相关联的训练数据导入所述参考神经网络并解析所述参考神经网络的输出从而自适应地生成所述模型调参信息，所述模型调参信息包括对所述参考神经网络进行整数量化操作和代码转换操作得到的与所述参考神经网络对应的网络快照，所述网络快照与所述内核空间兼容，其中所述优化所述第一网络分支的推理功能是基于所述网络快照。6.根据权利要求5所述的自适应神经网络，其特征在于，所述参考神经网络是基于与所述用户空间兼容的机器学习框架且采用以下任意一项：TensorFlow，PyTorch、GYM。7.根据权利要求5所述的自适应神经网络，其特征在于，对所述参考神经网络进行整数量化操作包括对所述参考神经网络的输入输出按照缩放因子进行缩放化和量化。8.根据权利要求5所述的自适应神经网络，其特征在于，对所述参考神经网络进行代码转换操作包括：针对所述参考神经网络所包括的每一个层，基于该层的类型选择与该层的类型对应的预设层模板并按照该预设层模板将该层的模型参数和权重系数转换为与该层对应的代码实例，然后整合与所述参考神经网络所包括的每一个层分别对应的代码实例得到与所述参考神经网络对应的源代码文件，其中所述网络快照是基于所述源代码文件编译得到。
9.根据权利要求8所述的自适应神经网络，其特征在于，所述参考神经网络包括至少一个线性层和/或至少一个全连接层，其中，与所述至少一个线性层对应的预设层模板包括所述至少一个线性层的计算逻辑且与所述至少一个线性层对应的代码实例与所述内核空间兼容，与所述至少一个全连接层对应的预设层模板包括所述至少一个全连接层的计算逻辑且与所述至少一个全连接层对应的代码实例与所述内核空间兼容。10.根据权利要求9所述的自适应神经网络，其特征在于，所述参考神经网络还包括至少一个非线性层，其中，与所述至少一个非线性层对应的预设层模板是用于逼近所述至少一个非线性层的计算逻辑的查找表且与所述至少一个非线性层对应的代码实例与所述内核空间兼容。11.根据权利要求5所述的自适应神经网络，其特征在于，所述第二网络分支还配置为：基于用户自定义指标评估所述网络快照的准确性以及基于保真度损失评估所述网络快照的必要性，当评估通过时将所述网络快照发送到所述内核空间，当评估不通过时不将所述网络快照发送到所述内核空间。12.根据权利要求5所述的自适应神经网络，其特征在于，所述网络快照在生成后被发送到所述第一网络分支，所述第一网络分支还配置为：基于用户自定义指标评估所述网络快照的准确性以及基于保真度损失评估所述网络快照的必要性，当评估通过时基于所述网络快照优化所述第一网络分支的推理功能，当评估不通过时不进行优化。13.根据权利要求5所述的自适应神经网络，其特征在于，所述第一网络分支相关联的训练数据包括一个或者多个训练数据批次，所述一个或者多个训练数据批次中的每一个训练数据批次包括基于特定时间间隔或者特定数据包个数确定的所述第一网络分支所获取的输入数据和相应推理结果。14.根据权利要求13所述的自适应神经网络，其特征在于，所述一个或者多个训练数据批次包括在由一个或者多个所述特定时间间隔组成的时间段内所述第一网络分支所获取的所有输入数据和相应推理结果。15.根据权利要求5所述的自适应神经网络，其特征在于，所述优化所述第一网络分支的推理功能是基于所述网络快照，包括：基于所述网络快照调整所述第一网络分支或者用所述网络快照替代所述第一网络分支。16.根据权利要求5所述的自适应神经网络，其特征在于，所述第一网络分支包括第一副本和第二副本，该第一副本和该第二副本中的其中一个被指定为活跃副本而另一个被指定为待机副本，其中，所述第一网络分支的第一副本和第二副本中被指定为活跃副...

【专利技术属性】
技术研发人员：孙军欢，
申请(专利权)人：深圳致星科技有限公司，
类型：发明
国别省市：