一种基于视频流的人工智能模型的运行控制系统及方法技术方案

本发明专利技术提供一种基于视频流的人工智能模型的运行控制系统及方法，涉及图像处理技术领域，包括：负载评估模块，用于在人工智能模型处理视频流的过程中，实时评估搭载人工智能模型的数据处理设备的负载值；动态调整模块，用于持续获取负载值，并根据负载值动态调整视频流中相邻两帧图片之间的帧间隔。有益效果是通过基于数据处理设备的实时负载动态调整视频流的帧间隔，保证了人工智能模型在数据处理设备上运行的实时性；能够根据设备性能和实时性需求自动调整帧间隔，适应不同负载情况，优化计算资源利用率，提高设备的适应性和灵活性，有效平衡计算和内存消耗，最大程度地提高设备的实时性和性能，具有广泛的应用前景和经济效益。益。益。

【技术实现步骤摘要】
一种基于视频流的人工智能模型的运行控制系统及方法


[0001]本专利技术涉及图像处理
，尤其涉及一种基于视频流的人工智能模型的运行控制系统及方法。

技术介绍

[0002]随着人工智能(AI)应用的普及，运行AI模型的场景越来越多样化。目前，基于图片的AI模型已经广泛应用于图像识别、图像生成、图像分割等领域。而基于视频流的AI模型则可以用于视频监控、智能驾驶、视频分析等应用。
[0003]然而，不同设备的性能和效率差异导致了对于在低性能设备上实现高效实时低内存消耗的AI模型运行的需求日益增加。在一些资源受限的设备上，如嵌入式系统、移动设备或物联网设备，运行复杂的AI模型可能会面临性能瓶颈和内存消耗过大的问题。
[0004]为了解决该问题，现有技术中通常采用对模型进行压缩和优化的方式，如减少模型的参数量、减少计算量或者使用轻量级网络结构来降低模型的内存消耗和计算复杂度，从而提高模型在低性能设备上的运行效率，但采用该种方式会导致模型的准确性有所降低，无法满足使用需求。

技术实现思路

[0005]针对现有技术中存在的问题，本专利技术提供一种基于视频流的人工智能模型的运行控制系统，包括：
[0006]负载评估模块，用于在所述人工智能模型处理视频流的过程中，实时评估搭载有所述人工智能模型的数据处理设备的负载值；
[0007]动态调整模块，连接所述负载评估模块，用于持续获取所述负载值，并根据所述负载值动态调整所述视频流中相邻两帧图片之间的帧间隔。
[0008]优选的，所述负载评估模块包括：
[0009]性能监测单元，用于实时监测所述数据处理设备的多项性能指标；
[0010]负载评估单元，连接所述性能监测单元，用于根据预设的各项所述性能指标的权重，对各项所述性能指标进行加权求和得到所述负载值。
[0011]优选的，多项所述性能指标包括所述数据处理设备的CPU利用率、内存占用率和所述人工智能模型处理视频流的单帧图片的时间中的至少一种。
[0012]优选的，所述动态调整模块包括：
[0013]第一调整单元，用于在所述负载值超过预设阈值范围的上限值时，按照预设步长增大所述帧间隔；
[0014]第二调整单元，用于在所述负载值在所述预设阈值范围内时，保持所述帧间隔不变；
[0015]第三调整单元，用于在所述负载值低于所述预设阈值范围的下限值时，按照预设步长减小所述帧间隔。
[0016]优选的，还包括图片缓存模块，连接所述动态调整模块，用于由所述视频流中依次获取并缓存连续多帧图片，多帧图片按照先进先出原则依次送入所述人工智能模型中进行处理；
[0017]所述动态调整模块根据所述负载值动态调整送入所述人工智能模型的相邻两帧图片之间的所述帧间隔。
[0018]本专利技术还提供一种基于视频流的人工智能模型的运行控制方法，应用于上述的运行控制系统，所述运行控制方法包括：
[0019]步骤S1，所述运行控制系统在所述人工智能模型处理视频流的过程中，实时评估搭载有所述人工智能模型的数据处理设备的负载值；
[0020]步骤S2，所述运行控制系统持续获取所述负载值，并根据所述负载值动态调整所述视频流中相邻两帧图片之间的帧间隔。
[0021]优选的，所述步骤S1包括：
[0022]步骤S11，所述运行控制系统实时监测所述数据处理设备的多项性能指标；
[0023]步骤S12，所述运行控制系统根据预设的各项所述性能指标的权重，对各项所述性能指标进行加权求和得到所述负载值。
[0024]优选的，多项所述性能指标包括所述数据处理设备的CPU利用率、内存占用率和所述人工智能模型处理视频流的单帧图片的时间中的至少一种。
[0025]优选的，所述步骤S2包括：
[0026]步骤S21，所述运行控制系统持续获取所述负载值并判断所述负载值是否超过预设阈值范围的上限值：
[0027]若是，则按照预设步长增大所述帧间隔，随后返回所述步骤S1；
[0028]若否，则转向步骤S22；
[0029]步骤S22，所述运行控制系统判断所述负载值是否低于所述预设阈值范围的下限值：
[0030]若是，则按照预设步长减小所述帧间隔，随后返回所述步骤S1；
[0031]若否，则保持所述帧间隔不变，随后返回所述步骤S1。
[0032]优选的，执行所示步骤S1之前还包括：
[0033]预先声明多个内存控件，每个所述内存控件对应缓存一帧图片，以由所述视频流中依次获取并缓存连续多帧图片，多帧图片按照先进先出原则依次送入所述人工智能模型中进行处理；
[0034]则所述步骤S2中，所述运行控制系统根据所述负载值动态调整送入所述人工智能模型的相邻两帧图片之间的所述帧间隔。
[0035]上述技术方案具有如下优点或有益效果：
[0036]1)通过基于搭载人工智能模型的数据处理设备的实时负载动态调整视频流的帧间隔，保证了人工智能模型在数据处理设备上运行的实时性，满足实时应用的需求；
[0037]2)能够根据设备性能和实时性需求自动调整帧间隔，适应不同负载情况，优化计算资源利用率，提高设备的适应性和灵活性，有效平衡计算和内存消耗，最大程度地提高设备的实时性和性能，具有广泛的应用前景和经济效益。
附图说明
[0038]图1为本专利技术的较佳的实施例中，一种基于视频流的人工智能模型的运行控制系统的结构示意图；
[0039]图2为本专利技术的较佳的实施例中，一种基于视频流的人工智能模型的运行控制方法的流程示意图；
[0040]图3为本专利技术的较佳的实施例中，步骤S1的子流程示意图；
[0041]图4为本专利技术的较佳的实施例中，步骤S2的子流程示意图。
具体实施方式
[0042]下面结合附图和具体实施例对本专利技术进行详细说明。本专利技术并不限定于该实施方式，只要符合本专利技术的主旨，则其他实施方式也可以属于本专利技术的范畴。
[0043]本专利技术的较佳的实施例中，基于现有技术中存在的上述问题，现提供一种基于视频流的人工智能模型的运行控制系统，如图1所示，包括：
[0044]负载评估模块1，用于在人工智能模型处理视频流的过程中，实时评估搭载有人工智能模型的数据处理设备的负载值；
[0045]动态调整模块2，连接负载评估模块1，用于持续获取负载值，并根据负载值动态调整视频流中相邻两帧图片之间的帧间隔。
[0046]具体地，上述数据处理设备优选为低性能设备，这里的低性能设备相对于人工智能模型而言，如低性能设备的运算能力本身就有限，或者其运算能力较为强大，但相对搭载的人工智能模型来说仍然不足，使得人工智能模型无法正常运行在低性能设备上，或者即使能运行，用户体验也会打折扣；又或者人工智能模型对内存的消耗较大，而低性能设备无法为人工智能模型提供足够的内存等。
[0047]为解决人工智能模型运行在低性能设备存在的实时性不足和内存消耗本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于视频流的人工智能模型的运行控制系统，其特征在于，包括：负载评估模块，用于在所述人工智能模型处理视频流的过程中，实时评估搭载有所述人工智能模型的数据处理设备的负载值；动态调整模块，连接所述负载评估模块，用于持续获取所述负载值，并根据所述负载值动态调整所述视频流中相邻两帧图片之间的帧间隔。2.根据权利要求1所述的运行控制系统，其特征在于，所述负载评估模块包括：性能监测单元，用于实时监测所述数据处理设备的多项性能指标；负载评估单元，连接所述性能监测单元，用于根据预设的各项所述性能指标的权重，对各项所述性能指标进行加权求和得到所述负载值。3.根据权利要求2所述的运行控制系统，其特征在于，多项所述性能指标包括所述数据处理设备的CPU利用率、内存占用率和所述人工智能模型处理视频流的单帧图片的时间中的至少一种。4.根据权利要求1所述的运行控制系统，其特征在于，所述动态调整模块包括：第一调整单元，用于在所述负载值超过预设阈值范围的上限值时，按照预设步长增大所述帧间隔；第二调整单元，用于在所述负载值在所述预设阈值范围内时，保持所述帧间隔不变；第三调整单元，用于在所述负载值低于所述预设阈值范围的下限值时，按照预设步长减小所述帧间隔。5.根据权利要求1所述的运行控制系统，其特征在于，还包括图片缓存模块，连接所述动态调整模块，用于由所述视频流中依次获取并缓存连续多帧图片，多帧图片按照先进先出原则依次送入所述人工智能模型中进行处理；所述动态调整模块根据所述负载值动态调整送入所述人工智能模型的相邻两帧图片之间的所述帧间隔。6.一种基于视频流的人工智能模型的运行控制方法，其特征在于，应用于如权利要求1
‑
5中任意一项所述的运行控制系统，...

【专利技术属性】
技术研发人员：阮喜磊，朱瑞星，
申请(专利权)人：成都温江暖欣门诊部有限公司，
类型：发明
国别省市：