System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种面向微小型AI训练的管理系统和管理方法技术方案_技高网

一种面向微小型AI训练的管理系统和管理方法技术方案

技术编号:42601431 阅读:18 留言:0更新日期:2024-09-03 18:12
本申请公开了一种面向微小型AI训练的管理系统和管理方法。一种面向微小型AI训练的管理系统,包括:数据集收集模块,用于收集训练样本;预测模块,内置有预测模型,预测模块接收训练样本,以对预测模型进行训练;权重信息监测模块,用于获取用于训练预测模型的每个训练样本,以及训练完成之后预测模型的权重更新信息。本申请所提供的技术方案中,在对神经网络模型进行训练时,并不是一次性向预测模型输入一个训练样本,而是将不同种类的样本输入至预测模块中,对预测模型进行并行训练,所以增加了神经网络模型的训练效率。

【技术实现步骤摘要】

本申请涉及人工智能,具体而言,涉及一种面向微小型ai训练的管理系统和管理方法。


技术介绍

1、神经网络模型在运用之前,需要采用训练样本训练,以更新神经网络模型内置的权重参数。训练样本包括数据项和标签项,训练样本输入至神经网络模型进行训练,神经网络模型根据输入的训练样本找到数据项与标签项之间的关系,该关系反映在神经网络模型中,就是神经网络模型内置权重参数的改变。

2、为了获取准确的神经网络模型,会收集大量的训练样本用于神经网络模型的交叉训练。目前的神经网络模型在进行大批量训练样本的训练时,因为不清楚各训练样本对预测模型中的相关权重参数会造成什么影响,所以每次训练时,都是向预测模型内输入一个训练样本训练完成之后,再输入下一个训练样本,所以导致了神经网络模型的训练效率低。


技术实现思路

1、本申请的内容部分用于以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。本申请的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。

2、作为本申请的第一个方面,为了解决神经网络模型训练效率低的技术问题,本申请提供了一种面向微小型ai训练的管理系统,包括:

3、数据集收集模块,用于收集训练样本;

4、预测模块,内置有预测模型,预测模块接收训练样本,以对预测模型进行训练;

5、权重信息监测模块,用于获取训练预测模型的每个训练样本,以及训练完成之后预测模型的权重更新信息;>

6、管理模块,根据各训练样本的权重更新信息,将训练样本划分为若干种样本类型;

7、其中,在预测模块对预测模型进行交叉训练时,管理模块每次从每种样本类型中抽出1个训练样本输入至预测模块内,预测模块接收每种样本类型对应的训练样本以对预测模型进行并行训练。

8、本申请所提供的技术方案中,在对神经网络模型进行训练时,并不是一次向神经网络模型输入一个训练样本,而是将不同种类的样本输入至预测模块中,对预测模型进行并行训练,所以增加了神经网络模型的训练效率。并且,因为每种样本种类的训练样本一般只会影响预测模型对应的权重参数,所以让预测模型能够一次性输入多个训练样本进行并行训练,提高了预测模型的训练效率。

9、进一步的,数据集收集模块包数据项信息收集单元、标签信息收集单元以及训练样本制作单元;

10、数据项信息收集单元用于收集数据项;

11、标签信息收集单元用于收集标签;

12、训练样本制作单元分别与数据项信息收集单元和标签信息收集单元信号连接,用于将对应的训练样本和标签合并为训练样本,以得到数据集m,m={m1、m1、…mk},其中mi表示第i个训练样本,i表示训练样本的索引,i∈[1,k],i和k均为正整数。

13、预测模型有很多种形式,对应的内部的权重参数的取值范围也并不一致,所以直接将权重参数的变化大小作为权重更新信息,难以反映出各训练样本对权重参数的影响。针对这一问题,本申请提供了如下技术方案:

14、所述权重更新信息包括每个权重参数的信息变化率θd,i,θd,i为预测模型使用第i个样本进行训练时,第d个权重参数的变化率,d为预测模型中的权重参数的索引,d∈[1,d],d为预测模型中权重参数的总数。

15、本申请中,权重更新信息为权重参数的变化率,所以能直观的表现出预测模型中权重信息的变化情况。

16、在将训练样本划分为若干种样本类别时,如果是将最小的训练样本作为划分方式,会导致样本类别的划分难度太大,并且划分不准确。针对这一问题,本申请提供了如下技术方案:

17、管理模块包括训练样本分类单元、权重参数分类单元、映射单元、以及控制单元;

18、训练样本分类单元用于根据训练样本的标签和数据项将训练样本划分为n种类型的基础集合。

19、本方案中,根据标签和数据项将训练样本划分为n种类型的基础集合,所以预先对训练样本进行划分,进而降低了后续样本类别划分时的计算难度。

20、预测模型中各权重参数的范围并不一致,而权重参数的取值范围能够反映出权重参数对训练样本的反馈信息。取值范围相差很大的两个权重参数在考虑训练样本对其的影响时,如果采用相同的衡量标准,会导致无法准确的分析出各项训练样本对权重参数的影响。针对这一问题,本申请提供了如下技术方案:

21、进一步的,权重参数分类单元用于获取各预测模型中权重参数的取值范围,将权重参数的取值范围归一化为权重变化系数。

22、本申请所提供的技术方案中,预先获取各权重参数的取值范围,并将取值范围进行归一化处理以得到权重变化系数,所以权重变化系数能够用于反映各权重参数的变化能力,进而可以用于辅助分析训练样本对权重参数的影响。

23、进一步的,映射单元,分别与训练样本分类单元和权重参数分类单元信号连接;映射单元根据各基础类型的训练样本的权重更新信息,以及各权重参数的权重变化系数,得到训练样本的样本分类方式和权重参数的权重分类方式;

24、样本分类方式将训练样本分类为多种样本类型,权重分类方式将权重参数分类为多种权重类型;每种样本类型和每种权重类型依次对应。

25、本方案中,映射单元是将训练样本以基础类型的方式来进行样本类型划分,所以能够快速、准确的找到训练样本与权重参数的关系。

26、进一步的,控制单元,从每种样本类型中抽出1个训练样本输入至预测模块内。

27、进一步的,预测模块包括训练控制单元、若干个相互连接运行单元以及汇总单元;

28、运行单元,设置有多个,每个运行单元内置有独立的预测模型;

29、训练控制单元,根据预测模型中权重参数的权重分类方式,控制每个运行单元输入的训练样本;

30、汇总单元与运行单元信号连接,用于获取所有运行单元上运行的预测模型的权重参数的更新信息,以得到完成训练的预测模型。

31、本申请所提供的技术方案中,每个运行单元内部都设置有1个预测模型,然后每个运算单元都用于更新一种权重参数,如此只需要向每个运算单元并行输入对应的种类的训练样本,就能够完成预测模型的训练。

32、样本分类方式和权重分类方式包括如下步骤:

33、s1:整理数据集:

34、x={x1、x2、…xk},xi表示第i个训练样本的基础集合,i表示训练样本的索引,i∈[1,k],i和k均为正整数;

35、y={y1、y2、…yk},yi表示第i个训练样本输入到预测模型训练之后预测模型的权重更新信息,yi=kdθd,i;

36、其中,设置xi∈{1、2、…j},j为正整数,j表示样本类型的数量;

37、s2:根据构建原始问题;或;i=1、2…k,i表示样本索引,w是超平面的法向量,b是超平面的截距,xi表示第i个训练样本的基础集合,yi表示第i个训练样本输本文档来自技高网...

【技术保护点】

1.一种面向微小型AI训练的管理系统,包括,数据集收集模块,用于收集训练样本;

2.根据权利要求1所述的一种面向微小型AI训练的管理系统,其特征在于:数据集收集模块包括数据项信息收集单元、标签信息收集单元以及训练样本制作单元;

3.根据权利要求1所述的一种面向微小型AI训练的管理系统,其特征在于:管理模块包括训练样本分类单元、权重参数分类单元、映射单元以及控制单元;

4.根据权利要求3所述的一种面向微小型AI训练的管理系统,其特征在于:还包括如下步骤:权重参数分类单元用于获取各预测模型中权重参数的取值范围,将权重参数的取值范围归一化为权重变化系数。

5.根据权利要求3所述的一种面向微小型AI训练的管理系统,其特征在于:

6.根据权利要求3所述的一种面向微小型AI训练的管理系统,其特征在于:控制单元,从每种样本类型中抽出1个训练样本输入至预测模块内。

7.根据权利要求3所述的一种面向微小型AI训练的管理系统,其特征在于:预测模块包括训练控制单元、若干个相互连接运行单元以及汇总单元;

8.根据权利要求7所述的一种面向微小型AI训练的管理系统,样本分类方式和权重分类方式包括如下步骤:

9.一种面向微小型AI训练的管理方法,其特征在于:采用权利要求1~8中任一项所述的一种面向微小型AI训练的管理系统用于预测模型的训练。

...

【技术特征摘要】

1.一种面向微小型ai训练的管理系统,包括,数据集收集模块,用于收集训练样本;

2.根据权利要求1所述的一种面向微小型ai训练的管理系统,其特征在于:数据集收集模块包括数据项信息收集单元、标签信息收集单元以及训练样本制作单元;

3.根据权利要求1所述的一种面向微小型ai训练的管理系统,其特征在于:管理模块包括训练样本分类单元、权重参数分类单元、映射单元以及控制单元;

4.根据权利要求3所述的一种面向微小型ai训练的管理系统,其特征在于:还包括如下步骤:权重参数分类单元用于获取各预测模型中权重参数的取值范围,将权重参数的取值范围归一化为权重变化系数。

5.根据...

【专利技术属性】
技术研发人员:钱海龙张帆何德伟
申请(专利权)人:杭州拓麦科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1