【技术实现步骤摘要】
本申请涉及数据挖掘,特别是涉及基于gpu的因子自动挖掘方法、系统、电子设备和存储介质。
技术介绍
1、在金融领域,研究员通常依靠市场规律和投资经验,从海量数据中挖掘因子,以指导股票等金融衍生品的买卖决策。随着可用数据不断增加,研究员开始采用gplearn(genetic programming learn,遗传编程学习)算法,以自动挖掘潜在的因子。然而,由于gplearn算法需要进行启发式搜索,且搜索空间庞大,导致训练效率较低。此外,现有的gplearn框架只支持从二维数据中挖掘因子,对于三维数据的训练支持不足。
2、传统的gplearn框架在进行适应度指标的计算时主要依赖cpu,这在利用大量数据进行训练时可能导致显著的时间消耗。此外,传统框架仅能处理二维数据,例如[时间*特征]的数据;然而,对于包含[时间*商品类别*特征]的三维数据,传统框架的支持性显然不足,这使得传统框架无法从高维数据中挖掘出有效的因子。
3、目前还没有相应的技术方案来解决依赖cpu进行数据处理导致耗时长、且无法处理高维数据的问题。
技术实现思路
1、本申请实施例提供了一种基于gpu的因子自动挖掘方法、系统、电子设备和存储介质,以至少解决相关技术中依赖cpu进行数据处理导致耗时长、且无法处理高维数据的问题。
2、第一方面,本申请实施例提供了一种基于gpu的因子自动挖掘方法,包括:
3、通过cpu获取训练数据,并对所述训练数据进行预处理,
4、将所述训练
5、获取在cpu中生成的遗传算法模型并转移到所述gpu中,由gpu运行所述遗传算法模型对所述分组数据进行因子挖掘训练,当所述遗传算法模型收敛时,得到因子预测模型;
6、获取待预测数据,通过所述因子预测模型对所述待预测数据进行计算,得到预测结果。
7、在一实施例中,所述gpu运行所述遗传算法模型对所述分组数据进行因子挖掘训练,包括:
8、步骤a1,获取预先设置的训练参数,所述训练参数包括种群数量、预设迭代次数和子树生成策略;
9、步骤a2,根据所述种群数量对所述分组数据进行种群初始化处理,生成与所述种群数量对应的初始个体;
10、步骤a3,在所述gpu中计算每一所述初始个体的适应度指标;
11、步骤a4,通过精英策略选取适应度最高的n个初始个体作为下一次迭代的父代个体,并通过所述子树生成策略生成新个体;
12、步骤a5,判断是否达到迭代中止条件,若是,则将所述新个体作为因子预测模型并输出;若否,则返回步骤a3,并以所述新个体为输入计算适应度。
13、在一实施例中,所述计算每一所述初始个体的适应度指标包括:
14、将所述初始个体发送至gpu中;
15、将所述初始个体对应的公式转换为前缀表达式的逆序,得到执行队列,所述执行队列包括数据算子和函数算子;
16、所述gpu按顺序读取所述执行队列并进行计算,得到所述初始个体的计算结果;
17、获取预设的适应度函数和拟合值,将所述计算结果和拟合值作为所述适应度的输入,得到所述适应度指标。
18、在一实施例中,所述通过所述因子预测模型对所述待预测数据进行计算,得到预测结果,包括:
19、通过cpu获取预测数据,并将所述预测数据加载至gpu中,按照预设分组规则进行分组,得到预测分组数据;
20、根据所述预测分组数据从所述因子预测模型中选取公式;
21、将所述公式和所述预测数据输入到所述gpu中进行计算,得到所述预测结果。
22、在一实施例中,所述训练参数还包括预设阈值和适应度阈值范围,判断所述遗传算法模型是否收敛包括:
23、当所述迭代次数大于或等于预设阈值;或者,所述适应度不在预设适应度阈值范围之内时,判断所述遗传算法模型收敛。
24、在一实施例中,所述通过所述子树生成策略生成新个体,包括:
25、随机选择一对父代个体进行交叉操作,生成包含两个父代个体的特征的后代个体;
26、获取预设概率,对新生成的后代个体以所述预设概率进行变异操作,以引入新的遗传多样性,得到所述新个体。
27、在一实施例中,所述对所述训练数据进行预处理包括:
28、对所述训练数据清洗,移除数据集中的错误、重复或不一致的数据;
29、将清洗后的训练数据转换成预设格式的训练数据;
30、根据预设格式的数据创建新的特征数据;
31、将特征数据进行数据标准化或归一化处理,得到预处理后的训练数据。
32、第二方面,本申请实施例提供了一种基于gpu的因子自动挖掘系统,该系统主要包含输入模块、自动挖掘模块、输出模块和预测模块;其中,
33、所述输入模块用于采集训练数据和预测数据,对所述训练数据进行预处理,将所述训练数据加载至gpu中,并按照预设分组规则进行分组,得到分组数据;
34、所述自动挖掘模块用于获取在cpu中生成的遗传算法模型并转移到所述gpu中,由gpu运行所述遗传算法模型对所述分组数据进行因子挖掘训练,当所述遗传算法模型收敛时,得到因子预测模型;
35、所述预测模块用于获取待预测数据,通过所述因子预测模型对所述待预测数据进行计算,得到预测结果;
36、所述输出模块用于输出所述预测结果。
37、第三方面,本申请实施例提供了一种计算机设备,包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上述第一方面所述的基于gpu的因子自动挖掘方法。
38、第四方面,本申请实施例提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如上述第一方面所述的基于gpu的因子自动挖掘方法。
39、本申请实施例提供的基于gpu的因子自动挖掘方法、系统、电子设备和存储介质至少具有以下技术效果:
40、通过cpu获取训练数据,并对所述训练数据进行预处理,将所述训练数据加载至gpu中,并按照预设分组规则对预处理后的训练数据进行分组,得到分组数据;获取在cpu中生成的遗传算法模型并转移到所述gpu中,由gpu运行所述遗传算法模型对所述分组数据进行因子挖掘训练,当所述遗传算法模型收敛时,得到因子预测模型;获取待预测数据,通过所述因子预测模型对所述待预测数据进行计算,得到预测结果。解决了依赖cpu进行数据处理导致耗时长、且无法处理高维数据的问题,实现了支持高效的大规模数据训练。
41、本申请的一个或多个实施例的细节在以下附图和描述中提出,以使本申请的其他特征、目的和优点更加简明易懂。
本文档来自技高网...【技术保护点】
1.一种基于GPU的因子自动挖掘方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述GPU运行所述遗传算法模型对所述分组数据进行因子挖掘训练,包括:
3.根据权利要求2所述的方法,其特征在于,所述计算每一所述初始个体的适应度指标包括:
4.根据权利要求1所述的方法,其特征在于,所述通过所述因子预测模型对所述待预测数据进行计算,得到预测结果,包括:
5.根据权利要求2所述的方法,其特征在于,所述训练参数还包括预设阈值和适应度阈值范围,判断所述遗传算法模型是否收敛包括:
6.根据权利要求3所述的方法,其特征在于,所述通过所述子树生成策略生成新个体,包括:
7.根据权利要求1所述的方法,其特征在于,所述对所述训练数据进行预处理包括:
8.一种基于GPU的因子自动挖掘系统,其特征在于,该系统主要包含输入模块、自动挖掘模块、输出模块和预测模块;其中,
9.一种电子设备,其特征在于,包括存储器、处理器,以及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1至7中任一项所述的基于GPU的因子自动挖掘方法。
...【技术特征摘要】
1.一种基于gpu的因子自动挖掘方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述gpu运行所述遗传算法模型对所述分组数据进行因子挖掘训练,包括:
3.根据权利要求2所述的方法,其特征在于,所述计算每一所述初始个体的适应度指标包括:
4.根据权利要求1所述的方法,其特征在于,所述通过所述因子预测模型对所述待预测数据进行计算,得到预测结果,包括:
5.根据权利要求2所述的方法,其特征在于,所述训练参数还包括预设阈值和适应度阈值范围,判断所述遗传算法模型是否收敛包括:
6.根据权利要求3所述的方法,其特征在于,所述通过所述子树生成策略...
【专利技术属性】
技术研发人员:马骥鹏,胡津铭,周小华,
申请(专利权)人:浙江智臾科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。