System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及计算机,尤其涉及一种参数处理方法、装置、设备及存储介质。
技术介绍
1、随着科技的快速发展,人工智能技术的应用愈加广泛。例如,个性化推荐系统作为人工智能技术的应用之一,在服务行业发挥着重要作用。
2、举例来说,个性化推荐系统可以应用于新闻推荐场景,利用人工智能的模型从若干新闻中选出用户感兴趣的新闻进行推荐。但是,当模型的特征参数加载于设备内存,其成本较低,但运行速度过慢;当模型的特征参数加载于设备显存,其运行速度较快,但成本过高。因此,使用模型时运行速度和成本之间难以得到平衡,导致设备性能不佳。
技术实现思路
1、本申请实施例提供了一种参数处理方法、装置、设备及存储介质,以平衡模型运行速度和成本,提高设备性能。
2、第一方面,本申请实施例提供了一种参数处理方法,包括:
3、确定模型包括的多个特征中的第一类特征;所述第一类特征为用户特征;
4、从参数表中拆分出所述第一类特征的参数和第二类特征的参数;所述第二类特征为所述多个特征中除所述第一类特征外的其他类别的特征;所述参数表的每一行分别包括一个特征的参数;
5、将所述第一类特征的参数加载于设备的内存,并将所述第二类特征的参数加载于所述设备的显存。
6、可选地,所述从参数表中拆分出所述第一类特征的参数和第二类特征的参数,包括:
7、获取所述第一类特征中的多个第一特征分别关联的第一行号,以及所述第二类特征中的多个第二特征分别关联的第二行号;
>8、基于各所述第一行号,到所述参数表中对应的各行获取所述多个第一特征分别对应的第一参数,并基于各所述第二行号,到所述参数表中对应的各行获取所述多个第二特征分别对应的第二参数;
9、保存各所述第一参数得到第一文件,并保存各所述第二参数得到第二文件。
10、可选地,所述将所述第一类特征的参数加载于设备的内存,并将所述第二类特征的参数加载于所述设备的显存,包括:
11、将所述第一文件加载于所述内存,并将所述第二文件加载于所述显存。
12、可选地,所述方法还包括:
13、为所述多个第一特征分配新的行号,得到所述多个第一特征分别关联的第三行号,并为所述多个第二特征分配新的行号,得到所述多个第二特征分别关联的第四行号;
14、将各所述第三行号和各所述第四行号保存于第三文件;
15、将所述第三文件加载于所述内存。
16、可选地,所述为所述多个第一特征分配新的行号,得到所述多个第一特征分别关联的第三行号,并为所述多个第二特征分配新的行号,得到所述多个第二特征分别关联的第四行号,包括:
17、获取行号数组;所述行号数组包括各所述第一行号和各所述第二行号,且所述行号数组中的行号按从小到大的顺序排列;
18、确定各所述第一行号在所述行号数组包括的所有第一行号中的第一顺序,并确定各所述第二行号在所述行号数组包括的所有第二行号中的第二顺序;
19、基于所述第一顺序为所述多个第一特征分配新的行号,得到各所述第三行号,并基于所述第二顺序为所述多个第二特征分配新的行号,得到各所述第四行号。
20、可选地,所述第二文件还保存模型结构数据;所述方法还包括:
21、响应于服务请求所包含的多个特征,基于所述内存加载的所述第三文件,获取各所述第三行号和各所述第四行号;
22、基于各所述第三行号,从所述内存加载的所述第一文件中获取各所述第一参数并发送至所述显存,并将第四行号发送至所述显存;
23、基于各所述第四行号,从所述显存加载的所述第二文件中获取各所述第二特征的参数,并获取所述模型结构数据;
24、在所述显存中,采用各所述第一参数和各所述第二参数,并基于所述模型结构数据运行所述模型,得到模型推理结果。
25、可选地,所述响应于服务请求所包含的多个特征,基于所述内存加载的所述第三文件,获取各所述第三行号和各所述第四行号,包括:
26、基于所述第三文件,获取特征和行号之间的映射关系;
27、基于服务请求所包含的多个特征,从所述映射关系中确定各所述第三行号和各所述第四行号。
28、第二方面,本申请实施例提供了一种参数处理装置,包括:
29、特征确定模块,用于确定模型包括的多个特征中的第一类特征;所述第一类特征为用户特征;
30、参数拆分模块,用于从参数表中拆分出所述第一类特征的参数和第二类特征的参数;所述第二类特征为所述多个特征中除所述第一类特征外的其他类别的特征;所述参数表的每一行分别包括一个特征的参数;
31、参数加载模块,用于将所述第一类特征的参数加载于设备的内存,并将所述第二类特征的参数加载于所述设备的显存。
32、第三方面,本申请实施例提供了一种电子设备,所述设备包括:处理器、存储器、系统总线;
33、所述处理器以及所述存储器通过所述系统总线相连;
34、所述存储器用于存储一个或多个程序,所述一个或多个程序包括指令,所述指令当被所述处理器执行时使所述处理器执行上述参数处理方法的任一实现方式。
35、第四方面,本申请实施例提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,当所述指令在电子设备上运行时,使得所述电子设备执行上述参数处理方法的任一实现方式。
36、从以上技术方案可以看出,本申请实施例具有以下优点:
37、在本申请实施例中,确定模型包括的多个特征中的第一类特征之后,可以从参数表中拆分出第一类特征的参数和第二类特征的参数,将第一类特征的参数加载于设备的内存,并将第二类特征的参数加载于设备的显存。其中,参数表的每一行分别包括一个特征的参数;第一类特征为用户特征,第二类特征为其他类别的特征。如此一来,通过内存来加载用户特征的参数,通过显存加载其他特征参数,后续的模型推理过程即可借助内存加载的特征参数和显存加载的特征参数共同实现。由于分别采用内存和显存来加载特征参数,因此避免了仅使用内存导致的模型运行速度过慢的问题,也避免了仅使用显存导致的模型运行成本过高的问题,从而巧妙地平衡了模型的运行速度和成本问题,有助于提高设备性能。
本文档来自技高网...【技术保护点】
1.一种参数处理方法,其特征在于,包括:
2.根据权利要求1所述的参数处理方法,其特征在于,所述从参数表中拆分出所述第一类特征的参数和第二类特征的参数,包括:
3.根据权利要求2所述的参数处理方法,其特征在于,所述将所述第一类特征的参数加载于设备的内存,并将所述第二类特征的参数加载于所述设备的显存,包括:
4.根据权利要求3所述的参数处理方法,其特征在于,所述方法还包括:
5.根据权利要求4所述的参数处理方法,其特征在于,所述为所述多个第一特征分配新的行号,得到所述多个第一特征分别关联的第三行号,并为所述多个第二特征分配新的行号,得到所述多个第二特征分别关联的第四行号,包括:
6.根据权利要求5所述的参数处理方法,其特征在于,所述第二文件还保存模型结构数据;所述方法还包括:
7.根据权利要求6所述的参数处理方法,其特征在于,所述响应于服务请求所包含的多个特征,基于所述内存加载的所述第三文件,获取各所述第三行号和各所述第四行号,包括:
8.一种参数处理装置,其特征在于,包括:
9.一种电
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有指令,当所述指令在电子设备上运行时,使得所述电子设备执行权利要求1至7任一项所述的参数处理方法。
...【技术特征摘要】
1.一种参数处理方法,其特征在于,包括:
2.根据权利要求1所述的参数处理方法,其特征在于,所述从参数表中拆分出所述第一类特征的参数和第二类特征的参数,包括:
3.根据权利要求2所述的参数处理方法,其特征在于,所述将所述第一类特征的参数加载于设备的内存,并将所述第二类特征的参数加载于所述设备的显存,包括:
4.根据权利要求3所述的参数处理方法,其特征在于,所述方法还包括:
5.根据权利要求4所述的参数处理方法,其特征在于,所述为所述多个第一特征分配新的行号,得到所述多个第一特征分别关联的第三行号,并为所述多个第二特征分配新的行号,得到所述多个第二特征分别关联的第四...
【专利技术属性】
技术研发人员:廖忠儒,王建龙,
申请(专利权)人:北京搜狐新媒体信息技术有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。