基于模型的预测方法及装置、存储介质、电子装置制造方法及图纸

技术编号:42738273 阅读:25 留言:0更新日期:2024-09-18 13:33
本发明专利技术提供了一种基于模型的预测方法及装置、存储介质、电子装置,其中,该方法包括:确定待推理的预测数据,解析所述预测数据的源数据类型;根据所述源数据类型和预训练的网络模型输出推理结果,其中,所述网络模型采用训练语料数据和实体相似词映射表训练得到,所述实体相似词映射表用于将所述训练语料数据中的实体词替换为相似映射词,所述实体词的token数量大于对应相似映射词的token数量;解析所述推理结果的目标数据类型;根据所述目标数据类型生成所述预测数据的结果数据。通过本发明专利技术实施例,通过实体相似词映射表的相似词映射,以减少训练语料数据输入输出的token数量,达到推理速度降低的效果,大大减少了数据的运算量,提高了效率。

【技术实现步骤摘要】

本专利技术涉及人工智能,具体而言,涉及一种基于模型的预测方法及装置、存储介质、电子装置


技术介绍

1、相关技术中,随着人工智能技术的飞速发展,大模型在各个领域得到了广泛的应用。大模型具有强大的语言理解和生成能力,可以处理各式各样的自然语言处理任务,如文本生成、知识问答、推理计算、阅读理解等。然而,在实际的业务场景中,大模型往往需要根据具体的任务和数据进行微调优化,以提高其性能和准确性。

2、相关技术中的大模型微调技术中,通常采用有监督学习的方式,利用标注数据对模型进行微调。这种方法虽然能够取得较好的效果,但需要大量的标注数据,并且微调过程可能会导致模型的过拟合。此外,现有的微调技术在处理大规模数据和复杂任务时效率较低,无法满足实际业务的需求。因此,需要一种更加高效、灵活的大模型业务微调优化方案,以提高模型的性能和准确性,同时减少对标注数据的依赖。

3、针对相关技术中存在的上述问题,暂未发现高效且准确的解决方案。


技术实现思路

1、本专利技术提供了一种基于模型的预测方法及装置、存储介质本文档来自技高网...

【技术保护点】

1.一种基于模型的预测方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,根据所述源数据类型和预训练的网络模型输出推理结果包括:

3.根据权利要求1所述的方法,其特征在于,根据所述目标数据类型生成所述预测数据的结果数据包括:

4.根据权利要求1所述的方法,其特征在于,在根据所述源数据类型和预训练的网络模型输出推理结果之前,所述方法还包括:

5.根据权利要求4所述的方法,其特征在于,根据每条训练语料的数据类型从所述训练语料数据中选择待优化的精选数据包括:

6.根据权利要求4所述的方法,其特征在于,对所述精选数据进行...

【技术特征摘要】

1.一种基于模型的预测方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,根据所述源数据类型和预训练的网络模型输出推理结果包括:

3.根据权利要求1所述的方法,其特征在于,根据所述目标数据类型生成所述预测数据的结果数据包括:

4.根据权利要求1所述的方法,其特征在于,在根据所述源数据类型和预训练的网络模型输出推理结果之前,所述方法还包括:

5.根据权利要求4所述的方法,其特征在于,根据每条训练语料的数据类型从所述训练语料数据中选择待优化的精选数据包括:

6.根据权利要求4所述的方法,其特征在于,对所述精选数据进行编解码,得到tokenid映射表包括:

7.根据权利要求4所述的方法,其特征在于,基于所述token id映射表对所述第一实体词集合进行过滤,得到第二实体词集合,包括:

8.根据权利要求4所述的方...

【专利技术属性】
技术研发人员:罗川谭瑞胡小琼刘康平蒋文武
申请(专利权)人:重庆长安科技有限责任公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1