System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 文档处理方法、装置、电子设备及存储介质制造方法及图纸_技高网

文档处理方法、装置、电子设备及存储介质制造方法及图纸

技术编号:40525109 阅读:7 留言:0更新日期:2024-03-01 13:44
本公开提供了一种文档处理方法、装置、电子设备及存储介质,涉及数据处理技术领域。具体实施方案为:获取文档集合,文档集合包括多个候选文档,并确定候选文档的分段段落和文档总结;获取分段段落的段落词向量和文档总结的总结词向量,并基于段落词向量和总结词向量生成向量索引,并存储在搜索引擎集群中;基于候选文档和文档总结生成倒排索引,并存储在搜索引擎集群中。

【技术实现步骤摘要】

本公开涉及数据处理,尤其涉及一种文档处理方法、装置、电子设备及存储介质


技术介绍

1、随着大模型技术的发展,基于关键字进行检索已无法满足使用需求,关键字检索依赖于用户的输入,如果用户输入不完整,导致检索结果不准确,同时基于关键字进行检索,大模型无法理解语义,具有局限性。


技术实现思路

1、本公开提供了一种用于文档处理方法、装置、电子设备及存储介质。

2、根据本公开的一方面,提供了一种文档处理方法,包括:获取文档集合,所述文档集合包括多个候选文档,并确定所述候选文档的分段段落和文档总结;获取所述分段段落的段落词向量和所述文档总结的总结词向量,并基于所述段落词向量和所述总结词向量生成向量索引,并存储在搜索引擎集群中;基于所述候选文档和文档总结生成倒排索引,并存储在所述搜索引擎集群中。

3、根据本公开的另一方面,提供了一种文档处理装置,包括:获取模块,用于获取文档集合,所述文档集合包括多个候选文档,并确定所述候选文档的分段段落和文档总结;第一存储模块,用于获取所述分段段落的段落词向量和所述文档总结的总结词向量,并基于所述段落词向量和所述总结词向量生成向量索引,并存储在搜索引擎集群中;第二存储模块,用于基于所述候选文档和文档总结生成倒排索引,并存储在所述搜索引擎集群中。

4、根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述一方面实施例所述的文档处理方法。

5、根据本公开另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其上存储有计算机程序/指令,所述计算机指令用于使所述计算机执行上述一方面实施例所述的文档处理方法。

6、根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序/指令,所述计算机程序/指令被处理器执行时实现上述一方面实施例所述的文档处理方法。

7、应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

本文档来自技高网...

【技术保护点】

1.一种文档处理方法,其中,所述方法包括:

2.根据权利要求1所述的方法,其中所述方法还包括:

3.根据权利要求1所述的方法,其中,所述方法还包括:

4.根据权利要求3所述的方法,其中,所述基于所述向量索引和所述倒排索引,在所述搜索引擎集群中对所述查询文件进行检索,得到所述查询文本的第一检索结果,包括:

5.根据权利要求3所述的方法,其中,所述根据所述第二检索结果和所述第三检索结果,确定所述查询文本的第一检索结果,包括:

6.根据权利要求5所述的方法,其中,所述基于所述查询文本对所述第二检索结果进行筛选,得到第四检索结果,包括:

7.根据权利要求5所述的方法,其中,所述基于所述查询文本的词向量对所述第三检索结果进行筛选,得到第五检索结果,包括:

8.根据权利要求4-7中任一项所述的方法,其中,所述基于所述第四检索结果和所述第五检索结果,得到所述查询文本的第一检索结果,包括:

9.根据权利要求7所述的方法,其中,所述第四检索结果的展示位置早于所述第五检索结果的展示位置。

10.一种文档处理装置,其中,所述装置包括:

11.根据权利要求10所述的装置,其中所述第二存储模块,还用于:

12.根据权利要求10所述的装置,其中,所述装置还包括:

13.根据权利要求12所述的装置,其中,所述检索模块,还用于:

14.根据权利要求12所述的装置,其中,所述检索模块,还用于:

15.根据权利要求14所述的装置,其中,所述检索模块,还用于:

16.根据权利要求14所述的装置,其中,所述检索模块,还用于:

17.根据权利要求13-16中任一项所述的装置,其中,所述检索模块,还用于:

18.根据权利要求16所述的装置,其中,所述第四检索结果的展示位置早于所述第五检索结果的展示位置。

19.一种电子设备,包括:

20.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-9中任一项所述的方法。

21.一种计算机程序产品,包括计算机程序/指令,其特征在于,该计算机程序/指令被处理器执行时实现权利要求1-9中任一项所述的方法。

...

【技术特征摘要】

1.一种文档处理方法,其中,所述方法包括:

2.根据权利要求1所述的方法,其中所述方法还包括:

3.根据权利要求1所述的方法,其中,所述方法还包括:

4.根据权利要求3所述的方法,其中,所述基于所述向量索引和所述倒排索引,在所述搜索引擎集群中对所述查询文件进行检索,得到所述查询文本的第一检索结果,包括:

5.根据权利要求3所述的方法,其中,所述根据所述第二检索结果和所述第三检索结果,确定所述查询文本的第一检索结果,包括:

6.根据权利要求5所述的方法,其中,所述基于所述查询文本对所述第二检索结果进行筛选,得到第四检索结果,包括:

7.根据权利要求5所述的方法,其中,所述基于所述查询文本的词向量对所述第三检索结果进行筛选,得到第五检索结果,包括:

8.根据权利要求4-7中任一项所述的方法,其中,所述基于所述第四检索结果和所述第五检索结果,得到所述查询文本的第一检索结果,包括:

9.根据权利要求7所述的方法,其中,所述第四检索结果的展示位置早于所述第五检索结果的展示位置。

10.一种文档处理装...

【专利技术属性】
技术研发人员:邱奇
申请(专利权)人:北京百度网讯科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1