一种文本数据检索方法及装置制造方法及图纸

本申请公开了一种文本数据检索方法及装置，方法包括：首先，将从预置文本数据中提取到的特征向量构建成向量集合，特征向量包括第一关键词和第一特征权重；然后，根据预置热点向量与特征向量之间的第一相似度对向量集合进行分类，得特征向量类别库；其次，根据预置检索热点构建检索向量，检索向量包括第二关键词和第二特征权重；接着，在特征向量类别库中随机选取一个类别，计算类别中每个特征向量与检索向量之间的第二相似度，得最大相似度；最后，根据预置条件采用第一特征权重代替第二特征权重，并迭代检索，得检索特征向量。解决了检索效果较差，无法高效满足实际应用需求的技术问题。

A method and device of text data retrieval

【技术实现步骤摘要】
一种文本数据检索方法及装置
本申请涉及文本检索
，尤其涉及一种文本数据检索方法及装置。
技术介绍
近年来，互联网的迅猛发展，迎来了信息爆炸式增长的时代。随着日常生活逐步向互联网的全面转移，大数据时代已经成为必然。大数据作为全球互联网的前沿概念，主要包括两个特点：一是信息量急剧增加；二是个人可获得的信息量呈指数级增长。人工智能是专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。随着人工智能的发展，人工智能的也被应用到各个不同的领域中，处理各种以往计算机无法实现的问题。文本数据，包括结构化和非结构化的，在企业IT系统中，譬如日志信息、业务财务销售管理等软件文本记录、客服投诉建议及邮件评论等都蕴含着大量的文本数据。由于文本数据天然的数据零散以及跨系统跨领域的特性，再加上数据量的急剧增加，导致现有的文本的特征提取和检索技术无法适应实际的应用需求。
技术实现思路
本申请提供了一种文本数据检索方法及装置，用于解决文本数据的杂乱无章和跨系统跨领域，以及数据量急剧增加导致检索效果较差，无法高效满足实际应用需求的技术问题。有鉴于此，本申请第一方面提供了一种文本数据检索方法，包括：S1：将从预置文本数据中提取到的特征向量构建成向量集合，所述特征向量包括第一关键词和第一特征权重；S2：根据预置热点向量与所述特征向量之间的第一相似度对所述向量集合进行分类，得到特征向量类别库，所述预置热点向量为具有时效性的标准向量；S3：根据预置检索热点构建检索向量，所述检索向量包括第二关键词和第二特征权重；S4：在所述特征向量类别库中随机选取一个类别，计算所述类别中每个所述特征向量与所述检索向量之间的第二相似度，得到最大相似度；S5：在所述最大相似度大于或等于阈值时，如果所述最大相似度对应的所述特征向量的所述第一特征权重大于所述第二特征权重，则将所述第一特征权重代替所述第二特征权重，重复步骤S4，直至得到唯一的检索特征向量。优选地，步骤S1，之前还包括：采集杂乱的原始文本数据；对所述原始文本数据进行数据清洗操作，得到所述预置文本数据。优选地，步骤S2，包括：构建多个所述预置热点向量，所述预置热点向量包括第三关键词和第三特征权重，所述预置热点向量为具有时效性的标准向量；根据预置相似度公式计算所述预置热点向量与每个所述特征向量之间的所述第一相似度；将每个所述第一相似度超过相似阈值的所述特征向量划分到所述预置热点向量对应的热点类别中；将分类完成的所述特征向量构建成所述特征向量类别库。优选地，步骤S1，之后还包括：通过预置公式计算所述第一关键词的词频率，所述预置公式为：其中，Li为所述词频率，TF为词频，Ctotal为词总数；根据所述词频率和预置词性权重计算更新权重；采用所述更新权重调整所述第一特征权重，得到优化后的所述特征向量。优选地，步骤S5，还包括：在所述最大相似度小于阈值时，则判定为非目标信息，跳过本次检索。本申请第二方面提供了一种文本数据检索装置，包括：第一构建模块，用于将从预置文本数据中提取到的特征向量构建成向量集合，所述特征向量包括第一关键词和第一特征权重；分类模块，用于根据预置热点向量与所述特征向量之间的第一相似度对所述向量集合进行分类，得到特征向量类别库，所述预置热点向量为具有时效性的标准向量；第二构建模块，用于根据预置检索热点构建检索向量，所述检索向量包括第二关键词和第二特征权重；计算模块，用于在所述特征向量类别库中随机选取一个类别，计算所述类别中每个所述特征向量与所述检索向量之间的第二相似度，得到最大相似度；迭代模块，用于在所述最大相似度大于或等于阈值时，如果所述最大相似度对应的所述特征向量的所述第一特征权重大于所述第二特征权重，则将所述第一特征权重代替所述第二特征权重，触发所述计算模块，直至得到唯一的检索特征向量。优选地，还包括：预处理模块，用于采集杂乱的原始文本数据；对所述原始文本数据进行数据清洗操作，得到所述预置文本数据。优选地，所述分类模块包括：第一构建子模块，用于构建多个所述预置热点向量，所述预置热点向量包括第三关键词和第三特征权重，所述预置热点向量为具有时效性的标准向量；计算子模块，用于根据预置相似度公式计算所述预置热点向量与每个所述特征向量之间的所述第一相似度；分类子模块，用于将每个所述第一相似度超过相似阈值的所述特征向量划分到所述预置热点向量对应的热点类别中；第二构建子模块，用于将分类完成的所述特征向量构建成所述特征向量类别库。优选地，还包括：词频率模块，用于通过预置公式计算所述第一关键词的词频率，所述预置公式为：其中，Li为所述词频率，TF为词频，Ctotal为词总数；词性权重模块，用于根据所述词频率和预置词性权重计算更新权重；调整模块，用于采用所述更新权重调整所述第一特征权重，得到优化后的所述特征向量。优选地，所述迭代模块还用于：在所述最大相似度小于阈值时，则判定为非目标信息，跳过本次检索。从以上技术方案可以看出，本申请实施例具有以下优点：本申请中，提供了文本数据检索方法，包括：S1：将从预置文本数据中提取到的特征向量构建成向量集合，特征向量包括第一关键词和第一特征权重；S2：根据预置热点向量与特征向量之间的第一相似度对向量集合进行分类，得到特征向量类别库，预置热点向量为具有时效性的标准向量；S3：根据预置检索热点构建检索向量，检索向量包括第二关键词和第二特征权重；S4：在特征向量类别库中随机选取一个类别，计算类别中每个特征向量与检索向量之间的第二相似度，得到最大相似度；S5：在最大相似度大于或等于阈值时，如果最大相似度对应的特征向量的第一特征权重大于第二特征权重，则将第一特征权重代替第二特征权重，重复步骤S4，直至得到唯一的检索特征向量。本申请提供的文本数据检索方法，将零散杂乱，且规则性显现较弱的文本数据表达成向量的形式，向量中将关键词作为特征项，且还包括关键词的相应权重，从而将抽象的文本概念转化成具象的数学模型，通过预置的相同形式的热点向量与建立的特征向量之间进行相似度计算，从而实现分类，这样的分类能够较大程度的提高检索效率，且预置热点向量具有时效性，以此作为分类标准更加符合实际情况；预置检索热点即为输入系统中进行检索的文本信息，其对应的检索向量与特征向量类别库中的向量形式一致，便于进行计算；检索的过程除了在库中计算相似度以外，并非一步检索，而是更新权重的迭代式检索，不断优化检索向量，得到唯一符合条件的检索特征向量，以此作为最终检索结果。因此，本申请提供的文本数据检索方法能够解决文本数据的杂乱无章和跨系统跨领域，以及数据量急剧增加导致检索效果较差，无法高效满足实际应用需求的技术问本文档来自技高网...

【技术保护点】
1.一种文本数据检索方法，其特征在于，包括：/nS1：将从预置文本数据中提取到的特征向量构建成向量集合，所述特征向量包括第一关键词和第一特征权重；/nS2：根据预置热点向量与所述特征向量之间的第一相似度对所述向量集合进行分类，得到特征向量类别库，所述预置热点向量为具有时效性的标准向量；/nS3：根据预置检索热点构建检索向量，所述检索向量包括第二关键词和第二特征权重；/nS4：在所述特征向量类别库中随机选取一个类别，计算所述类别中每个所述特征向量与所述检索向量之间的第二相似度，得到最大相似度；/nS5：在所述最大相似度大于或等于阈值时，如果所述最大相似度对应的所述特征向量的所述第一特征权重大于所述第二特征权重，则将所述第一特征权重代替所述第二特征权重，重复步骤S4，直至得到唯一的检索特征向量。/n

【技术特征摘要】
1.一种文本数据检索方法，其特征在于，包括：
S1：将从预置文本数据中提取到的特征向量构建成向量集合，所述特征向量包括第一关键词和第一特征权重；
S2：根据预置热点向量与所述特征向量之间的第一相似度对所述向量集合进行分类，得到特征向量类别库，所述预置热点向量为具有时效性的标准向量；
S3：根据预置检索热点构建检索向量，所述检索向量包括第二关键词和第二特征权重；
S4：在所述特征向量类别库中随机选取一个类别，计算所述类别中每个所述特征向量与所述检索向量之间的第二相似度，得到最大相似度；
S5：在所述最大相似度大于或等于阈值时，如果所述最大相似度对应的所述特征向量的所述第一特征权重大于所述第二特征权重，则将所述第一特征权重代替所述第二特征权重，重复步骤S4，直至得到唯一的检索特征向量。


2.根据权利要求1所述的文本数据检索方法，其特征在于，步骤S1，之前还包括：
采集杂乱的原始文本数据；
对所述原始文本数据进行数据清洗操作，得到所述预置文本数据。


3.根据权利要求1所述的文本数据检索方法，其特征在于，步骤S2，包括：
构建多个所述预置热点向量，所述预置热点向量包括第三关键词和第三特征权重，所述预置热点向量为具有时效性的标准向量；
根据预置相似度公式计算所述预置热点向量与每个所述特征向量之间的所述第一相似度；
将每个所述第一相似度超过相似阈值的所述特征向量划分到所述预置热点向量对应的热点类别中；
将分类完成的所述特征向量构建成所述特征向量类别库。


4.根据权利要求1所述的文本数据检索方法，其特征在于，步骤S1，之后还包括：
通过预置公式计算所述第一关键词的词频率，所述预置公式为：



其中，Li为所述词频率，TF为词频，Ctotal为词总数；
根据所述词频率和预置词性权重计算更新权重；
采用所述更新权重调整所述第一特征权重，得到优化后的所述特征向量。


5.根据权利要求1所述的文本数据检索方法，其特征在于，步骤S5，还包括：
在所述最大相似度小于阈值时，则判定为非目标信息，跳过本次检索。


6.一种文本数据检索装置，其特征在于，包括：
第一构建模块，用于将从...

【专利技术属性】
技术研发人员：侯凯，李耀东，金波，
申请(专利权)人：广东电网有限责任公司，
类型：发明
国别省市：广东;44