本申请提供了一种中文字向量学习方法及装置，该方法包括：将中文词语库中的词进行拆分，得到待学习汉字，并将所述待学习汉字存入汉字库；根据所述中文词语库和汉字库，统计每个待学习汉字在所述中文词语库中的构词数，以及每个待学习汉字在每个词中的使用频次；针对每个待学习汉字，根据该待学习汉字对应的构词数，计算该待学习汉字对应的反词语频率；根据所述每个待学习汉字在每个词中的使用频次和每个待学习汉字的反词语频率进行加权计算，得到每个待学习汉字的字向量。到每个待学习汉字的字向量。到每个待学习汉字的字向量。
【技术实现步骤摘要】
一种中文字向量学习方法及装置
[0001]本申请涉及自然语言处理领域，具体而言，涉及一种中文字向量学习方法及装置。
技术介绍
[0002]语义表示是自然语言处理（Natural Language Processing，缩写为NLP）领域最为重要的研究任务之一，旨在理解蕴含在语言中的意义。在自然语言中，语言以符号的形式存在，如英文字母、汉字、拼音等，但符号本身不具有任何意义，只有当符号被赋予含义之后才能够形成信息，此时符号的含义即为语义。常见的文本语义表示方法有向量空间模型、概率模型、语言模型和词向量（Embedding）模型。
[0003]现有技术中，词向量模型是当前语义表示的最好方法。继Word2vec之后，相继涌现出Glove、ELMo、GPT、BERT等基于深度学习的词向量模型，很多学者、科研组织结构开源出较多的已训练好的词向量模型做为预训练模型，并在英文语料上取得相关不错的效果。而与英文的语义表示不同，中文的语义表示需要对文本进行分词，中文分词的效果直接影响后续应用，误差会被级联传播。因分词错误，词向量得不到有效的学习。从而导致文本得不到有效的语义表示，继而在后续如文本分类、预测、序列标注、信息抽取等很多应用场景下会直接导致精度的剧烈下降。另外，中文词语很难穷举，每天都会产生新词，但是字是可穷举的。对于预训练词向量模型会漏掉新词，这无形中也会造成精度的损失。
技术实现思路
[0004]有鉴于此，本申请的目的在于提供一种中文字向量学习方法及装置，用于解决现有技术中如何提高中文语义表示的准确度的问题。
[0005]第一方面，本申请实施例提供了一种中文字向量学习方法，该方法包括：将中文词语库中的词进行拆分，得到待学习汉字，并将所述待学习汉字存入汉字库；根据所述中文词语库和汉字库，统计每个待学习汉字在所述中文词语库中的构词数，以及每个待学习汉字在每个词中的使用频次；针对每个待学习汉字，根据该待学习汉字对应的构词数，计算该待学习汉字对应的反词语频率；根据所述每个待学习汉字在每个词中的使用频次、每个待学习汉字的反词语频率和每个词对应的词向量进行加权计算，得到每个待学习汉字的字向量。
[0006]在一些实施例中，所述根据所述每个待学习汉字在每个词中的使用频次、每个待学习汉字的反词语频率和每个词对应的词向量进行加权计算，得到每个待学习汉字的字向量，包括：针对每个待学习汉字，根据该待学习汉字的反词语频率与每个词中该待学习汉字的使用频次的乘积，和每个词中除该待学习汉字外每个其他汉字的反词语频率与该其他汉字在该词语中的使用频次的乘积，计算该待学习汉字在每个词中的构词权重；
针对每个待学习汉字，根据该待学习汉字在每个词中的构词权重和每个词对应的词向量，计算该待学习汉字的字向量。
[0007]在一些实施例中，针对每个待学习汉字，根据该待学习汉字在每个词中的构词权重和每个词对应的词向量，计算该待学习汉字的字向量，包括：针对每个待学习汉字，计算所有包含该待学习汉字的词语所对应的加权词向量之和作为该待学习汉字的字向量；所述加权词向量是该待学习汉字在每个词中的构词权重与该词语对应的词向量的乘积。
[0008]在一些实施例中，在所述将中文词语库中的词进行拆分，得到待学习汉字，并将所述待学习汉字存入汉字库之前，还包括：获取预训练词向量模型；解析所述预训练词向量模型，得到词和对应的词向量，并将所述词和对应的词向量存入中文词语库。
[0009]第二方面，本申请提供了一种中文字向量学习装置，该装置包括：拆分模块，用于将中文词语库中的词进行拆分，得到待学习汉字，并将所述待学习汉字存入汉字库；统计模块，用于根据所述中文词语库和汉字库，统计每个待学习汉字在所述中文词语库中的构词数，以及每个待学习汉字在每个词中的使用频次；计算模块，用于针对每个待学习汉字，根据该待学习汉字对应的构词数，计算该待学习汉字对应的反词语频率；学习模块，用于根据所述每个待学习汉字在每个词中的使用频次、每个待学习汉字的反词语频率和每个词对应的词向量进行加权计算，得到每个待学习汉字的字向量。
[0010]在一些实施例中，所述学习模块，包括：权重单元，用于针对每个待学习汉字，根据该待学习汉字的反词语频率与每个词中该待学习汉字的使用频次的乘积，和每个词中除该待学习汉字外每个其他汉字的反词语频率与该其他汉字在该词语中的使用频次的乘积，计算该待学习汉字在每个词中的构词权重；学习单元，用于针对每个待学习汉字，根据该待学习汉字在每个词中的构词权重和每个词对应的词向量，计算该待学习汉字的字向量。
[0011]在一些实施例中，所述学习单元，包括：加权计算子单元，用于针对每个待学习汉字，计算所有包含该待学习汉字的词语所对应的加权词向量之和作为该待学习汉字的字向量；所述加权词向量是该待学习汉字在每个词中的构词权重与该词语对应的词向量的乘积。
[0012]在一些实施例中，该装置还包括：获取模块，用于获取预训练词向量模型；解析模块，用于解析所述预训练词向量模型，得到词和对应的词向量，并将所述词和对应的词向量存入中文词语库。
[0013]第三方面，本申请实施例提供了一种计算机设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述第一方面中任一项所述的方法的步骤。
[0014]第四方面，本申请实施例提供了一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器运行时执行上述第一方面中任一项所述的方法的步骤。
[0015]本申请实施例提出的一种中文字向量学习方法，通过对中文词语库中的词进行拆分，得到待学习汉字，统计每个待学习汉字在中文词语库中的构词数和在每个词中的使用频次，并计算每个待学习汉字的反词语频率，最后通过使用频次和反词语频率进行加权计算以得到每个待学习汉字的字向量。本申请实施例所提出的一种中文字向量学习方法，实现了将词向量转化为字向量，通过字向量进行文本表示，提高了中文语义表示的准确度。
[0016]为使本申请的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。
附图说明
[0017]为了更清楚地说明本申请实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本申请的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。
[0018]图1为本申请实施例提供的一种中文字向量学习方法的流程示意图；图2为本申请实施例提供的一种中文字向量加权计算方法的流程示意图；图3为本申请实施例提供的一种中文字向量学习装置的结构示意图；图4为本申请实施例提供的一种计算机设备的结构示意图。
具体实施方式
[0019]为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种中文字向量学习方法，其特征在于，包括：将中文词语库中的词进行拆分，得到待学习汉字，并将所述待学习汉字存入汉字库；根据所述中文词语库和汉字库，统计每个待学习汉字在所述中文词语库中的构词数，以及每个待学习汉字在每个词中的使用频次；针对每个待学习汉字，根据该待学习汉字对应的构词数，计算该待学习汉字对应的反词语频率；根据所述每个待学习汉字在每个词中的使用频次、每个待学习汉字的反词语频率和每个词对应的词向量进行加权计算，得到每个待学习汉字的字向量。2.如权利要求1所述的方法，其特征在于，所述根据所述每个待学习汉字在每个词中的使用频次、每个待学习汉字的反词语频率和每个词对应的词向量进行加权计算，得到每个待学习汉字的字向量，包括：针对每个待学习汉字，根据该待学习汉字的反词语频率与每个词中该待学习汉字的使用频次的乘积，和每个词中除该待学习汉字外每个其他汉字的反词语频率与该其他汉字在该词语中的使用频次的乘积，计算该待学习汉字在每个词中的构词权重；针对每个待学习汉字，根据该待学习汉字在每个词中的构词权重和每个词对应的词向量，计算该待学习汉字的字向量。3.如权利要求2所述的方法，其特征在于，针对每个待学习汉字，根据该待学习汉字在每个词中的构词权重和每个词对应的词向量，计算该待学习汉字的字向量，包括：针对每个待学习汉字，计算所有包含该待学习汉字的词语所对应的加权词向量之和作为该待学习汉字的字向量；所述加权词向量是该待学习汉字在每个词中的构词权重与该词语对应的词向量的乘积。4.如权利要求1所述的方法，其特征在于，在所述将中文词语库中的词进行拆分，得到待学习汉字，并将所述待学习汉字存入汉字库之前，还包括：获取预训练词向量模型；解析所述预训练词向量模型，得到词和对应的词向量，并将所述词和对应的词向量存入中文词语库。5.一种中文字向量学习装置，其特征在于，包括：拆分模块，用于将中文词语库中的词进行拆分，得到待学习汉字，并将所述待学习汉字存入汉字库；...
【专利技术属性】
技术研发人员：梁吉光，徐凯波，
申请(专利权)人：北京明略软件系统有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。