基于大数据的答案位置获取方法、装置、设备及介质制造方法及图纸

技术编号:24409985 阅读:25 留言:0更新日期:2020-06-06 08:45
本发明专利技术公开了一种基于大数据的答案位置获取方法,包括:执行向量化,得到待处理的文本信息对应的词向量和问题信息对应的词向量;通过Bi‑LSTM网络对所述问题信息对应的词向量进行特征提取及压缩维度,得到问题编码信息;对文本信息中的每一个词向量添加位置向量和所述问题编码信息,得到文本编码信息;通过预设的多层卷积层对所述文本编码信息进行特征提取,得到文本编码信息对应的文本特征信息;通过Bi‑LSTM网络对所述文本特征信息进行序列标注,得到文本信息中每一个词的第一概率与第二概率;获取第一概率最大值对应的词作为答案开始位置和第二概率最大值对应的词作为答案结束位置。本发明专利技术解决了现有问答模型的参数量大、算法训练耗时长的问题。

Method, device, equipment and medium for obtaining answer location based on big data

【技术实现步骤摘要】
基于大数据的答案位置获取方法、装置、设备及介质
本专利技术涉及信息
,尤其涉及一种基于大数据的答案位置获取方法、装置、设备及介质。
技术介绍
现有的问答模型主要通过循环神经网络或者较为复杂的深度学习语言模型实现。然而,循环神经网络的算法精度有限,模型无法进行并行计算,从而需要较长的训练耗时。尽管深度学习语言模型允许并行计算,也已经能够取得较高的精度,但是由于语言模型能够应对多种自然语言处理任务,模型结构复杂且参数量较为庞大,同样需要较长的训练耗时。可见,不管是基于循环神经网络还是深度学习语言模型的问答模型,都存在算法训练耗时较长的缺点,无法构建轻量化的问答模型。因此,寻找一种解决现有问答模型的参数量大、算法训练耗时长的方法成为本领域技术人员亟需解决的技术问题。
技术实现思路
本专利技术实施例提供了一种基于大数据的答案位置获取方法、装置、设备及介质,以解决现有问答模型的参数量大、算法训练耗时长的问题。一种基于大数据的答案位置获取方法,包括:获取待处理的文本信息和问题信息,分别对所述文本信息和问题信本文档来自技高网...

【技术保护点】
1.一种基于大数据的答案位置获取方法,其特征在于,包括:/n获取待处理的文本信息和问题信息,分别对所述文本信息和问题信息中的每一个词执行向量化,得到所述文本信息对应的词向量和问题信息对应的词向量;/n通过双向循环神经网络Bi-LSTM对所述问题信息对应的词向量进行特征提取,并对提取得到的多维特征矩阵压缩至预设维度,得到问题编码信息;/n对文本信息中的每一个词向量添加位置向量和所述问题编码信息,得到所述文本信息对应的文本编码信息;/n通过预设的多层卷积层对所述文本编码信息进行特征提取,得到所述文本信息对应的文本特征信息;/n通过双向循环神经网络Bi-LSTM对所述文本特征信息进行序列标注,得到文...

【技术特征摘要】
1.一种基于大数据的答案位置获取方法,其特征在于,包括:
获取待处理的文本信息和问题信息,分别对所述文本信息和问题信息中的每一个词执行向量化,得到所述文本信息对应的词向量和问题信息对应的词向量;
通过双向循环神经网络Bi-LSTM对所述问题信息对应的词向量进行特征提取,并对提取得到的多维特征矩阵压缩至预设维度,得到问题编码信息;
对文本信息中的每一个词向量添加位置向量和所述问题编码信息,得到所述文本信息对应的文本编码信息;
通过预设的多层卷积层对所述文本编码信息进行特征提取,得到所述文本信息对应的文本特征信息;
通过双向循环神经网络Bi-LSTM对所述文本特征信息进行序列标注,得到文本信息中每一个词的第一概率与第二概率;
获取第一概率最大值对应的词作为答案开始位置和第二概率最大值对应的词作为答案结束位置。


2.如权利要求1所述的基于大数据的答案位置获取方法,其特征在于,所述通过双向循环神经网络Bi-LSTM对所述问题信息对应的词向量进行特征提取,并对提取得到的多维特征矩阵压缩至预设维度,得到问题编码信息包括:
通过双向循环神经网络Bi-LSTM对所述问题信息对应的词向量进行特征提取,得到m*n维特征矩阵;
通过加性注意力机制,将所述m*n维特征矩阵压缩至1*n维特征矩阵;
通过预设的全连接层,将所述1*n维特征矩转化为1*k维特征矩阵,以所述1*k维特征矩阵作为问题编码信息。


3.如权利要求1或2所述的基于大数据的答案位置获取方法,其特征在于,所述对文本信息中的每一个词向量添加位置向量和所述问题编码信息,得到所述文本信息对应的文本编码信息包括:
对文本信息中的每一个词向量,通过预设的正弦函数和余弦函数生成所述词向量对应的位置向量;
将所述位置向量、问题编码信息依次添加至所述词向量之后,得到所述词向量对应的文本编码信息。


4.如权利要求1或2所述的基于大数据的答案位置获取方法,其特征在于,所述通过预设的多层卷积层对所述文本编码信息进行特征提取,得到所述文本信息对应的文本特征信息包括:
通过预设的第一卷积层对所述文本编码信息进行特征提取,得到文本编码信息对应的第一文本特征信息;
通过三层并行的第二卷积层分别对所述第一文本特征信息进行特征提,得到三组第二文本特征信息;
对任意两组第二文本特征信息执行矩阵乘法运算,并通过softmax函数对运算结果执行归一化处理,得到权重信息;
根据所述权重信息对另一组第二文本特征信息进行调整,得到第三文本特征信息;
对所述第三文本特征信息和第一文本特征信息执行加和处理,所得结果作为所述文本信息对应的文本特征信息。


5.如权利要求1或2所述的基于大数据的答案位置获取方法,其特征在于,在得到所述文本信息对应的文本特征信息之后,所...

【专利技术属性】
技术研发人员:陈桢博金戈徐亮
申请(专利权)人:平安科技深圳有限公司
类型:发明
国别省市:广东;44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1