文本模型训练方法、文本分析方法、装置、设备及介质制造方法及图纸

技术编号:21548087 阅读:28 留言:0更新日期:2019-07-06 21:33
本发明专利技术公开了一种文本模型训练方法、文本分析方法、装置、设备及存储介质,所述文本模型训练方法包括:获取文本训练样本;将所述文本训练样本输入到文本深度神经网络中,采用基于连续时间分类算法进行训练,得到所述文本深度神经网络的网络参数;使用激活函数对所述网络参数进行优化,得到目标网络参数;使用所述目标网络参数对所述文本深度神经网络的网络参数进行更新,得到初始文本分析模型;采用批标准化算法,对所述初始文本分析模型进行批标准化处理,得到目标文本分析模型。提高了模型的训练效率,并且上述方法训练得到的目标文本分析模型性能较高。

Text Model Training Method, Text Analysis Method, Device, Equipment and Media

【技术实现步骤摘要】
文本模型训练方法、文本分析方法、装置、设备及介质
本专利技术涉及深度学习领域,尤其涉及一种文本模型训练方法、文本分析方法、装置、设备及存储介质。
技术介绍
随着科技的飞速发展,越来越多的智能设备出现在人们的生活当中,其中最具代表性的就是智能机器人。目前已有的智能机器人已经能够做到与用户进行一些简单的对话交流,如智能客服机器人的语音问答,需要对文本进行人为分析。传统地,都是采用基于规则或者基于学习的模型进行分析,然后基于规则或者基于学习方法的文本分析容易导致文本分析准确精度不足,以及存在训练时间过长等问题。
技术实现思路
本专利技术实施例提供一种文本模型训练方法、装置、设备及存储介质以解决文本分析模型训练效率不高的问题。此外,本专利技术实施例还提供一种文本分析方法、装置、设备及存储介质以解决文本分析准确度不高问题。一种文本模型训练方法,包括:获取文本训练样本;将所述文本训练样本输入到文本深度神经网络中,采用基于连续时间分类算法进行训练,得到所述文本深度神经网络的网络参数;使用激活函数对所述网络参数进行优化,得到目标网络参数;使用所述目标网络参数对所述文本深度神经网络的网络参数进行更新,得到本文档来自技高网...

【技术保护点】
1.一种文本模型训练方法,其特征在于,所述文本模型训练方法包括:获取文本训练样本;将所述文本训练样本输入到文本深度神经网络中,采用基于连续时间分类算法进行训练,得到所述文本深度神经网络的网络参数;使用激活函数对所述网络参数进行优化,得到目标网络参数;使用所述目标网络参数对所述文本深度神经网络的网络参数进行更新,得到初始文本分析模型;采用批标准化算法,对所述初始文本分析模型进行批标准化处理,得到目标文本分析模型。

【技术特征摘要】
1.一种文本模型训练方法,其特征在于,所述文本模型训练方法包括:获取文本训练样本;将所述文本训练样本输入到文本深度神经网络中,采用基于连续时间分类算法进行训练,得到所述文本深度神经网络的网络参数;使用激活函数对所述网络参数进行优化,得到目标网络参数;使用所述目标网络参数对所述文本深度神经网络的网络参数进行更新,得到初始文本分析模型;采用批标准化算法,对所述初始文本分析模型进行批标准化处理,得到目标文本分析模型。2.如权利要求1所述的文本模型训练方法,其特征在于,所述并采用基于连续时间分类算法进行训练,得到所述文本深度神经网络的网络参数,包括:获取文本训练样本在所述文本神经网络中的前向传播输出和后向传播输出;根据所述前向传播输出和所述后向传播输出构建误差函数;根据所述误差函数,采用时间相关反向传播算法获取文本神经网络的网络参数。3.如权利要求2所述的文本模型训练方法,其特征在于,所述前向传播输出为:其中,t表示序列步数,u表示与t相对应的输出的标签值,表示在第t步的输出为标签值l'u的概率,所述后向传播输出为:其中,t表示序列步数,u表示与t相对应的输出的标签值,表示在第t+1步的输出为标签值l'u的概率,4.如权利要求1所述的文本模型训练方法,其特征在于,使用激活函数对所述网络参数进行优化,得到目标网络参数,包括:采用下述梯度加速激活函数对所述网络参数进行变换,得到目标网络参数:g(x)=(x*K-floor[x*K]-0.5)/K;其中,x为所述网络参数,g(x)为所述目标网络参数的表达式,floor[x*K]为向下取整的表达式,即取不大于x*K的最大整数,K为频率常数的正整数。5.一种文本分析方法,其特征在于,所述文本分析方法包括:获取待分析文本,并将所述待分析文本转换成向量,得到文本向量;将所述文本向量输入到采用权利要求1-4任一项所述的文本模型训练方法训练得到的目标文本分析模型进行文本分析,得到所述待分析文本的文本分析结果。6.一种...

【专利技术属性】
技术研发人员:金戈徐亮肖京
申请(专利权)人:平安科技深圳有限公司
类型:发明
国别省市:广东,44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1