对话生成方法、装置、电子设备及存储介质制造方法及图纸

本申请公开了对话生成方法、装置、电子设备及存储介质，涉及语音技术领域、深度学习技术领域、人工智能技术领域。具体实现方案为：获取当前对话，以及当前对话的历史对话；从历史对话之中选择多个参考历史对话并加入临时记忆对话集合；以及根据当前对话和临时记忆对话集合生成当前对话的回复信息，从而能够减少需要处理的历史对话的处理，降低对历史对话的编码长度，减小计算量，减少计算时间，使得对话生成装置能够适用于对话轮次较多的场景，适应性好。好。好。

【技术实现步骤摘要】
对话生成方法、装置、电子设备及存储介质


[0001]本申请涉及计算机
，具体涉及语音
、深度学习
、人工智能
，尤其涉及对话生成方法、装置、电子设备及存储介质。

技术介绍

[0002]目前的基于端到端模型的对话系统，端到端模型在对对话进行处理时，需要将多轮对话的上文进行编码，并结合当前对话，解码出针对当前对话的回复信息。上述方案中，需要将所有上文一次性编码，编码长度很长，计算量大。但模型能够处理的编码长度有限，计算量有限，导致模型难以适用于对话轮次较多的场景，适用性差。

技术实现思路

[0003]本公开提供了一种对话生成方法、装置、电子设备及存储介质。
[0004]根据本公开的一方面，提供了一种对话生成方法，包括：获取当前对话，以及所述当前对话的历史对话；从所述历史对话之中选择多个参考历史对话并加入临时记忆对话集合；以及根据所述当前对话和所述临时记忆对话集合生成所述当前对话的回复信息。
[0005]根据本公开的另一方面，提供了一种对话生成装置，包括：获取模块，用于获取当前对话，以及所述当前对话的历史对话；选择模块，用于从所述历史对话之中选择多个参考历史对话并加入临时记忆对话集合；以及生成模块，用于根据所述当前对话和所述临时记忆对话集合生成所述当前对话的回复信息。
[0006]根据第三方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如上所述的对话生成方法。
[0007]根据第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行如上所述的对话生成方法。
[0008]根据第五方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现如上所述的对话生成方法。
[0009]应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0010]附图用于更好地理解本方案，不构成对本申请的限定。其中：
[0011]图1是根据本申请第一实施例的示意图；
[0012]图2是根据本申请第二实施例的示意图；
[0013]图3是当前对话的回复信息的生成示意图；
[0014]图4是根据本申请第三实施例的示意图；
[0015]图5是根据本申请第四实施例的示意图；
[0016]图6是用来实现本申请实施例的对话生成方法的电子设备的框图。
具体实施方式
[0017]以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
[0018]下面参考附图描述本申请实施例的对话生成方法、装置、电子设备及存储介质。
[0019]图1是根据本申请第一实施例的示意图。其中，需要说明的是，本申请实施例的执行主体为对话生成装置，对话生成装置具体可以为硬件设备，或者硬件设备中的软件等。
[0020]如图1所示，对话生成方法的具体实现过程如下：
[0021]步骤101，获取当前对话，以及当前对话的历史对话。
[0022]在本申请实施例中，当前对话可以为用户与对话生成装置对话时，当前输入的对话，例如，用户所提的问题等。其中，对话生成装置获取当前对话的方式可以为，对话生成装置实时进行语音采集，获取采集到的用户的当前语音，或者，对话生成装置可以通过所连接的语音采集设备来获取用户的当前语音；然后将当前语音作为当前对话，或者将当前语音的语音识别结果作为当前对话。
[0023]在本申请实施例中，当前对话的历史对话，指的是当前对话的采集时间点之前，对话生成装置采集到并存储的对话。
[0024]步骤102，从历史对话之中选择多个参考历史对话并加入临时记忆对话集合。
[0025]在本申请实施例中，对话生成装置选择参考历史对话的方式例如可以为随机选择，或者按照历史对话的采集时间点进行选择，或者按照历史对话与当前对话的相关性等进行选择，或者结合历史对话的采集时间点以及与当前对话的相关性等进行选择，可以根据实际需要来确定选择方式。
[0026]在本申请实施例中，参考历史对话的数量，可以根据对话生成装置的性能等，或者根据对话生成装置所采用的模型的性能、计算量或者要求等进行设定。
[0027]步骤103，根据当前对话和临时记忆对话集合生成当前对话的回复信息。
[0028]在本申请实施例中，对话生成装置生成当前对话的回复信息的方式可以为，将当前对话和临时记忆对话集合输入至生成模型，以生成回复信息。其中，生成模型例如可以为Transformer模型等。
[0029]综上，通过获取当前对话，以及当前对话的历史对话；从历史对话之中选择多个参考历史对话并加入临时记忆对话集合；以及根据当前对话和临时记忆对话集合生成当前对话的回复信息，从而能够减少需要处理的历史对话的处理，降低对历史对话的编码长度，减小计算量，减少计算时间，使得对话生成装置能够适用于对话轮次较多的场景，适应性好。
[0030]图2是根据本申请第二实施例的示意图。其中，需要说明的是，本申请实施例的执行主体为对话生成装置，对话生成装置具体可以为硬件设备，或者硬件设备中的软件等。
[0031]如图2所示，对话生成方法的具体实现过程如下：
[0032]步骤201，获取当前对话，以及当前对话的历史对话，其中，当前对话为r
t
，历史对
话为r1,...,r
t
‑1，其中，t为当时时间。
[0033]在本申请实施例中，当前对话可以为用户与对话生成装置对话时，当前输入的对话，例如，用户所提的问题等。历史对话可以为，当前对话的采集时间点之前，用户输入的对话；或者，当前对话的采集时间点之前，用户输入的对话以及对话生成装置针对该对话的回复。其中，历史对话的轮次可以为多轮。
[0034]步骤202，按照第一预设数量w，从历史对话之中选择对话r
t
‑
w
‑
r
t
‑1加入临时记忆对话集合。
[0035]在本申请实施例中，与当前对话的时间差值较小的历史对话，与当前对话的相关度一般较大，因此，可以将与当前对话的时间差值较小的w个对话直接加入临时记忆对话集合中；而对与当前对话的时间差值较大的历史对话，与当前对话的相关度一般较小，可以通过选择加入临时记忆对话集合中。
[0036]另外，若历史对话的总数量小于或者等于w，则可以不做选择，将所有历史本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种对话生成方法，包括：获取当前对话，以及所述当前对话的历史对话；从所述历史对话之中选择多个参考历史对话并加入临时记忆对话集合；以及根据所述当前对话和所述临时记忆对话集合生成所述当前对话的回复信息。2.如权利要求1所述的对话生成方法，其中，所述当前对话为r
t
，所述历史对话为r1,...,r
t
‑1，其中，t为当时时间，所述从所述历史对话之中选择多个参考历史对话并加入临时记忆对话集合，包括：按照第一预设数量w，从所述历史对话之中选择对话r
t
‑
w
‑
r
t
‑1加入所述临时记忆对话集合；根据记忆选择策略模型从对话r1‑
r
t
‑
w
‑1之中选择多个对话加入至所述临时记忆对话集合，其中，n大于w。3.如权利要求2所述的对话生成方法，其中，所述根据所述当前对话和所述临时记忆对话集合生成所述当前对话的回复信息，包括：将所述当前对话和所述临时记忆对话集合输入至生成模型，以生成所述回复信息。4.如权利要求3所述的对话生成方法，其中，所述生成模型和所述记忆选择策略模型同时训练得到。5.如权利要求2所述的对话生成方法，其中，所述根据记忆选择策略模型从对话r1‑
r
t
‑
w
‑1之中选择多个对话加入至所述临时记忆对话集合，包括：从所述对话r1‑
r
t
‑
w
‑1之中选择未处理的第一候选对话；根据所述记忆选择策略模型、所述临时记忆对话集合以及所述第一候选对话，生成所述第一候选对话的概率；在根据所述第一候选对话的概率确定所述第一候选对话满足预设加入条件时，将所述第一候选对话加入至所述临时记忆对话集合。6.如权利要求5所述的对话生成方法，其中，还包括：在所述临时记忆对话集合之中的对话数量小于n，且所述对话r1‑
r
t
‑
w
‑1之中存在未处理的对话时，从所述对话r1‑
r
t
‑
w
‑1之中选择未处理的第二候选对话；根据所述记忆选择策略模型、所述临时记忆对话集合以及第二候选对话，生成所述第二候选对话的概率；在根据所述第二候选对话的概率确定所述第二候选对话满足所述预设加入条件时，将所述第二候选对话加入至所述临时记忆对话集合。7.如权利要求6所述的对话生成方法，其中，还包括：在所述临时记忆对话集合之中的对话数量大于或等于n，或者，所述对话r1‑
r
t
‑
w
‑1之中未存在未处理的对话时，停止选择候选对话。8.如权利要求4所述的对话生成方法，其中，所述生成模型和所述记忆选择策略模型的训练过程为，获取多个样本数据，所述样本数据包括：样本对话，以及对应的样本历史对话；在所述记忆选择策略模型上添加随机扰动分布；将每个样本数据分别输入记忆选择策略模型和生成模型，获取所述记忆选择策略模型输出的样本对话预测概率，以及所述生成模型输出的样本对话回复信息；
结合所述样本对话回复信息以及所述生成模型的损失函数，对所述生成模型进行系数调整；结合所述损失函数、所述样本对话预测概率以及所述记忆选择策略模型的目标函数，对所述记忆选择策略模型进行系数调整。9.一种对话生成装置，包括：获取模块，用于获取当前对话，以及所述当前对话的历史对话；选择模块，用于从所述历史对话之中选择多个参考历史对话并加入临时记忆对话集合；以及生成模块，用于根据所述当前对话和所述临时记忆对话集合生成所述当前对话的回复信息。10.如权利要求9...

【专利技术属性】
技术研发人员：王凡，鲍思琪，黄信娴，吴华，何径舟，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：