信息处理方法、装置、电子设备、存储介质及程序产品制造方法及图纸

本申请实施例提供了一种信息处理方法、装置、电子设备、计算机可读存储介质及计算机程序产品，涉及人工智能技术领域。其中，信息处理方法包括：针对目标信息的输入序列中的至少两个目标向量进行基于快速傅里叶变换的特征交叉处理，得到目标信息的输出序列；针对目标信息的输出序列进行特征感知处理，得到目标信息的目标序列；其中，目标序列表示目标信息中的各个目标对象在目标信息中与其他目标对象相关的语义信息；该方法的实施有利于提升所确定语义信息的准确性。同时，由电子设备执行的上述信息处理方法可以使用人工智能模型来执行。述信息处理方法可以使用人工智能模型来执行。述信息处理方法可以使用人工智能模型来执行。

【技术实现步骤摘要】
信息处理方法、装置、电子设备、存储介质及程序产品


[0001]本申请涉及人工智能
，具体而言，本申请涉及一种信息处理方法、装置、电子设备、计算机可读存储介质及计算机程序产品。

技术介绍

[0002]在深度学习中，针对待处理的信息，如文本、图像、音频等，为了更好地确定信息中各对象向量的语义信息，除了需要确定各对象向量自身的语义信息，还需要确定各对象向量在信息中所对应的上下文语义信息。
[0003]在现有技术中，关于上下文语义信息的处理中需要感知对象的全局信息，然而全局信息感知的计算复杂度高、计算量大，导致信息的处理效率与所确定的语义信息的准确度非常低。

技术实现思路

[0004]本申请实施例提供了一种信息处理方法、装置、电子设备、计算机可读存储介质及计算机程序产品，可以解决相关技术中信息处理计算复杂度高、计算量大的问题。所述技术方案如下：
[0005]根据本申请实施例的一个方面，提供了一种信息处理方法，该方法包括：
[0006]针对目标信息的输入序列中的至少两个目标向量进行基于快速傅里叶变换的特征交叉处理，得到所述目标信息的输出序列；
[0007]针对所述目标信息的输出序列进行特征感知处理，得到所述目标信息的目标序列；
[0008]其中，所述目标序列表示所述目标信息中的各个目标对象在所述目标信息中与其他目标对象相关的语义信息。
[0009]根据本申请实施例的另一个方面，提供了一种信息处理装置，该装置包括：
[0010]交叉模块，用于针对目标信息的输入序列中的至少两个目标向量进行基于快速傅里叶变换的特征交叉处理，得到所述目标信息的输出序列；
[0011]注意力模块，用于针对所述目标信息的输出序列进行特征感知处理，得到所述目标信息的目标序列；
[0012]其中，所述目标序列表示所述目标信息中的各个目标对象在所述目标信息中与其他目标对象相关的语义信息。
[0013]根据本申请实施例的另一个方面，提供了一种电子设备，该电子设备包括：
[0014]一个或多个处理器；
[0015]存储器；
[0016]一个或多个计算机程序，其中所述一个或多个计算机程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行，所述一个或多个计算机程序配置用于：执行上述信息处理方法。
[0017]根据本申请实施例的再一个方面，提供了一种计算机可读存储介质，所述计算机存储介质用于存储计算机指令，当所述计算机指令在计算机上运行时，使得计算机可以执行上述信息处理方法。
[0018]根据本申请实施例的一个方面，提供了一种计算机程序产品，包括计算机程序或指令，该计算机程序或指令被处理器执行时实现上述信息处理方法的步骤。
[0019]本申请实施例提供的技术方案带来的有益效果是：
[0020]本申请提供一种信息处理方法、装置、电子设备、计算机可读存储介质及计算机程序产品，具体地，本申请针对目标信息的输入序列中的至少两个目标向量进行基于快速傅里叶变换的特征交叉处理，可以得到目标信息的输出序列；其中，目标向量也称为隐状态，也即实现了隐状态的交叉，可以确定出目标信息中某一目标向量与其他目标向量之间的关系；相关技术中实现隐状态的交叉需要执行平方级的全连接处理，其计算复杂度非常高；而本申请采用快速傅里叶变换的隐状态交叉方法可以高效实现隐状态交叉，有利于降低计算的复杂度，提高处理的效率；在该基础上，针对目标信息的输出序列进行特征感知处理，得到目标信息的目标序列，可以有效提高目标序列所表示的目标信息中各个目标对象在目标信息中与其他目标对象相关的语义信息的准确度。
附图说明
[0021]为了更清楚地说明本申请实施例中的技术方案，下面将对本申请实施例描述中所需要使用的附图作简单地介绍。
[0022]图1为本申请实施例提供的一种信息处理方法的流程示意图；
[0023]图2为本申请实施例中提供的一种信息处理流程的示意图；
[0024]图3为本申请实施例中提供的一种隐状态交叉的示意图；
[0025]图4为本申请实施例中提供的一种池化的隐状态交叉的处理流程示意图；
[0026]图5为本申请实施例中提供的一种可预测的稀疏注意力机制的计算过程示意图；
[0027]图6a为本申请实施例中提供的一种生成预测的稀疏注意力矩阵的流程示意图；
[0028]图6b为本申请实施例中提供的一种预测的稀疏注意力矩阵的结构示意图；
[0029]图7为本申请实施例中提供的一种确定上下文感知的向量的流程示意图；
[0030]图8为本申请实施例中提供的一种注意力机制的处理过程示意图；
[0031]图9为本申请实施例提供的一种信息处理装置的结构示意图；
[0032]图10为本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
[0033]下面结合本申请中的附图描述本申请的实施例。应理解，下面结合附图所阐述的实施方式，是用于解释本申请实施例的技术方案的示例性描述，对本申请实施例的技术方案不构成限制。
[0034]本
技术人员可以理解，除非特意声明，这里使用的单数形式“一”、“一个”、“所述”和“该”也可包括复数形式。应该进一步理解的是，本申请实施例所使用的术语“包括”以及“包含”是指相应特征可以实现为所呈现的特征、信息、数据、步骤、操作、元件和/或组件，但不排除实现为本
所支持其他特征、信息、数据、步骤、操作、元件、组
件和/或它们的组合等。应该理解，当我们称一个元件被“连接”或“耦接”到另一元件时，该一个元件可以直接连接或耦接到另一元件，也可以指该一个元件和另一元件通过中间元件建立连接关系。此外，这里使用的“连接”或“耦接”可以包括无线连接或无线耦接。这里使用的术语“和/或”指示该术语所限定的项目中的至少一个，例如“A和/或B”指示实现为“A”，或者实现为“A”，或者实现为“A和B”。
[0035]为使本申请的目的、技术方案和优点更加清楚，下面将结合附图对本申请实施方式作进一步地详细描述。
[0036]下面对本申请涉及的相关技术进行说明：
[0037]人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说，人工智能是计算机科学的一个综合技术，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。
[0038]人工智能技术是一门综合学科，涉及领域广泛，既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种信息处理方法，其特征在于，包括：针对目标信息的输入序列中的至少两个目标向量进行基于快速傅里叶变换的特征交叉处理，得到所述目标信息的输出序列；针对所述目标信息的输出序列进行特征感知处理，得到所述目标信息的目标序列；其中，所述目标序列表示所述目标信息中的各个目标对象在所述目标信息中与其他目标对象相关的语义信息。2.根据权利要求1所述的方法，其特征在于，所述针对目标信息的输入序列中的至少两个目标向量进行基于快速傅里叶变换的特征交叉处理，得到目标信息的输出序列，包括：针对目标信息的输入序列中的至少两个目标向量，基于特征函数确定相应的交叉隐状态；基于快速傅里叶变换对所述交叉隐状态进行求解，得到目标信息的输出序列；其中，所述特征函数包括参数化的非线性特征映射函数。3.根据权利要求2所述的方法，其特征在于，所述针对目标信息的输入序列中的至少两个目标向量，基于特征函数确定相应的交叉隐状态，包括：基于目标信息的输入序列确定第一序列与第二序列；针对所述第一序列中的第一目标向量与第二序列中的第二目标向量基于特征函数确定相应的交叉隐状态；其中，所述第一目标向量与第二目标向量不同；在所述特征函数中，所述第一目标向量对应于第一可学习参数矩阵，第二目标向量对应于第二可学习参数矩阵。4.根据权利要求3所述的方法，其特征在于，所述基于快速傅里叶变换对所述交叉隐状态进行求解，得到目标信息的输出序列，包括：基于实部快速傅里叶变换求解与第一目标向量和第一可学习参数矩阵对应的第一特征函数，得到第一特征信息；基于实部快速傅里叶变换求解与第二目标向量和第二可学习参数矩阵对应的第二特征函数，得到第二特征信息；基于逆实部快速傅里叶变换求解所述第一特征信息与第二特征信息的卷积变换，得到目标信息的输出序列。5.根据权利要求1所述的方法，其特征在于，所述针对所述目标信息的输出序列进行特征感知处理，包括：删除所述目标信息的输出序列所对应交叉矩阵中相同的元素值；该元素值为至少两个目标向量交叉后的隐状态；针对删除相同元素值后的交叉矩阵进行特征感知处理。6.根据权利要求1所述的方法，其特征在于，所述针对所述目标信息的输出序列进行特征感知处理，包括：针对所述目标信息的输出序列中具备相关性的目标向量对的隐状态进行特征感知处理；所述目标向量对为进行特征交叉的目标向量。7.根据权利要求1所述的方法，其特征在...

【专利技术属性】
技术研发人员：庄毅萌，张静，涂眉，
申请(专利权)人：三星电子株式会社，
类型：发明
国别省市：