存储推理程序的计算机可读记录介质以及推理方法技术

公开了存储推理程序的计算机可读记录介质以及推理方法。非暂态计算机可读记录介质存储用于使计算机执行以下处理的推理程序，所述处理包括：通过将数据片输入至神经网络来提取该数据片的特征；基于所提取的特征生成超维向量；以及将所生成的超维向量存储在存储单元中，其中超维向量与数据片的标签相关联。其中超维向量与数据片的标签相关联。其中超维向量与数据片的标签相关联。

【技术实现步骤摘要】
存储推理程序的计算机可读记录介质以及推理方法


[0001]本文讨论的实施方式涉及存储推理程序的计算机可读记录介质以及推理方法。

技术介绍

[0002]如今，神经网络(NN)被积极地用于图像识别和其他领域。例如，通过使用深度学习(DL)来显著提高图像识别的准确性。
[0003]作为相关技术，例如，存在一种用于面部识别的技术，在该技术中使用神经网络将面部的图像变换成高维向量，并且将该高维向量距新的面部的距离与经训练面部的参考向量集合进行比较。
[0004]另外，作为相关技术，存在作为专注于大脑中的信息表达的非冯诺依曼计算技术之一的超维计算(hyperdimensional computing，HDC)。
[0005]相关技术的示例包括如下：日本公开特许公报第2019
‑
165431号。
[0006]相关技术的示例还包括如下：Kanerva,P，“Hyperdimensional Computing:An Introduction to Computing in Distributed Representation with High
‑
Dimensional Random Vectors”，Cognitive Computation，卷1，第2期，第139至159页，2009。

技术实现思路

[0007][技术问题][0008]由于通过学习获得的知识被包括在NN中，所以NN存在所获得的知识不清楚的问题。在当今的计算中，可以使用DL进行分析和推理。然而，为了实现更接近人类智能的智能计算，重要的是利用知识，并且阐明并存储通过NN获得的知识是对知识进行利用的前提。
[0009]在一方面，本实施方式的目的是阐明并存储通过NN获得的知识。
[0010][问题的解决方案][0011]根据实施方式的一方面，提供了一种非暂态计算机可读记录介质，其存储用于使计算机执行以下处理的推理程序。在示例中，所述处理包括：通过将数据片(a piece of data)输入至神经网络来提取该数据片的一个或更多个特征；基于所提取的一个或更多个特征生成超维向量；以及将所生成的超维向量存储在存储单元中，其中超维向量与数据片的标签相关联。
[0012][专利技术的有益效果][0013]在该方面，本公开内容可以阐明并存储通过NN获得的知识。
附图说明
[0014]图1是用于说明由根据实施方式的推理设备执行的推理的图；
[0015]图2A和图2B示出了用于说明HV的图；
[0016]图3示出了通过相加获得的集合的表示示例；
[0017]图4是用于说明HDC中的学习和推理的图；
[0018]图5是用于说明根据实施方式的推理设备的多模态能力的图；
[0019]图6是用于说明根据使用属性HV的实施方式的推理设备的多模态能力的图；
[0020]图7示出了根据实施方式的推理设备的多模态能力的示例；
[0021]图8示出了根据实施方式的推理设备的功能配置；
[0022]图9A示出了短期学习；
[0023]图9B示出了中期学习；
[0024]图9C示出了长期学习；
[0025]图10是示出由推理设备执行的学习阶段中的处理的流程的流程图；
[0026]图11是示出由推理设备执行的推理阶段中的处理的流程的流程图；
[0027]图12示出了用于实现智能计算的观察
‑
判断
‑
决策
‑
执行(observe
‑
orient
‑
decide
‑
act，OODA)循环；以及
[0028]图13示出了根据实施方式的执行推理程序的计算机的硬件配置。
具体实施方式
[0029]在下文中，参照附图详细描述本申请中公开的推理程序和推理方法的实施方式。该实施方式不限制所公开的技术。
[0030][实施方式][0031]首先，将描述由根据实施方式的推理设备执行的推理。图1是用于说明由根据实施方式的推理设备执行的推理的图。如图1所示，根据实施方式的推理设备通过在学习阶段将训练数据输入至神经网络(NN 11)来提取训练数据的特征。然后，根据实施方式的推理设备基于所提取的特征生成超维向量(hyperdimensional vector，HV)，并且将所生成的HV作为知识存储在HV存储器15中，其中，所生成的HV与训练数据的标签相关。HV存储器15是内容可寻址存储器(CAM)并且从HV引出(evoke)标签。注意，训练数据的特征可以被称为特征量(feature quantity)、特征量(feature amount)等。
[0032]在推理阶段，根据实施方式的推理设备通过将查询输入至NN 11来提取查询的特征。根据实施方式的推理设备基于所提取的特征生成HV、通过使用HV存储器15来识别从所生成的HV引出的标签并且输出所识别的标签作为推理结果。
[0033]图2(即，图2A和图2B)是用于说明HV的图。HV是超维计算(HDC)中使用的数据表示。在HV中，通过10000维度或更大维度的超维向量以分布式方式表示数据。在HV中，各种类型的数据由具有相同位长的向量表示。
[0034]如图2A所示，在正常数据表示中，逐片地(piece
‑
by
‑
piece basis)统一表示诸如a、b、c的多个数据片。相比之下，如图2B所示，在超维向量中，以分布式方式表示诸如a、b、c的多个数据片。在HDC中，能够通过简单的运算例如相加和相乘来操纵数据。同样在HDC中，能够以相加或相乘的方式来表示多个数据片之间的关系。
[0035]图3示出了通过相加获得的集合的表示示例。在图3中，HV编码器2分别根据猫#1的图像、猫#2的图像和猫#3的图像生成猫#1的HV、猫#2的HV和猫#3的HV。HV的各个元素为“+1”或
“‑
1”。猫#1至猫#3每个均由10000个维度的HV表示。
[0036]如图3所示，通过将猫#1的HV、猫#2的HV和猫#3的HV相加而获得的HV表示包括猫#1、猫#2和猫#3的集合，例如“猫群(cats)”。HV的相加是逐个元素地执行的相加。当相加结果
为正时，用“+1”代替相加结果。当相加结果为负时，用
“‑
1”代替相加结果。当相加结果为“0”时，根据预定规则用“+1”或
“‑
1”代替相加结果。在HDC中，能够保持“猫”和“猫”彼此远离的状态以及每只“猫”和“猫群”彼此靠近的状态。在HDC，“猫群”能够被作为猫#1至猫#3的整合概念来处理。
[0037]图4是用于说明HDC中的学习和推理的图。如图4所示，在学习阶段，HV编码器2分别根据猫#1的图像、猫#2的图像和猫#3的图像生成猫#1的HV、猫#2的HV和猫#3的HV。将猫#1的HV、猫#2的HV和猫#3本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种非暂态计算机可读记录介质，存储用于使计算机执行以下处理的推理程序，所述处理包括：通过将数据片输入至神经网络来提取所述数据片的特征；基于所提取的特征生成超维向量；以及将所生成的超维向量存储在存储单元中，其中所述超维向量与所述数据片的标签相关联。2.根据权利要求1所述的非暂态计算机可读记录介质，其中：对于多个数据片，存储单元以超维向量与标签彼此相关联地进行存储，并且其中，所述处理还包括：通过将未知数据片输入至所述神经网络来提取所述未知数据片的特征；基于从所述未知数据片提取的特征来生成所述未知数据片的超维向量，以及通过使用根据所述未知数据片生成的超维向量来查阅所述存储单元并识别所述未知数据片的标签。3.根据权利要求1所述的非暂态计算机可读记录介质，其中，所述数据片包括图像数据片、声音数据片以及文本数据片，其中，所述提取通过将所述图像数据片输入至图像神经网络来提取图像特征、通过将所述声音数据片输入至声音神经网络来提取声音特征并且通过将所述文本数据片输入至文本神经网络来提取文本特征，其中，所述生成基于所述图像特征生...

【专利技术属性】
技术研发人员：广本正之，
申请(专利权)人：富士通株式会社，
类型：发明
国别省市：