System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及知识表示、医疗以及交通物流等,具体涉及一种基于神经网络的图结构数据的知识表示方法。
技术介绍
1、知识表示方法在人工智能领域中具有重要的作用和意义,它们帮助计算机系统理解、存储和处理人类知识,并使得计算机能够从数据中推断、推理和解决问题。此外,图结构数据的语义信息丰富且上下文信息重要,而知识表示方法能够帮助计算机从复杂的关系和网络数据中提取有意义的信息,实现智能化的数据分析、决策支持和信息检索等任务。
2、然而,基于图结构数据的特点,现存在一系列挑战性问题。图结构数据可能非常复杂,涉及多种类型的实体和关系,如何将这种复杂结构转化为计算机可以理解、处理的形式是一个挑战。对于大规模的图结构数据,其可能需要大量的计算和存储资源。同时,随着数据规模的扩大,实体的信息过于局部而无法提供整体特征。当在学习高质量的知识表示时,如何高效地处理这些数据也十分重要。
3、针对图结构数据的知识表示,有很多学术研究,如通过图论、知识图谱和语义网络等方式来对知识进行表示,因此这一技术涵盖了多个领域的发展,并为处理和分析复杂的图结构数据提供了理论和方法支持。
4、然而,上述方法对知识的表示较为局限,常以一种新的结构形式来对实体间的关系进行表示,而忽略了实体之间的内在联系和上下文信息。且对于大规模图结构数据,往往无法对整体的联系与特征进行表示,从而约束了后续推理、推断的效果。
技术实现思路
1、有鉴于此,本专利技术提供了一种基于神经网络的图结构数据的知识表示方法
2、为了达到上述目的,本专利技术的技术方案为:
3、一种基于神经网络的图结构数据的知识表示方法,以所述图结构数据准备数据集,初始化网络参数;将图结构数据表示为点信息与边信息的形式,对其进行预处理;利用图卷积层对特征进行聚合,实现特征的全局化;利用多层感知器对聚合后的特征进行预测并计算损失函数;迭代训练进行至满足终止条件后,获得最终的网络模型;
4、所述预处理为对信息进行线性映射或特征编码;
5、所述损失函数为带权重的二分类交叉熵;
6、该方法所针对的图结构数据被表示为无向图g=(v,e)的形式,其中v表示n个节点所构成的节点集合,e表示n2条边所构成的边集合;
7、该方法通过如下步骤实现:
8、步骤一、数据集生成及参数初始化。根据给定分布在指定区域内生成n个节点,并利用精确求解器对生成的算例根据问题形式求解,重复上述步骤构成数据集,求解得到的最优解作为标签,并对网络的所有参数进行随机初始化;
9、以下面的步骤二~步骤五为一次迭代过程:
10、步骤二、点信息与边信息的预处理。拿到一个批次的算例后,节点i的点信息表示为g维度的特征向量vi,i=1,2,...,n,利用线性映射将其映射为h维度的特征向量,得到边特征αi。线性映射的数学形式为
11、αi=a1vi+b1
12、其中,a1为映射向量且满足b1为偏置向量且满足边(i,j)的边信息由边的欧氏距离dij和额外标注δij共同构成,i,j=1,2,...,n,分别通过线性映射和特征编码的方式表示为维度的特征向量后进行拼接,得到边特征βij。上述过程的数学形式为
13、βij=(a2dij+b2)||(a3δij)
14、其中a2为映射向量且满足b2为偏置向量且满足a3为映射向量且满足而·||·表示向量间的拼接;
15、步骤三、特征的聚合与全局化。利用l层图卷积层对点特征和边特征进行聚合,令和分别代表第l层的点特征与边特征,则通过图卷积层后l+1层的特征可表示为和l=0,1,...,l-1。图卷积层的数学形式为
16、
17、其中权重relu为线性整流函数,bn代表归一化操作,为第l层的密集注意力图,同时在输入层,令以及
18、步骤四、对特征进行预测。最后一层图卷积层的输出为以及利用多层感知器对边进行预测,则预测概率的数学形式为
19、
20、其中mlp表示多层感知器,由多组线性层与激活函数联合组成;
21、步骤五、计算损失函数并更新参数。利用带权重的二分类交叉熵作为损失函数,对于边(i,j),i,j=1,2,...,n,其对应损失函数的数学形式为
22、
23、其中ωk代表第k类的权重,k=0,1,代表第k类的标签值且满足zk代表第k类的预测值且满足zk∈[0,1];
24、步骤六、判断是否满足终止条件,若满足终止条件则保存当前网络的所有参数作为最终的模型参数,否则获取新一批次算例后返回步骤二,进行下一次迭代。
25、步骤七、对新算例进行知识表示。对于一个新的算例,加载已保存的模型参数,将新算例输入加载后的神经网络模型中,神经网络模型即可对其进行知识表示,最终知识的表示结果以热力图的形式展示,即一张大小为n×n的矩阵,其对应元素为式(3)中的pij。
26、其中,步骤二中的额外标注δi的具体实现为:若节点i与节点j为k-近邻则值为1,若两点为自连接则值为2,否则值为0。
27、进一步的,步骤三中第l层的密集注意力图的具体实现为:
28、
29、其中σ为激活函数,∈为小量。
30、同时,步骤五中二分类交叉熵第k类权重ωk的具体实现为:
31、
32、其中n表示节点的数量。
33、有益效果
34、本专利技术提出了一种新型知识表示方法,关注面向图结构数据的知识表示,创新性地提出了一种神经网络模型结构进行求解。本专利技术提供的方法有效地对图结构数据进行了知识表示,不仅将数据信息表示至高维空间,也预测输出了一个概率分布。本专利技术对于一系列实际应用问题有益,如旅行商问题、车辆路径规划问题等。
本文档来自技高网...【技术保护点】
1.一种基于神经网络的图结构数据的知识表示方法,其特征在于该方法的步骤包括:
2.根据权利要求1所述的一种基于神经网络的图结构数据的知识表示方法,其特征在于:
3.根据权利要求2所述的一种基于神经网络的图结构数据的知识表示方法,其特征在于:
4.根据权利要求3所述的一种基于神经网络的图结构数据的知识表示方法,其特征在于:
5.根据权利要求3或4所述的一种基于神经网络的图结构数据的知识表示方法,其特征在于:
6.根据权利要求5所述的一种基于神经网络的图结构数据的知识表示方法,其特征在于:
7.根据权利要求6所述的一种基于神经网络的图结构数据的知识表示方法,其特征在于:
8.根据权利要求7所述的一种基于神经网络的图结构数据的知识表示方法,其特征在于:
9.根据权利要求8所述的一种基于神经网络的图结构数据的知识表示方法,其特征在于:
10.根据权利要求9所述的一种基于神经网络的图结构数据的知识表示方法,其特征在于:
【技术特征摘要】
1.一种基于神经网络的图结构数据的知识表示方法,其特征在于该方法的步骤包括:
2.根据权利要求1所述的一种基于神经网络的图结构数据的知识表示方法,其特征在于:
3.根据权利要求2所述的一种基于神经网络的图结构数据的知识表示方法,其特征在于:
4.根据权利要求3所述的一种基于神经网络的图结构数据的知识表示方法,其特征在于:
5.根据权利要求3或4所述的一种基于神经网络的图结构数据的知识表示方法,其特征在于:
...【专利技术属性】
技术研发人员:陈晨,缪昌昊,张云天,杨堃,沈元初,许能伟,申奥,陈杰,
申请(专利权)人:北京理工大学,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。