System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于图神经架构搜索的谣言检测方法、装置及介质制造方法及图纸_技高网

一种基于图神经架构搜索的谣言检测方法、装置及介质制造方法及图纸

技术编号:42640284 阅读:42 留言:0更新日期:2024-09-06 01:37
本发明专利技术公开了一种基于图神经架构搜索的谣言检测方法、装置及介质,属于互联网技术领域。方法包括:构造搜索空间;对搜索空间进行连续松弛以构造超网络,在超网络上为每条边创建由架构参数进行参数化的混合候选操作;初始化超网络的参数;通过梯度下降交替降低验证损失和训练损失,以优化超网络的模型参数和架构参数;当优化到剪枝轮次时,依据选边准则在超网络中选择一条边进行剪枝,并固定该边的架构参数,不再进行优化;在确定超网络上所有的边完成优化后,获得网络架构;对获得的网络架构进行训练,并在训练后获得用于谣言检测的预训练模型。本发明专利技术通过自动化设计最优神经架构学习信息传播的特征,提高检测的效率和模型在不同场景下的适用性。

【技术实现步骤摘要】

本专利技术涉及互联网,尤其涉及一种基于图神经架构搜索的谣言检测方法、装置及介质


技术介绍

1、着互联网的日益发展,人们越来越多的通过社交网络来获取信息资讯。社交平台大大提高了信息的传播速度和数量,已成为人们生活中不可分割的部分。然而,在社交网络带来诸多便利的同时,也为谣言的传播创造了条件。谣言往往会对被造谣者造成巨大伤害,甚至误导公众加剧社会恐慌,引发社会信任危机。由此可见,在社交网络上及时识别谣言并辟谣是一个重要的课题。然而,仅依靠人工在海量信息中检测谣言会耗费大量的人力物力,效率较低且容易产生滞后。因此,研究谣言自动检测方法对遏制谣言的传播具有重要的意义。

2、许多工作集中于根据内容特征识别谣言,如语言特征、情感特征等。然而,谣言通常是被刻意伪造而成,有非常接近真实信息的内容特征,仅通过内容来进行鉴别仍存在不足。在社交网络中,信息的传播会引起用户的反馈与交互,从而形成传播网络。传播网络作为源信息的社会效应特征,有助于识别源信息的真实性。近年来也出现了许多利用信息传播网络进行谣言检测的工作,通过各类神经网络模型提取特征,证明了借助信息传播网络的有效性。随着图神经网络的发展,其在图数据处理上显示出了巨大的优势,也更适合学习传播网络中的结构特征,因此越来越多的工作将图神经网络应用于谣言检测中。

3、然而,在不同的数据集上所适用的图神经网络结构往往有较大差异。当前的研究各自设计了多种网络架构来学习传播特征,但现实中的数据场景是复杂多样的,在某一数据集上人工设计出的网络架构未必能有效地适用于新的场景。为每个数据集单独设计神经网络需要消耗许多的人力成本,效率低下且缺乏灵活性。随着神经架构搜索的发展,其在许多领域的有效性已被证实。因此,针对性地为谣言检测任务设计图神经架构搜索方法,以自动化设计最优神经网络架构,能够更灵活高效地学习传播网络的特征,从而提高检测的效率和模型在不同场景下的适用性。


技术实现思路

1、为至少一定程度上解决现有技术中存在的技术问题之一,本专利技术的目的在于提供一种基于图神经架构搜索的谣言检测方法、装置及介质。

2、本专利技术所采用的第一技术方案是:

3、一种基于图神经架构搜索的谣言检测方法,包括以下步骤:

4、构造搜索空间;其中搜索空间中的候选操作包括经典图神经网络中的节点聚合、源信息导向的节点特征增强,以及跳过连接操作;

5、对搜索空间进行连续松弛以构造超网络,在超网络上为每条边创建由架构参数进行参数化的混合候选操作;

6、随机初始化超网络的参数;

7、通过梯度下降交替降低验证损失和训练损失,以优化超网络的模型参数和架构参数;

8、当优化到剪枝轮次时,依据选边准则在超网络中选择一条边进行剪枝,即以该边上概率最大的候选操作代替混合操作,并固定该边的架构参数,不再进行优化;

9、在确定超网络上所有的边完成优化后,获得网络架构;

10、对获得的网络架构进行训练,并在训练后获得用于谣言检测的预训练模型。

11、进一步地,所述经典图神经网络包括:图卷积神经网络(graph convolutionnetwork,gcn)、图注意力网络(graph attention network,gat)、图采样与聚合网络(graphsample and aggregate,graphsage)或者图同构网络(graph isomorphism network,gin)。

12、进一步地,所述源信息导向的节点特征增强的方法包括:门控机制、源信息增强机制、线性变换,各机制包括拼接和求和两种节点融合方法。

13、进一步地,对信息传播图上的节点vi进行特征增强的表达式分别为:

14、1)门控机制:

15、

16、

17、1.1)拼接融合:

18、

19、1.2)求和融合:

20、

21、式中,表示第l层的门控向量,和表示可训练的权重参数,表示节点vi在第l层的原特征向量,c表示根节点,表示根节点在第l层的特征向量,表示节点vi在第l层通过门控机制后的特征向量,表示节点vi在第l层的最终表示向量,⊙表示哈达玛积,||表示拼接操作;

22、2)源信息增强机制:

23、2.1)拼接融合:

24、

25、2.2)求和融合:

26、

27、3)线性变换:

28、

29、式中,表示可训练的权重参数。

30、进一步地,所述对搜索空间进行连续松弛以构造超网络,包括:

31、构造一个有向无环图作为超网络,其中每个节点表示超网络中的隐藏层,每个隐藏层均能够接受其前面所有层的输出作为输入;每条边ei,j表示从第i层到第j层所执行的混合操作,混合操作的计算方式为:

32、

33、式中,o代表所有候选操作的集合,表示操作o的权重参数,σ表示sigmoid函数。

34、进一步地,所述超网络的架构参数优化表示为一个双层优化问题:

35、

36、

37、式中,和分别表示训练损失和验证损失,损失函数为交叉熵函数,采用darts提出的近似梯度算法进行梯度下降的交替优化,w为神经网络内部的网络参数,α为网络架构的架构参数,minα表示在α下的最小值,argminw表示使达到最小值时的w取值。

38、进一步地,所述选边准则,包括:

39、1)边确定性:

40、对超网络上的边ei,j,其包含的候选操作的权重参数视为一个分布,即:

41、

42、式中,p(i,j)为边ei,j上的候选操作权重分布,o为候选操作集合,为边ei,j上的某一候选操作的权重,为候选操作集合中的其他候选操作的权重;

43、分布的不确定程度采用熵来衡量,计算权重分布p(i,j)的熵为:

44、

45、基于计算出的熵,进一步定义边ei,j的确定性为:

46、ec(i,j)=exp(-h(p(i,j)))

47、2)趋势稳定性:

48、对超网络上的边ei,j,在当前的优化轮次t,对每个候选操作o的权重参数在窗口大小为k范围内的历史值采用多项式拟合,得到关于轮次t的函数

49、

50、式中,~表示函数拟合关系;

51、函数变化趋势的稳定性采用二阶导数的绝对值来表示,对边ei,j中所有候选操作计算其权重参数在轮次t处的二阶导数的绝对值并求和,以表征边ei,j的趋势稳定性,计算式如下:

52、

53、3)选边准则:

54、对超网络上的边ei,j,其得分为:

55、scorei,j=ec(i,j)×ts(i,j)

56、对scorei,j值最大的边本文档来自技高网...

【技术保护点】

1.一种基于图神经架构搜索的谣言检测方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种基于图神经架构搜索的谣言检测方法,其特征在于,所述经典图神经网络包括:图卷积神经网络、图注意力网络、图采样与聚合网络或者图同构网络。

3.根据权利要求1所述的一种基于图神经架构搜索的谣言检测方法,其特征在于,所述源信息导向的节点特征增强的方法包括:门控机制、源信息增强机制、线性变换,各机制包括拼接和求和两种节点融合方法。

4.根据权利要求3所述的一种基于图神经架构搜索的谣言检测方法,其特征在于,对信息传播图上的节点vi进行特征增强的表达式分别为:

5.根据权利要求1所述的一种基于图神经架构搜索的谣言检测方法,其特征在于,所述对搜索空间进行连续松弛以构造超网络,包括:

6.根据权利要求1所述的一种基于图神经架构搜索的谣言检测方法,其特征在于,所述超网络的架构参数优化表示为一个双层优化问题:

7.根据权利要求1所述的一种基于图神经架构搜索的谣言检测方法,其特征在于,所述选边准则,包括:

8.根据权利要求1所述的一种基于图神经架构搜索的谣言检测方法,其特征在于,所述对获得的网络架构进行训练,包括:

9.一种基于图神经架构搜索的谣言检测装置,其特征在于,包括:

10.一种计算机可读存储介质,其中存储有处理器可执行的程序,其特征在于,所述处理器可执行的程序在由处理器执行时用于执行如权利要求1-8任一项所述方法。

...

【技术特征摘要】

1.一种基于图神经架构搜索的谣言检测方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种基于图神经架构搜索的谣言检测方法,其特征在于,所述经典图神经网络包括:图卷积神经网络、图注意力网络、图采样与聚合网络或者图同构网络。

3.根据权利要求1所述的一种基于图神经架构搜索的谣言检测方法,其特征在于,所述源信息导向的节点特征增强的方法包括:门控机制、源信息增强机制、线性变换,各机制包括拼接和求和两种节点融合方法。

4.根据权利要求3所述的一种基于图神经架构搜索的谣言检测方法,其特征在于,对信息传播图上的节点vi进行特征增强的表达式分别为:

5.根据权利要求1所述的一种基于图神经架构搜索的谣言检测方法,其...

【专利技术属性】
技术研发人员:龚月姣林诗琪吴小坤张幸林
申请(专利权)人:华南理工大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1