基于图文信息交互的事件检测方法和装置制造方法及图纸

技术编号:42245715 阅读:26 留言:0更新日期:2024-08-02 13:56
本发明专利技术提供了一种基于图文信息交互的事件检测方法和装置,涉及人工智能技术领域,方法包括:分别提取多模态社交数据中的图像数据和文本数据;将图像数据导入宽残差网络模型中以获取图像各个区域的图像特征;将文本数据导入长短期记忆网络模型中以获取文本中各个单词的文本特征;将图像特征和文本特征输入至跨模态注意力模块进行特征融合;将融合后的图文特征嵌入到基于生成对抗网络的端到端框架EDGAN中,得到预测的事件类型结果。本发明专利技术对图文信息进行融合,加强了图文关联,另外本发明专利技术使用了生成对抗网络的框架,即使在训练过程中缺乏完整的标签数据,也能够通过事件鉴别器的指导来学习和识别新出现的事件,从而提高了对新事件的检测水平。

【技术实现步骤摘要】

本专利技术涉及人工智能,尤其涉及一种基于图文信息交互的事件检测方法和装置


技术介绍

1、手机、平板等移动智能终端普及,微博、抖音、公众号等社交平台飞速发展,越来越多的网民在平台上获取信息,发布、转发所见所闻,发表自己的看法,网络成为越来越重要的信息渠道。如何快速精确地收集分析特定事件的相关内容,对事件进行正确分类,是网络内容分析与安全的重要研究方向。

2、传统的事件检测通常为单模态事件检测,即特征学习单独以文本、图像为输入,利用深度模型分别学习各自的语义特征。通过这种方法训练出来的模型基础知识并不可靠,如果数据量不足或有偏差,模型的泛化能力会很差。此外,由于只有少数用户会自带“话题”标签,过度依赖标签的训练会消耗大量的人力物力,产生昂贵的费用,且现有方法容易学习到针对特定事件的特征,然而这些特征不一定会出现在新出现的事件中。

3、综上所述,如何设计一个兼顾图文特征、知识可迁移的事件检测模型是本领域函需解决的问题。


技术实现思路

1、有鉴于此,本专利技术提供一种基于图文信息交互的事件检本文档来自技高网...

【技术保护点】

1.一种基于图文信息交互的事件检测方法,其特征在于,所述方法包括:

2.如权利要求1所述的基于图文信息交互的事件检测方法,其特征在于,所述的将所述图像数据导入宽残差网络模型中以获取图像各个区域的图像特征包括:

3.如权利要求1所述的基于图文信息交互的事件检测方法,其特征在于,所述将所述文本数据导入长短期记忆网络模型中以获取文本中各个单词的文本特征包括:

4.如权利要求1所述的基于图文信息交互的事件检测方法,其特征在于,所述将所述图像特征和所述文本特征输入至跨模态注意力模块进行特征融合包括:

5.如权利要求1所述的基于图文信息交互的事件检测方...

【技术特征摘要】

1.一种基于图文信息交互的事件检测方法,其特征在于,所述方法包括:

2.如权利要求1所述的基于图文信息交互的事件检测方法,其特征在于,所述的将所述图像数据导入宽残差网络模型中以获取图像各个区域的图像特征包括:

3.如权利要求1所述的基于图文信息交互的事件检测方法,其特征在于,所述将所述文本数据导入长短期记忆网络模型中以获取文本中各个单词的文本特征包括:

4.如权利要求1所述的基于图文信息交互的事件检测方法,其特征在于,所述将所述图像特征和所述文本特征输入至跨模态注意力模块进行特征融合包括:

5.如权利要求1所述的基于图文信息交互的事件检测方法,其特征在于,所述将所述图像特征和所述文本特征输入至跨模态注意力模块进行特征融合包括:

6.如权利要求1所述的基于图文信息交互的事件检测方法...

【专利技术属性】
技术研发人员:乔丹诺
申请(专利权)人:中国工商银行股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1