System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 视频处理方法、装置、电子设备以及存储介质制造方法及图纸_技高网

视频处理方法、装置、电子设备以及存储介质制造方法及图纸

技术编号:40931959 阅读:9 留言:0更新日期:2024-04-18 14:52
本公开提供了视频处理方法、装置、电子设备以及存储介质,涉及人工智能技术领域,尤其涉及大模型、视频技术、自然语言处理、深度学习、智能搜索技术领域。具体实现方案为:从视频中抽取得到多个视频帧;利用大语言模型处理多个视频帧各自包含的文本信息,得到多个视频段落数据;将每一个视频段落数据与多个视频帧进行图文匹配,得到与每一个视频段落数据对应的段落配图;以及基于多个视频段落数据和与多个视频段落数据各自对应的段落配图,得到视频的图文化处理结果。

【技术实现步骤摘要】

本公开涉及人工智能,尤其涉及大模型、视频技术、自然语言处理、深度学习、智能搜索。


技术介绍

1、随着互联网技术的发展,视频已成为了用户获取信息的主要渠道之一。互联网平台可以汇集互联网上的开源视频资源而建立视频库,并开放视频搜索接口,以便用户通过互联网平台进行视频的搜索。


技术实现思路

1、本公开提供了一种视频处理方法、装置、电子设备以及存储介质

2、根据本公开的一方面,提供了一种视频处理方法,包括:从视频中抽取得到多个视频帧;利用大语言模型处理上述多个视频帧各自包含的文本信息,得到多个视频段落数据;将每一个视频段落数据与上述多个视频帧进行图文匹配,得到与每一个视频段落数据对应的段落配图;以及基于上述多个视频段落数据和与上述多个视频段落数据各自对应的段落配图,得到上述视频的图文化处理结果。

3、根据本公开的另一方面,提供了一种视频处理装置,包括:抽取模块,用于从视频中抽取得到多个视频帧;第一处理模块,用于利用大语言模型处理上述多个视频帧各自包含的文本信息,得到多个视频段落数据;匹配模块,用于将每一个视频段落数据与上述多个视频帧进行图文匹配,得到与每一个视频段落数据对应的段落配图;以及第二处理模块,用于基于上述多个视频段落数据和与上述多个视频段落数据各自对应的段落配图,得到上述视频的图文化处理结果。

4、根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上所述的方法。

5、根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行如上所述的方法。

6、根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现如上所述的方法。

7、应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

本文档来自技高网...

【技术保护点】

1.一种视频处理方法,包括:

2.根据权利要求1所述的方法,其中,所述将每一个视频段落数据与所述多个视频帧进行图文匹配,得到与每一个视频段落数据对应的段落配图,包括:

3.根据权利要求2所述的方法,其中,所述视频段落数据包括段落时间戳;

4.根据权利要求3所述的方法,其中,所述基于所述至少一个第三目标视频帧,得到所述至少一个第一目标视频帧,包括:

5.根据权利要求4所述的方法,其中,所述图像特征因素至少包括以下任意一项:

6.根据权利要求1所述的方法,还包括:

7.根据权利要求6所述的方法,其中,所述配图处理策略包括以下任意一项:

8.根据权利要求7所述的方法,其中,所述基于所述配图处理策略,对与所述多个视频段落数据各自对应的段落配图进行处理,得到所述视频的目标段落配图,包括:

9.根据权利要求1所述的方法,其中,所述利用大语言模型处理所述多个视频帧各自包含的文本信息,得到多个视频段落数据,包括:

10.根据权利要求9所述的方法,其中,所述对所述多个视频帧进行文本信息提取,得到所述多个视频帧各自的字幕文本,包括:

11.根据权利要求9所述的方法,其中,所述将所述多个视频帧各自的字幕文本输入大语言模型,得到所述多个视频段落数据,包括:

12.根据权利要求9所述的方法,还包括:

13.根据权利要求1所述的方法,其中,所述从视频中抽取得到多个视频帧,包括:

14.一种视频处理装置,包括:

15.根据权利要求14所述的装置,其中,所述匹配模块包括:

16.根据权利要求15所述的装置,其中,所述视频段落数据包括段落时间戳;

17.根据权利要求16所述的装置,其中,所述第二匹配单元包括:

18.根据权利要求17所述的装置,其中,所述图像特征因素至少包括以下任意一项:

19.根据权利要求14所述的装置,还包括:

20.根据权利要求19所述的装置,其中,所述配图处理策略包括以下任意一项:

21.根据权利要求20所述的装置,其中,所述第三处理模块包括:

22.根据权利要求14所述的装置,其中,所述第一处理模块包括:

23.根据权利要求22所述的装置,其中,所述第三处理子模块包括:

24.根据权利要求22所述的装置,其中,所述第四处理子模块包括:

25.根据权利要求22所述的装置,还包括:

26.根据权利要求14所述的装置,其中,所述抽取模块包括:

27.一种电子设备,包括:

28.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-13中任一项所述的方法。

29.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-13中任一项所述的方法。

...

【技术特征摘要】

1.一种视频处理方法,包括:

2.根据权利要求1所述的方法,其中,所述将每一个视频段落数据与所述多个视频帧进行图文匹配,得到与每一个视频段落数据对应的段落配图,包括:

3.根据权利要求2所述的方法,其中,所述视频段落数据包括段落时间戳;

4.根据权利要求3所述的方法,其中,所述基于所述至少一个第三目标视频帧,得到所述至少一个第一目标视频帧,包括:

5.根据权利要求4所述的方法,其中,所述图像特征因素至少包括以下任意一项:

6.根据权利要求1所述的方法,还包括:

7.根据权利要求6所述的方法,其中,所述配图处理策略包括以下任意一项:

8.根据权利要求7所述的方法,其中,所述基于所述配图处理策略,对与所述多个视频段落数据各自对应的段落配图进行处理,得到所述视频的目标段落配图,包括:

9.根据权利要求1所述的方法,其中,所述利用大语言模型处理所述多个视频帧各自包含的文本信息,得到多个视频段落数据,包括:

10.根据权利要求9所述的方法,其中,所述对所述多个视频帧进行文本信息提取,得到所述多个视频帧各自的字幕文本,包括:

11.根据权利要求9所述的方法,其中,所述将所述多个视频帧各自的字幕文本输入大语言模型,得到所述多个视频段落数据,包括:

12.根据权利要求9所述的方法,还包括:

13.根据权利要求1所述的方法,其中,所述从视频中抽取...

【专利技术属性】
技术研发人员:沈铮阳苏立新程苏琦聂颖王俊峰殷大伟
申请(专利权)人:百度在线网络技术北京有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1