数据处理方法及相关设备技术

技术编号:36897155 阅读:16 留言:0更新日期:2023-03-18 09:17
本公开实施例提供了一种数据处理方法及相关设备,属于计算机技术领域。该方法包括:获取包括n个通道的待量化特征,n为大于1的正整数;确定所述待量化特征的各个通道对应的量化精度;根据各个通道对应的量化精度分别对所述待量化特征的各个通道进行量化操作,获得所述待量化特征的第一量化特征。待量化特征的第一量化特征。待量化特征的第一量化特征。

【技术实现步骤摘要】
数据处理方法及相关设备


[0001]本公开涉及计算机
,具体而言,涉及一种数据处理方法、数据处理装置、计算机设备、计算机可读存储介质和计算机程序产品。

技术介绍

[0002]相关技术中所采用的量化方案,量化可选精度范围比较少,同时量化的压缩率没有达到所希望的压缩比。

技术实现思路

[0003]本公开实施例提供一种数据处理方法、数据处理装置、计算机设备、计算机可读存储介质和计算机程序产品,可以提高量化性能。
[0004]本公开实施例提供一种数据处理方法,所述方法包括:获取包括n个通道的待量化特征,n为大于1的正整数;确定所述待量化特征的各个通道对应的量化精度;根据各个通道对应的量化精度分别对所述待量化特征的各个通道进行量化操作,获得所述待量化特征的第一量化特征。
[0005]本公开实施例提供一种数据处理方法,所述方法包括:获得包括n个通道的第二量化特征,n为大于1的正整数;确定所述第二量化特征的各个通道对应的量化精度;根据各个通道对应的量化精度分别对所述第二量化特征的各个通道进行反量化操作,获得所述第二量化特征的非量化特征。
[0006]本公开实施例提供一种数据处理装置,该装置包括:待量化特征获取单元,用于获取包括n个通道的待量化特征,n为大于1的正整数;第一通道量化精度确定单元,用于确定所述待量化特征的各个通道对应的量化精度;第一量化特征获得单元,用于根据各个通道对应的量化精度分别对所述待量化特征的各个通道进行量化操作,获得所述待量化特征的第一量化特征。
[0007]本公开实施例提供一种数据处理装置,该装置包括:第二量化特征获得单元,用于获得包括n个通道的第二量化特征,n为大于1的正整数;第二通道量化精度确定单元,用于确定所述第二量化特征的各个通道对应的量化精度;非量化特征获得单元,用于根据各个通道对应的量化精度分别对所述第二量化特征的各个通道进行反量化操作,获得所述第二量化特征的非量化特征。
[0008]本公开实施例提供一种计算机设备,包括:至少一个处理器;存储装置,用于存储至少一个程序;当所述至少一个程序被所述至少一个处理器执行,实现上述实施例中任意一种可能的实现方式中的方法。
[0009]本公开实施例提供了一种计算机可读存储介质,其上存储有用于计算机设备执行的计算机程序,所述程序被处理器执行时实现上述实施例中任意一种可能的实现方式中的方法。
[0010]本公开实施例提供了一种包含指令的计算机程序产品。当该计算机程序产品在计
算机设备上运行时,使得计算机设备执行上述各方或上述各方中任意一种可能的实现方式中的方法的指令。
[0011]在本公开的一些实施例所提供的技术方案中,通过获取包括n个通道的待量化特征,n为大于1的正整数,并确定所述待量化特征的各个通道对应的量化精度,然后根据各个通道对应的量化精度分别对所述待量化特征的各个通道进行量化操作,获得所述待量化特征的第一量化特征,可以在相同或者更低的量化精度下,获得更好的性能。
[0012]应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
[0013]此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0014]图1示意性示出了根据本公开的一实施例的数据处理方法的应用场景示意图。
[0015]图2示意性示出了相关技术中的量化精度对性能的影响示意图。
[0016]图3示意性示出了相关技术中的量化方案的范围分析示意图。
[0017]图4示意性示出了根据本公开的一实施例的数据处理方法的流程图。
[0018]图5示意性示出了根据本公开的另一实施例的数据处理方法的流程图。
[0019]图6示意性示出了根据本公开的一实施例的量化方法的流程图。
[0020]图7示意性示出了根据本公开的一实施例的反量化方法的流程图。
[0021]图8示意性示出了采用本公开实施例提供的数据处理方法的性能曲线图。
[0022]图9示意性示出了根据本公开的又一实施例的数据处理方法的流程图。
[0023]图10示意性示出了根据本公开的一实施例的数据处理装置的示意性框图。
[0024]图11示意性示出了根据本公开的另一实施例的数据处理装置的示意性框图。
[0025]图12示意性示出了根据本公开的一实施例的计算机设备的示意性框图。
具体实施方式
[0026]现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。
[0027]在本公开的描述中,除非另有说明,“/”表示“或”的意思,例如,A/B可以表示A或B。本文中的“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。此外,“至少一个”是指一个或多个,“多个”是指两个或两个以上。“第一”、“第二”等字样并不对数量和执行次序进行限定,并且“第一”、“第二”等字样也并不限定一定不同。
[0028]本公开实施例并未对本公开实施例提供的方法的执行主体的具体结构特别限定,只要能够通过运行记录有本公开实施例的提供的方法的代码的程序,以根据本公开实施例提供的方法进行处理即可,例如,本公开实施例提供的方法的执行主体可以是计算机设备,
或者,是计算机设备中能够调用程序并执行程序的功能模块。
[0029]可以理解的是,本公开实施例描述的网络架构以及业务场景是为了更加清楚的说明本公开实施例的技术方案,并不构成对于本公开实施例提供的技术方案的限定,本领域普通技术人员可知,随着网络架构的演变和新业务场景的出现,本公开实施例提供的技术方案对于类似的技术问题,同样适用。
[0030]首先,对本公开实施例中涉及的部分术语进行解释。
[0031]压缩:以某种技术手段,减少数据尺寸。
[0032]解压缩:把减少数据尺寸后的数据通过某种技术手段恢复成原始形式和尺寸。
[0033]编码:是压缩的一种具体技术手段。
[0034]解码:是解压缩的一种具体手段。
[0035]后续为行文方便,本公开实施例不再严格区分压缩/编码,解压缩/解码的微细差别。
[0036]传统的视频压缩编码面向人类视觉,多用于娱乐用途,注重信号保真度、高帧率等,无法匹配面向智能分析任务的机器视觉对于高准确性、低延迟和抽象语义的应用需求。面向人类视觉和面向机器视觉的视频压缩编码在应用场景、评估机制、信息处理和信息使用上存在较大差异。
[0037]2019本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种数据处理方法,其特征在于,包括:获取包括n个通道的待量化特征,n为大于1的正整数;确定所述待量化特征的各个通道对应的量化精度;根据各个通道对应的量化精度分别对所述待量化特征的各个通道进行量化操作,获得所述待量化特征的第一量化特征。2.根据权利要求1所述的方法,其特征在于,获取包括n个通道的待量化特征,包括:获取待处理图像;通过特征提取网络处理所述待处理图像,获得所述待量化特征。3.根据权利要求2所述的方法,其特征在于,还包括:对所述第一量化特征进行编码,获得所述待处理图像的比特流;传输所述比特流。4.根据权利要求1所述的方法,其特征在于,确定所述待量化特征的各个通道对应的量化精度,包括:确定所述待量化特征的平均量化精度;根据所述平均量化精度确定各个量化精度下的通道数;根据所述待量化特征获得各个通道下的最大特征响应值;根据各个通道下的最大特征响应值以及根据各个量化精度下的通道数,确定所述待量化特征的各个通道对应的量化精度。5.根据权利要求4所述的方法,其特征在于,根据所述待量化特征获得各个通道下的最大特征响应值,包括:将各个通道下的待量化特征的绝对值的最大值作为相应通道下的最大特征响应值。6.根据权利要求4所述的方法,其特征在于,根据各个通道下的最大特征响应值以及根据各个量化精度下的通道数,确定所述待量化特征的各个通道对应的量化精度,包括:根据各个通道下的最大特征响应值的大小以及各个量化精度下的通道数,给较大的最大特征响应值对应的通道赋予较大的量化精度。7.一种数据处理方法,其特征在于,包括:获得包括n个通道的第二量化特征,n为大于1的正整数;确定所述第二量化特征的各个通道对应的量化精度;根据各个通道对应的量化精度分别对所述第二量化特征的各个通道进行反量化操作,获得所述第二量化特征的非量化特征。8.根据权利要求7所述的方法,其特征在于,获得包括n个通道的第二量化特征,包括:接收待...

【专利技术属性】
技术研发人员:王立传杨明川范叔炬戴思达张欣
申请(专利权)人:中国电信股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1