一种对象处理方法、装置、电子设备及存储介质制造方法及图纸

技术编号:41497851 阅读:24 留言:0更新日期:2024-05-30 14:41
本公开提供了一种对象处理方法、装置、电子设备及存储介质,其中,对象处理方法包括:获取待处理对象,其中,所述待处理对象中包括具有顺序关系的至少两个元素;根据所述待处理对象中各元素对应的相对位置编码矩阵,对所述各元素进行编码,获得所述各元素的目标特征向量;基于所述各元素的目标特征向量,确定所述待处理对象的目标任务处理结果,这样,在进行相对位置编码时,各元素对应一个相对位置编码矩阵,各元素的相对位置信息可以独立计算,实现了相对位置编码的可分解性,从而可以适用于Linear transformer的相对位置编码,提升了性能。

【技术实现步骤摘要】

本公开涉及计算机,具体而言,涉及一种对象处理方法、装置、电子设备及存储介质


技术介绍

1、对于具有顺序关系的对象,例如文本序列,词与词之间的顺序关系会影响整个句子的含义,因此在进行建模时需要考虑词与词之间的顺序关系,基于线性注意力网络(linear transformer)由于计算复杂度更低,在自然语言处理和计算机视觉领域有着广泛应用,相关技术中,可以在linear transformer中加入位置编码以表示位置信息,由于linear transformer的计算特性,在linear transformer中主要是采用绝对位置编码方法进行位置编码,但是绝对位置编码表达信息有限,相较于相对位置编码,降低了性能,因此,设计适用于linear transformer的相对位置编码方法是需亟待解决的问题。


技术实现思路

1、本公开实施例至少提供一种对象处理方法、装置、电子设备及存储介质。

2、第一方面,本公开实施例提供了一种对象处理方法,包括:获取待处理对象,其中,所述待处理对象中包括具有顺序关系的至少本文档来自技高网...

【技术保护点】

1.一种对象处理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述根据所述待处理对象中各元素对应的相对位置编码矩阵,对所述各元素进行编码,获得所述各元素的目标特征向量,包括:

3.根据权利要求2所述的方法,其特征在于,确定所述待处理对象中各元素对应的第二预设矩阵,包括:

4.根据权利要求2所述的方法,其特征在于,确定所述待处理对象中各元素对应的第二预设矩阵,包括:

5.根据权利要求2所述的方法,其特征在于,确定所述待处理对象中各元素对应的第二预设矩阵,包括:

6.根据权利要求2-5任一项所述的方法,其特征在...

【技术特征摘要】

1.一种对象处理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述根据所述待处理对象中各元素对应的相对位置编码矩阵,对所述各元素进行编码,获得所述各元素的目标特征向量,包括:

3.根据权利要求2所述的方法,其特征在于,确定所述待处理对象中各元素对应的第二预设矩阵,包括:

4.根据权利要求2所述的方法,其特征在于,确定所述待处理对象中各元素对应的第二预设矩阵,包括:

5.根据权利要求2所述的方法,其特征在于,确定所述待处理对象中各元素对应的第二预设矩阵,包括:

6.根据权利要求2-5任一项所述的方法,其特征在于,所述根据所述各元素对应的第一预设矩阵和第二预设矩阵,获得所述各元素对应的相对位置编码矩阵,包括以下至少一种情况:

7.根据权利要求1-6任一项所述的方法,其特征在于,所述根据所述...

【专利技术属性】
技术研发人员:钟怡然秦臻孙伟轩卢凯悦邓辉
申请(专利权)人:上海商汤智能科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1