【技术实现步骤摘要】
本申请涉及人工智能,尤其涉及一种数据处理装置、方法及车辆。
技术介绍
1、随着人工智能技术的不断发展,人工智能的各类模型被应用在众多实际场景中,其中基于注意力机制的人工智能模型应用广泛。例如在车辆的自动驾驶场景中,会使用鸟瞰图(bird’s eye view,bev)模型(former)等基于注意力(attention)机制的人工智能模型对车辆在自动驾驶过程中采集到的数据进行数据处理,以得到数据处理结果,基于该数据处理结果可以实现环境感知、路径规划以及运动控制决策等目的。
2、在实际应用中,人工智能模型的功能实现是建立在数据处理装置等硬件设备的基础之上。例如,无论是训练阶段或应用阶段,人工智能模型的运行通常是通过存储设备存储数据,通过处理器对数据进行计算处理。因此,硬件设备的性能发挥对人工智能模型的能力表现至关重要。
3、现有的数据处理装置在运行基于注意力机制的人工智能模型时,对数据计算和存储的速度较慢,单位时间内处理的数据量较少。因此,现有的数据处理装置在运行基于注意力机制的人工智能模型时,数据处理的效率较低。
【技术保护点】
1.一种数据处理装置,其特征在于,所述数据处理装置为采用存储器对数据进行运算和存储的存算一体装置,用于依次对多个待处理数据的特征图进行计算以得到各自对应的查询特征;所述数据处理装置包括预计算模块、采样模块、注意力权重模块和查询生成模块;
2.根据权利要求1所述的装置,其特征在于,所述查询生成模块包括自适应选择器,所述自适应选择器包括至少两组由比较器和先进先出队列组成的权重比较单元,所述查询生成模块具体用于:
3.根据权利要求2所述的装置,其特征在于,所述查询生成模块具体用于:
4.根据权利要求1-3任一项所述的装置,其特征在于,所述
...【技术特征摘要】
1.一种数据处理装置,其特征在于,所述数据处理装置为采用存储器对数据进行运算和存储的存算一体装置,用于依次对多个待处理数据的特征图进行计算以得到各自对应的查询特征;所述数据处理装置包括预计算模块、采样模块、注意力权重模块和查询生成模块;
2.根据权利要求1所述的装置,其特征在于,所述查询生成模块包括自适应选择器,所述自适应选择器包括至少两组由比较器和先进先出队列组成的权重比较单元,所述查询生成模块具体用于:
3.根据权利要求2所述的装置,其特征在于,所述查询生成模块具体用于:
4.根据权利要求1-3任一项所述的装置,其特征在于,所述预计算模块包括预计算引擎和预计算缓冲,所述预计算模块具体用于:
5.根据权利要求4所述的装置,其特征在于,所述预计算引擎包括多个存算一体阵列,所述存算一体阵列包括多个由存算一体处理单元和累加单元组成的计算单元,所述存算一体处理单元中包括写入驱动器、乘法逻辑电路、加法树电路以及存储阵列,所述存储阵列中预先存储有所述预计算权重的第一权重值;所述预计算模块具体用于:
6.根据权利要求1-3任一项所述的装置,其特征在于,所述采样模块包括采样引擎和采样缓冲,所述采样引擎用于根据所述目标查询特征计算对应的偏移量和双线性插值参数,并基于所述偏移量和所述双线性插值参数计算偏移后参考点对应的采样结果,并将所述采样结果传输至所述采样缓冲中进行缓存。
7....
【专利技术属性】
技术研发人员:刘方鑫,顾瑞红,蒋力,李皓民,
申请(专利权)人:亿咖通湖北技术有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。