一种系统及边缘设备技术方案

技术编号:46625385 阅读:1 留言:0更新日期:2025-10-14 21:21
根据申请公开了一种系统及边缘设备。IC可以包括包括多个处理元件的神经处理单元(NPU)。每个PE可以包括被配置成执行乘法累加操作的乘法累加电路。IC可以包括耦合到NPU的中央处理单元(CPU);以及耦合到NPU和CPU的一个或多个存储电路,所述存储电路包括指令,当由CPU执行时,所述指令使CPU执行操作。所述操作可以包括:根据指示将第一机器学习框架的元素映射到至少一个NPU或CPU中可执行的函数或操作的第一映射信息,将与NPU不兼容的第一机器学习框架的第一神经网络模型编译成可由NPU执行的第一机器代码;存储所述第一机器代码;以及将所述第一机器代码发送到所述NPU以供执行。

【技术实现步骤摘要】

本公开涉及神经网络模型编译技术。


技术介绍

1、人工智能(artificial intelligence,ai)也在逐步发展。ai通常是指计算机科学的一个领域,旨在创建一个系统,使人类智能能够执行必要的任务。这些任务可以包括通过经验学习、语言理解和处理、模式识别、决策等。ai是以算法和数据为基础构建的,模拟人类认知的侧面,适用于医疗、金融、汽车等多种领域,从根本上改变很多产业接近和完成工作的方式。

2、另外,最近为了加速人工智能(ai)的运算速度,正在开发神经处理单元(npu)。npu是为提高ai作业的处理速度而特别设计的专用硬件构成要素。npu适用于高速执行作为很多ai算法基础的神经网络运算,与通用cpu相比,可以提高数据处理速度,减少功耗。这些设备越来越多地集成到诸如智能手机、平板电脑和边缘计算设备的设备中,以更有效地执行诸如图像识别和自然语言处理之类的任务。


技术实现思路

1、本文中呈现的实施例涉及包括多个处理元件(pe)的神经处理单元(npu)、耦合到npu的中央处理单元(cpu)、npu本文档来自技高网...

【技术保护点】

1.一种系统,包括:

2.根据权利要求1所述的系统,其中,

3.根据权利要求1所述的系统,其中,

4.根据权利要求1所述的系统,其中,

5.根据权利要求1所述的系统,其中,

6.根据权利要求1所述的系统,其中,

7.根据权利要求6所述的系统,其中,

8.根据权利要求1所述的系统,其中,

9.根据权利要求1所述的系统,其中,

10.根据权利要求1所述的系统,其中,

11.一种边缘设备,包括:

12.根据权利要求11所述的边缘设备,其中,p>

13.根据...

【技术特征摘要】

1.一种系统,包括:

2.根据权利要求1所述的系统,其中,

3.根据权利要求1所述的系统,其中,

4.根据权利要求1所述的系统,其中,

5.根据权利要求1所述的系统,其中,

6.根据权利要求1所述的系统,其中,

7.根据权利要求6所述的系统,其中,

8.根据权利要求1所述的系统,其中,

9.根据权利要求1所述的系统,其中,

10.根据权利要求1所述的系统,其中,

11.一种边缘设备,包括:

【专利技术属性】
技术研发人员:金录元具本圭
申请(专利权)人:蒂普爱可斯有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1