本申请公开了一种人工智能芯片测试方法、装置及系统，涉及人工智能技术领域，包括：测试主机向人工智能芯片发送第一测试指令以及至少一个第一测试数据，第一测试指令用于指示人工智能芯片基于目标人工智能模型执行目标任务推理；测试主机将第一测试数据的发送时间记录为第一测试数据的推理起始时间，并响应于人工智能芯片返回的第一测试数据的推理结束信号，将推理结束信号的发出时间确定为第一测试数据的推理结束时间，基于各第一测试数据的推理起始时间和推理结束时间，确定该人工智能芯片的有效算力信息。本申请的方案能够较为准确地确定出人工智能芯片的有效算力情况。
【技术实现步骤摘要】
本申请涉及人工智能，尤其涉及一种人工智能芯片测试方法、装置及系统。
技术介绍
1、人工智能（artificial intelligence，ai）芯片也称为ai加速器，是专门用于处理ai相关任务的芯片。
2、随着ai技术的不断发展，ai模型的算力不断提高。但是，ai模型的算力受限于运行该ai模型的ai芯片的计算以及存储等能力。通常情况下，在ai芯片运行ai模型的情况下，ai芯片的有效算力远低于ai芯片的标称算力。基于此，如何准确地确定人工智能芯片运行人工智能模型实际所能达到的有效算力（即俗称的人工智能芯片的算力）是本领域技术人员需要解决的技术问题。
技术实现思路
1、鉴于如上问题，本申请提供了一种人工智能芯片测试方法、装置及系统，能够较为准确地确定出人工智能芯片的有效算力情况。
2、一方面，本申请提供了一种人工智能芯片测试方法，应用于测试主机，所述测试主机与待测的人工智能芯片之间建立有通信连接，所述人工智能芯片中部署有至少一个人工智能模型，所述方法包括：
>3、向所述人工智能本文档来自技高网...
【技术保护点】
1.一种人工智能芯片测试方法，其特征在于，应用于测试主机，所述测试主机与待测的人工智能芯片之间建立有通信连接，所述人工智能芯片中部署有至少一个人工智能模型，所述方法包括：
2.根据权利要求1所述的人工智能芯片测试方法，其特征在于，所述基于各第一测试数据的推理起始时间和推理结束时间，确定所述人工智能芯片的有效算力信息，包括：
3.根据权利要求2所述的人工智能芯片测试方法，其特征在于，所述基于各第一测试数据的推理时长，确定所述人工智能芯片完成所述目标任务推理所需的基准推理时长，包括:
4.根据权利要求1所述的人工智能芯片测试方法，其特征在于，所述向所述人工...
【技术特征摘要】
1.一种人工智能芯片测试方法，其特征在于，应用于测试主机，所述测试主机与待测的人工智能芯片之间建立有通信连接，所述人工智能芯片中部署有至少一个人工智能模型，所述方法包括：
2.根据权利要求1所述的人工智能芯片测试方法，其特征在于，所述基于各第一测试数据的推理起始时间和推理结束时间，确定所述人工智能芯片的有效算力信息，包括：
3.根据权利要求2所述的人工智能芯片测试方法，其特征在于，所述基于各第一测试数据的推理时长，确定所述人工智能芯片完成所述目标任务推理所需的基准推理时长，包括:
4.根据权利要求1所述的人工智能芯片测试方法，其特征在于，所述向所述人工智能芯片发送至少一个第一测试数据，包括：
5.根据权利要求1所述的人工智能芯片测试方法，其特征在于，在向所述人工智能芯片发送第一测试指令之前，还包括：
6.根据权利要求5所述的人工智能芯片测试方法，其特征在于，在获得所述人工智能芯片返回的推理精度结果之前，还包括：
7....
【专利技术属性】
技术研发人员：原青，刘建，许译，路凯强，王云，
申请(专利权)人：中国科学院微电子研究所，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。