【技术实现步骤摘要】
深度学习推理框架的扩展方法、装置、设备及介质
[0001]本公开涉及人工智能
，尤其涉及深度学习
，具体涉及深度学习推理框架的扩展方法、装置、电子设备、存储介质以及程序产品。
技术介绍
[0002]随着人工智能技术(AI，Artificial Intelligence)的快速发展，人工智能技术已经渗透到社会生产、生活的方方面面，给人们生活带来了便利的同时也提高了生产效率。作为人工智能技术中的一个重要分支，深度学习推理框架使得人工智能应用在图像处理、语音识别、自然语言处理等方面不断地深化。
技术实现思路
[0003]本公开提供了一种深度学习推理框架的扩展方法、装置、电子设备、存储介质以及程序产品。
[0004]根据本公开的一方面，提供了一种深度学习推理框架的扩展方法，包括：响应于用于扩展目标插件的扩展请求，上述深度学习推理框架获取上述目标插件的配置信息，其中，上述深度学习推理框架包括加载接口、初始化接口、运行接口；基于上述配置信息，利用上述加载接口获取目标插件的资源的调用地址；响应于已成功获...
【技术保护点】
【技术特征摘要】
1.一种深度学习推理框架的扩展方法，包括：响应于用于扩展目标插件的扩展请求，所述深度学习推理框架获取所述目标插件的配置信息，其中，所述深度学习推理框架包括加载接口、初始化接口、运行接口；基于所述配置信息，利用所述加载接口获取目标插件的资源的调用地址；响应于已成功获取所述调用地址，基于所述配置信息，利用所述初始化接口获取初始化参数；以及基于所述调用地址和所述初始化参数，利用所述运行接口运行所述目标插件。2.根据权利要求1所述的方法，其中，所述基于所述配置信息，利用所述加载接口获取目标插件的资源的调用地址，包括：利用所述加载接口执行下述操作：基于所述配置信息，确定所述目标插件的动态库的动态库地址；基于所述动态库地址，通过句柄调用函数获取所述动态库的句柄；以及响应于已成功获取所述句柄，基于所述句柄和所述配置信息中的资源标识，通过地址调用函数从所述动态库中确定所述目标插件的资源的调用地址，其中，所述资源标识与所述调用地址呈映射关系。3.根据权利要求1或2所述的方法，其中，所述深度学习推理框架还包括停止接口，所述方法还包括：响应于所述深度学习推理框架已停止运行，利用所述停止接口停止已运行的所述目标插件。4.根据权利要求1至3中任一项所述的方法，其中，所述基于所述配置信息，利用所述初始化接口获取初始化参数，包括：利用所述初始化接口执行下述操作：基于所述配置信息，确定所述目标插件的插件功能；以及基于所述插件功能，获取所述初始化参数。5.根据权利要求4所述的方法，其中，所述基于所述插件功能，获取所述初始化参数，包括：响应于所述插件功能用于表征处理数据，确定所述深度学习推理框架的框架功能；基于所述框架功能，确定所述深度学习推理框架所处理的数据的数据类型；以及基于所述数据类型，确定所述初始化参数为存储空间地址。6.根据权利要求4所述的方法，其中，所述基于所述插件功能，获取所述初始化参数，包括：响应于所述插件功能用于表征获取数据，获取数据源地址，并将所述数据源地址作为所述初始化参数。7.根据权利要求1至6中任一项所述的方法，其中，所述基于所述调用地址和所述初始化参数，利用所述运行接口运行所述目标插件，包括：利用所述运行接口执行下述操作：基于所述配置信息，确定所述目标插件的插件功能；基于所述插件功能，确定所述目标插件的触发条件；以及响应于确定当前运行条件满足所述触发条件，基于所述调用地址和所述初始化参数，
运行所述目标插件。8.根据权利要求7所述的方法，还包括：在所述插件功能用于表征获取数据的情况下，响应于所述深度学习推理框架处于运行状态，利用所述运行接口确定所述当前运行条件满足所述触发条件。9.根据权利要求7所述的方法，还包括：在所述插件功能用于表征处理数据的情况下，响应于已获取待处理数据，利用所述运行接口确定所述当前运行条件满足所述触发条件。10.一种深度学习推理框架的扩展装置，包括：获取模块，用于响应于用于扩展目标插件的扩展请求，所述深度学习推理框架获取所述目标插件的配置信息，其中，所述深度学习推理框架包括加载接口、初始化接口、运行接口；加载模块，用于基于所述配置信息，利用所述加载接口获取目标插件的资源的调用地址；初始化模块，用于响应于已成功获取所述调用地址，基于所述配置信息，利...
【专利技术属性】
技术研发人员：罗阳，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。