当前位置: 首页 > 专利查询>赛灵思公司专利>正文

图重写的处理方法及装置、计算设备及可读介质制造方法及图纸

技术编号:24686567 阅读:67 留言:0更新日期:2020-06-27 08:49
本发明专利技术提供一种图重写的处理方法及装置、计算设备及可读介质。其方法包括:对网络部署框架的前端的神经网络模型进行解析,获取神经网络模型对应的原始图,该原始图包括数个单运算的操作符算子;利用预先生成的图重写接口对原始图进行重写处理,得到网络部署框架的后端支持处理的重写图,其中优化操作符算子为原始图中相邻的至少两个单运算的操作符算子的组合。本发明专利技术的技术方案,可以自动实现图重写,从而能够最大化地利用后端的计算/编译能力,实现神经网络模型的优化运算,实现过程中不用研发人员编写代码,省时省力,有效地降低研发成本,提高研发效率。

Processing method, device, computing equipment and readable medium of graph rewriting

【技术实现步骤摘要】
图重写的处理方法及装置、计算设备及可读介质
本专利技术涉及计算机应用
,尤其涉及一种图重写的处理方法及装置、计算设备及可读介质。
技术介绍
近年来,随着计算机技术的发展,人工智能(ArtificialIntelligence;简称AI)进入了发展热潮,其中关于神经网络模型的研究最为火热。例如,卷积神经网络(ConvolutionalNeuralNetwork;简称CNN)是神经网络模型中最为常见的一种网络模型。CNN是一种前馈神经网络,由一个或多个卷积层和顶端的全连通层(对应经典的神经网络)组成,同时也包括关联权重和池化层(PoolingLayer)。与其他深度学习结构相比,卷积神经网络在图像和语音识别方面能够给出更好的结果。相比较其他深度、前馈神经网络,卷积神经网络需要考量的参数更少,使之成为一种颇具吸引力的深度学习结构。以CNN为例,为了支持各种神经网络模型的训练和部署,目前出现了诸多CNN网络部署框架,比较典型的如Caffe、Tensorflow及MXNet等。这些网络部署框架一般在后端(Backend)提供了CNN本文档来自技高网...

【技术保护点】
1.一种图重写的处理方法,其特征在于,所述方法包括;/n对网络部署框架的前端的神经网络模型进行解析,获取所述神经网络模型对应的原始图,所述原始图包括数个单运算的操作符算子;/n利用预先生成的图重写接口对所述原始图进行重写处理,得到所述网络部署框架的后端支持处理的重写图,所述优化操作符算子为所述原始图中相邻的至少两个所述单运算的操作符算子的优化组合。/n

【技术特征摘要】
1.一种图重写的处理方法,其特征在于,所述方法包括;
对网络部署框架的前端的神经网络模型进行解析,获取所述神经网络模型对应的原始图,所述原始图包括数个单运算的操作符算子;
利用预先生成的图重写接口对所述原始图进行重写处理,得到所述网络部署框架的后端支持处理的重写图,所述优化操作符算子为所述原始图中相邻的至少两个所述单运算的操作符算子的优化组合。


2.根据权利要求1所述的方法,其特征在于,利用预先生成的图重写接口对所述原始图进行重写处理,得到所述网络部署框架的后端支持处理的重写图之前,所述方法还包括:
根据所述网络部署框架和所述后端支持的计算/编译能力生成所述图重写接口。


3.根据权利要求2所述的方法,其特征在于,根据所述网络部署框架和所述后端支持的计算/编译能力生成所述图重写接口,包括:
根据所述后端支持的计算/编译能力和所述网络部署框架所提供的操作符类型,在模版文件中定义用于图重写的多种模式;
对所述模版文件中的所述多种模式进行解析,得到模式列表;
生成所述模式列表中的各所述模式匹配的代码。


4.根据权利要求3所述的方法,其特征在于,根据所述后端支持的计算/编译能力和所述网络部署框架所提供的操作符类型,在模版文件中定义用于图重写的多种优化模式之后,对所述模版文件中的所述多种模式进行解析,得到模式列表之前,所述方法还包括:
对各所述模式进行合法性验证,确定各所述模式合法。


5.根据权利要求3所述的方法,其特征在于,根据所述网络部署框架和所述后端支持的计算/编译能力生成所述图重写接口,还包括:
配置模式定义和/或模式解析的功能支持信息。


6.根据权利要求3所述的方法,其特征在于,根据所述后端支持的计算/编译能力和所述网络部署框架所提供的操作符类型,在模版文件中定义用于图重写的多种模式,包括:
根据所述网络部署框架所提供的操作符类型,在所述模版文件中定义数种单运算对应的简单模式;
根据所述后端支持的计算/编译能力和所述网络部署框架所提供的操作符类型,在所述模版文件中定义数种优化模式,各所述优化模式对应至少两种单运算的组合。


7.根据权利要求3-6任一所述的方法,其特征在于,根据所述后端支持的计算/编译能力和所述网络部署框架所提供的操作符类型,在模版文件中定义用于图重写的多种模式,包括:
确定在所述模本文件中采用预设的模版文件格式定义用于图重写的所述多种模式的模式定义格式;
根据所述后端支持的计算/编译能力和所述网络部署框架所提供的操作符类型,采用所述模式定义格式,在所述模板文件中定义所述多种模式。


8.根据权利要求3-6任一所述的方法,其特征在于,利用预先生成的图重写接口对所述原始图进行重写处理,得到所述网络部署框架的后端支持处理的重写图,包括:
根据所述图重写接口中生成有匹配的代码的各种优化模式,判断所述原始图中相邻的至少两个所述单运算的操作符算子是否能够进行优化组合;
若能,将所述原始图中相邻的至少两个所述单运算的操作符算子优...

【专利技术属性】
技术研发人员:李天平孙晓明
申请(专利权)人:赛灵思公司
类型:发明
国别省市:美国;US

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1