内存分配方法、装置及电子设备制造方法及图纸

技术编号:28123703 阅读:56 留言:0更新日期:2021-04-19 11:34
本申请公开了内存分配方法、装置及电子设备,涉及计算机技术领域,具体涉及语音技术和深度学习等人工智能技术领域。具体实现方案为:接收多帧语音数据;将多帧语音数据输入至神经网络模型,其中,神经网络模型在处理多帧语音数据时申请多个数据张量,其中,多个数据张量共用共享内存。本申请实施例的内存分配方法,可以有效地减小内存开销,同时可以保证内存和计算的平衡。存和计算的平衡。存和计算的平衡。

【技术实现步骤摘要】
内存分配方法、装置及电子设备


[0001]本申请涉及计算机
,具体涉及语音技术和深度学习等人工智能
,尤其涉及一种内存分配方法、装置及电子设备。

技术介绍

[0002]人工智能这几年来迅猛发展,而深度学习和神经网络正是人工智能发展的基础。由于神经网络往往层数较多且张量大小较大,会消耗芯片较多内存。并且,近年来把神经网络部署到嵌入式设备上的需求越来越强烈。因此对内存分配的优化至关重要。

技术实现思路

[0003]本申请提供一种内存分配方法、装置及电子设备。
[0004]根据本申请的一方面,提供了一种内存分配方法,包括:
[0005]接收多帧语音数据;
[0006]将所述多帧语音数据输入至所述神经网络模型,其中,所述神经网络模型在处理所述多帧语音数据时申请多个数据张量,其中,所述多个数据张量共用共享内存。
[0007]根据本申请的另一方面,提供了一种内存分配装置,包括:
[0008]接收模块,用于接收多帧语音数据;
[0009]输入模块,用于将所述多帧语音数据输入至所述神经网络模型,其中,所述神经网络模型在处理所述多帧语音数据时申请多个数据张量,其中,所述多个数据张量共用共享内存。
[0010]根据本申请的另一方面,提供了一种电子设备,包括:
[0011]至少一个处理器;以及
[0012]与所述至少一个处理器通信连接的存储器;其中,
[0013]所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述一方面实施例所述的内存分配方法。
[0014]根据本申请另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其上存储有计算机程序,所述计算机指令用于使所述计算机执行上述一方面实施例所述的内存分配方法。
[0015]根据本申请的另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现上述一方面实施例所述的内存分配方法。
[0016]上述可选方式所具有的其他效果将在下文中结合具体实施例加以说明。
附图说明
[0017]附图用于更好地理解本方案,不构成对本申请的限定。其中:
[0018]图1为本申请实施例提供的一种内存分配方法的流程示意图;
[0019]图2为本申请实施例提供的另一种内存分配方法的流程示意图;
[0020]图3为本申请实施例提供的另一种内存分配方法的流程示意图;
[0021]图4为本申请实施例提供的一种内存分配装置的结构示意图;以及
[0022]图5为根据本申请实施例的内存分配方法的电子设备的框图。
具体实施方式
[0023]以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
[0024]下面参考附图描述本申请实施例的内存分配方法、装置及电子设备。
[0025]人工智能是研究使用计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的
也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术;人工智能软件技术包括计算机视觉技术、语音识别技术、自然语言处理技术以及深度学习、大数据处理技术、知识图谱技术等几大方向。
[0026]语音技术是指在计算机领域中的关键技术有自动语音识别技术和语音合成技术。
[0027]深度学习是机器学习领域中一个新的研究方向。深度学习是学习样本数据的内在规律和表示层次,这些学习过程中获得的信息对诸如文字,图像和声音等数据的解释有很大的帮助。它的最终目标是让机器能够像人一样具有分析学习能力,能够识别文字、图像和声音等数据。深度学习是一个复杂的机器学习算法,在语音和图像识别方面取得的效果,远远超过先前相关技术。
[0028]本申请实施例提供的内存分配方法,可以由电子设备来执行,该电子设备可为PC(Personal Computer,个人计算机)电脑、平板电脑、掌上电脑和智能音响等,此处不做任何限定。
[0029]在本申请实施例中,电子设备中可以设置有处理组件、存储组件和驱动组件。可选的,该驱动组件和处理组件可以集成设置,该存储组件可以存储操作系统、应用程序或其他程序模块,该处理组件通过执行存储组件中存储的应用程序来实现本申请实施例提供的内存分配方法。
[0030]图1为本申请实施例提供的一种内存分配方法的流程示意图。
[0031]本申请实施例的内存分配方法,还可由本申请实施例提供的内存分配装置执行,该装置可配置于电子设备中,通过接收多帧语音数据,并将多帧语音数据输入至神经网络模型,其中,神经网络模型在处理多帧语音数据时申请多个数据张量,且多个数据张量共用共享内存,实现减小内存开销。
[0032]作为一种可能的情况,本申请实施例的内存分配方法还可以在服务器端执行,服务器可以为云服务器,可以在云端执行该内存分配方法。
[0033]如图1所示,该内存分配方法可包括:
[0034]步骤101,接收多帧语音数据。
[0035]在本申请实施例中,电子设备可以接收多帧语音数据。应说明的是,该实施例中所
描述的多帧语音数据可以临时存储在声音文件(例如,WAV格式的文件)中,以便电子设备接收(获取),或者电子设备通过麦克风直接接收用户输入的语音信息,并将该语音信息转化为多帧语音数据,此处不做任何限定。
[0036]步骤102,将多帧语音数据输入至神经网络模型,其中,神经网络模型在处理多帧语音数据时申请多个数据张量,其中,多个数据张量共用共享内存。
[0037]需要说明的是,该实施例中所描述的神经网络模型可以是提前训练好的,并将其预存在电子设备的存储空间中,以方便调取应用,该存储空间不仅限于基于实体的存储空间,例如,硬盘,上述存储空间还可以是连接电子设备的网络硬盘的存储空间(云存储空间)。其中,该神经网络模型可以是一种打分神经网络模型,用于对多帧语音数据进行打分,且该神经网络模型可包括多个层。
[0038]具体地,电子设备在接收到多帧语音数据之后,可先从自身的存储空间中调出神经网络模型,然后将该多帧语音数据输入至该神经网络模型,从而通过该神经网络模型对多帧语音数据进行打分,以得到该神经网络模型输出的打分结果。应说明的是,电子设备在接收到多帧语音数据之后,还可先根据预设算法将多帧语音数拆分成多份,并依次输入至该神经网络模型,其中,预设算法可根据实际情况进行标定。
[0039]为了提高打分的精确度,在本申请实施例中,电子设备在接收到多帧语音数据之后,可先对该多帧语音数据进行预处理,例如,消除因为本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种内存分配方法,包括:接收多帧语音数据;将所述多帧语音数据输入至所述神经网络模型,其中,所述神经网络模型在处理所述多帧语音数据时申请多个数据张量,其中,所述多个数据张量共用共享内存。2.如权利要求1所述的内存分配方法,还包括;根据当前语音数据的帧数,为所述共享内存分配内存量。3.如权利要求2所述的内存分配方法,其中,所述根据当前语音数据的帧数,为所述共享内存分配内存量,包括:如果所述当前语音数据为首帧语音数据,则以第一分配模式为所述共享内存分配内存量;如果所述当前语音数据不为首帧语音数据,则以第二分配模式为所述共享内存分配内存量。4.如权利要求3所述的内存分配方法,其中,所述以第一分配模式为所述共享内存分配内存量,包括:获取所述神经网络模型处理单帧语音数据时,所申请的多个数据张量之中每个所占用的内存量;根据每个所述数据张量所占用的内存量从所述多个数据张量之中选择两个第一目标数据张量;获取所述两个第一目标数据张量所占用的内存;根据所述两个第一目标数据张量所占用的内存为所述共享内存分配内存量。5.如权利要求3所述的内存分配方法,其中,所述以第二分配模式为所述共享内存分配内存量,包括:获取所述神经网络模型每一次处理的h帧语音数据,其中,所述h帧语音数据从所述多帧语音数据中获取;获取所述神经网络模型每一次处理的所述h帧语音数据时,所申请的多个数据张量之中每个所占用的内存量;根据每个所述数据张量所占用的内存量从所述多个数据张量之中选择两个第二目标数据张量;获取所述两个第二目标数据张量所占用的内存;根据所述两个第二目标数据张量所占用的内存为所述共享内存分配内存量。6.如权利要求5所述的内存分配方法,其中,所述h为6或12。7.一种内存分配装置,包括:接收模块,用于接收多帧语音数据;输入模块,用于将所述多帧语音数据输入至所述神经网络模型,其中,所述神经网络模型在处理所述多帧语音数据时申请多个数据张量,其中,所述多个数据张量共用共享内存。8.如权利要求7所述的内存分配装置,还包括:分配模块,用于根据当前语音数据的帧数,为所述共享内存分配内存...

【专利技术属性】
技术研发人员:田超贾磊
申请(专利权)人:北京百度网讯科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1