机器控制方法、装置、电子设备及存储介质制造方法及图纸

本发明专利技术实施例公开了一种机器控制方法、装置、电子设备及存储介质。包括：在使用目标机器对目标场景中多个待控制物体进行控制时，获取目标场景的当前环境状态数据和目标环境状态数据；将当前环境状态数据和目标环境状态数据输入至任务规划器，得到多个待控制物体中目标物体的坐标索引数据；将坐标索引数据和当前环境状态数据输入至任务执行器，得到目标机器中各部件的部件执行动作信息；控制目标机器的各部件，按照各部件的部件执行动作信息执行相应的动作，以对目标物体进行控制。本发明专利技术实施例的技术方案，实现了使用目标机器对目标场景中多个待控制物体进行有效的控制，提升了机器控制的通用性和灵活性，进一步提升机器控制的控制效果。制效果。制效果。

【技术实现步骤摘要】
机器控制方法、装置、电子设备及存储介质


[0001]本专利技术实施例涉及自动化控制
，尤其涉及一种机器控制方法、装置、电子设备及存储介质。

技术介绍

[0002]自动化是机器在没有或较少人为直接参与的情况下，根据人的要求，通过自动检测、信息处理、分析判断以及操纵控制，实现预期目标的过程。目前，自动化被广泛应用于工业、农业、军事、科学研究、交通运输、商业、医疗、服务和家庭等领域。
[0003]现有的机器控制方法，往往需要针对具体的控制任务设计特定的宏动作集合及规划机制。宏动作通常是由一系列机器各部件的运转(如，力或角度的变化)构成，一般采用传统控制算法(如，PID控制、自适应控制和模糊控制等)实现。此外，规划机制通常与具体的控制任务相关。因此，现有的机器控制方法往往需要对具体的控制任务进行非常精细化的设计，并且其工作流程通常是预先设定好的。
[0004]基于此，现有技术控制方法存在如下缺陷：(1)不同控制任务的规划机制需要进行“量身定制”，通用性较差；(2)基于规则实现的宏动作在很大程度上限制了机器操作的灵活性，并且难以适应新的工作场景；(3)预先设定好的工作流程难以应对复杂多变的工作场景，一旦场景发生突变，往往使得控制效果不佳。

技术实现思路

[0005]本专利技术提供了一种机器控制方法、装置、电子设备及存储介质，以实现使用目标机器对目标场景中多个待控制物体进行有效的控制，提升了机器控制的通用性和灵活性，进一步提升机器控制的控制效果。
[0006]根据本专利技术的一方面，提供了一种机器控制方法，该方法包括：
[0007]在使用目标机器对目标场景中多个待控制物体进行控制时，获取所述目标场景的当前环境状态数据和目标环境状态数据；
[0008]将所述当前环境状态数据和所述目标环境状态数据输入至预先训练完成的任务规划器中，得到所述多个待控制物体中目标物体的坐标索引数据，其中，所述目标物品的坐标索引数据用于确定所述多个待控制物体中的目标物体；
[0009]将所述坐标索引数据和所述当前环境状态数据输入至预先训练完成的任务执行器中，得到所述目标机器中各部件的部件执行动作信息；
[0010]控制所述目标机器的各所述部件，按照各所述部件的部件执行动作信息执行相应的动作，以对所述目标物体进行控制。
[0011]根据本专利技术的另一方面，提供了一种机器控制装置。该装置包括：
[0012]环境状态获取模块，用于在使用目标机器对目标场景中多个待控制物体进行控制时，获取所述目标场景的当前环境状态数据和目标环境状态数据；
[0013]坐标索引得到模块，用于将所述当前环境状态数据和所述目标环境状态数据输入
至预先训练完成的任务规划器中，得到所述多个待控制物体中目标物体的坐标索引数据，其中，所述目标物品的坐标索引数据用于确定所述多个待控制物体中的目标物体；
[0014]动作信息得到模块，用于将所述坐标索引数据和所述当前环境状态数据输入至预先训练完成的任务执行器中，得到所述目标机器中各部件的部件执行动作信息；
[0015]机器部件控制模块，用于控制所述目标机器的各所述部件，按照各所述部件的部件执行动作信息执行相应的动作，以对所述目标物体进行控制。
[0016]根据本专利技术的另一方面，提供了一种电子设备，所述电子设备包括：
[0017]至少一个处理器；以及
[0018]与所述至少一个处理器通信连接的存储器；其中，
[0019]所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术任一实施例所述的机器控制方法。
[0020]根据本专利技术的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的机器控制方法。
[0021]本专利技术实施例的技术方案，在使用目标机器对目标场景中多个待控制物体进行控制时，通过获取目标场景的当前环境状态数据和目标环境状态数据。将当前环境状态数据和目标环境状态数据输入至预先训练完成的任务规划器中，得到多个待控制物体中目标物体的坐标索引数据，其中，目标物品的坐标索引数据用于确定多个待控制物体中的目标物体。进而将坐标索引数据和当前环境状态数据输入至预先训练完成的任务执行器中，得到目标机器中各部件的部件执行动作信息。从而控制目标机器的各部件，按照各部件的部件执行动作信息执行相应的动作，以对目标物体进行控制。本专利技术实施例的技术方案，实现了使用目标机器对目标场景中多个待控制物体进行有效的控制，提升了机器控制的通用性和灵活性，进一步提升机器控制的控制效果。
[0022]应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0023]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0024]图1为本专利技术实施例一提供的一种机器控制方法的流程示意图；
[0025]图2为本专利技术实施例一提供的适用于机器控制方法的任务规划的流程示意图；
[0026]图3为本专利技术实施例二提供的一种机器控制装置的结构示意图；
[0027]图4为本专利技术实施例三提供的一种电子设备的结构示意图。
具体实施方式
[0028]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的
附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围。
[0029]需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0030]可以理解的是，本技术方案所涉及的数据(包括但不限于数据本身、数据的获取或使用)应当遵循相应法律法规及相关规定的要求。
[0031]实施例一
[0032]图1为本专利技术实施例一提供的一种机器控制方法的流程示意图，本实施例可适用于使用目标机器对目标场景中多个待控制物本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种机器控制方法，其特征在于，包括：在使用目标机器对目标场景中多个待控制物体进行控制时，获取所述目标场景的当前环境状态数据和目标环境状态数据；将所述当前环境状态数据和所述目标环境状态数据输入至预先训练完成的任务规划器中，得到所述多个待控制物体中目标物体的坐标索引数据，其中，所述目标物品的坐标索引数据用于确定所述多个待控制物体中的目标物体；将所述坐标索引数据和所述当前环境状态数据输入至预先训练完成的任务执行器中，得到所述目标机器中各部件的部件执行动作信息；控制所述目标机器的各所述部件，按照各所述部件的部件执行动作信息执行相应的动作，以对所述目标物体进行控制。2.根据权利要求1所述的方法，其特征在于，所述获取所述目标场景的当前环境状态数据，包括：获取针对所述多个待控制物体在所述目标场景的彩色图像和深度图像；基于所述彩色图像和所述深度图像，得到所述目标场景的当前环境状态数据。3.根据权利要求1所述的方法，其特征在于，所述方法还包括：获取第一样本数据；其中，所述第一样本数据包括当前环境状态数据和与所述当前环境状态数据对应的期望环境状态数据，当前环境状态数据为在某一业务场景中多个参考物体在当前时刻下的环境状态数据，期望环境状态数据为在所述某一业务场景中所述多个参考物体在成功满足业务需求时的环境状态数据；将所述第一样本数据输入至第一初始网络模型中，得到所述第一样本数据的第一实际输出结果；获取与所述第一样本数据以及所述第一实际输出结果对应的第一期望数据；其中，所述第一期望数据是基于所述第一样本数据以及所述第一实际输出结果计算得到的奖赏数据；根据所述第一样本数据、所述第一期望数据以及所述第一实际输出结果，使用强化学习的方法对所述第一初始网络模型的网络参数进行调整，以得到所述训练完成的任务规划器。4.根据权利要求3所述的方法，其特征在于，所述方法还包括：获取第二样本数据；其中，所述第二样本数据包括所述多个参考物体中目标物体的坐标索引数据和当前环境状态数据；将所述第二样本数据输入至第二初始网络模型中，得到所述第二样本数据的第二实际输出结果；获取与所述第二样本数据以及所述第二实际输出结果对应的第二期望数据；其中，所述第二期望数据是基于所述第二样本数据以及所述第二实际输出结果计算得到的奖赏数据；根据所述第二样本数据、所述第二期望数据以及所述第二实际输出结果，使用强化学习的方法对所述第二初始网络模型的网络参数进行调整，以得到所述训练完成的任务执行器。5.根据权利要求1所述的方法，其特征在于，所述将所述当前环境状态数据和所...

【专利技术属性】
技术研发人员：杨思航，庞竟成，陈雄辉，俞扬，肖羽佳，罗强，付强，马世奎，
申请(专利权)人：达闼机器人股份有限公司，
类型：发明
国别省市：