基于决策流图的环境建模方法、装置和电子设备制造方法及图纸

本发明专利技术实施例公开了一种基于决策流图的环境建模方法、装置和电子设备，该方法包括：获取待建模的目标业务场景中的目标业务特征和目标业务特征的特征信息；基于目标业务特征，构建目标业务场景对应的目标决策流图，其中，目标决策流图中的业务节点包括：至少一个环境状态节点和至少一个决策智能体节点；基于目标决策流图中的每个业务节点所绑定的业务特征和各个业务节点之间的数据流向信息，构建目标计算图；基于目标计算图和目标业务特征的特征信息进行环境建模，确定目标业务场景对应的目标虚拟环境模型。通过本发明专利技术实施例的技术方案，可以基于决策流图可以更加便捷地构建出不同业务场景下的虚拟环境模型，从而满足用户的个性化需求。个性化需求。个性化需求。

【技术实现步骤摘要】
基于决策流图的环境建模方法、装置和电子设备


[0001]本专利技术实施例涉及计算机技术，尤其涉及一种基于决策流图的环境建模方法、装置和电子设备。

技术介绍

[0002]随着计算机技术的快速发展，强化学习作为机器学习的一种方式受到了越来越多的关注。强化学习是智能体(Agent)以“试错”的方式进行学习，通过与环境进行交互获得的奖赏指导行为，目标是使智能体获得最大的奖赏。
[0003]目前，在封闭的运行环境或者规则非常清楚的环境，比如游戏环境中，可以通过大量的“试错”采样进行强化学习，从而获得较好的学习效果。然而，大部分的业务场景中的业务环境是开放的，不确定的，边界模糊的，从而在这些业务环境中进行强化学习是难以实现的并且需要大量的学习成本，从而当前急需一种更加便捷地对业务场景进行环境建模的方式，以便支持不同业务场景下的强化学习。

技术实现思路

[0004]本专利技术实施例提供了一种基于决策流图的环境建模方法、装置和电子设备，以基于决策流图可以更加便捷地构建出不同业务场景下的虚拟环境模型，从而满足用户的个性化需求。
[0005]根据本专利技术的一方面，提供了一种基于决策流图的环境建模方法，包括：
[0006]获取待建模的目标业务场景中的目标业务特征和所述目标业务特征的特征信息；
[0007]基于所述目标业务特征，构建所述目标业务场景对应的目标决策流图，其中，所述目标决策流图中的业务节点包括：至少一个环境状态节点和至少一个决策智能体节点，所述环境状态节点包括当前环境状态子节点、环境状态转移子节点和下一环境状态子节点；
[0008]基于所述目标决策流图中的每个业务节点所绑定的业务特征和各个业务节点之间的数据流向信息，构建目标计算图；
[0009]基于所述目标计算图和所述目标业务特征的特征信息进行环境建模，确定所述目标业务场景对应的目标虚拟环境模型。
[0010]根据本专利技术的另一方面，提供了一种基于决策流图的环境建模装置，包括：
[0011]目标业务特征获取模块，用于获取待建模的目标业务场景中的目标业务特征和所述目标业务特征的特征信息；
[0012]目标决策流图构建模块，用于基于所述目标业务特征，构建所述目标业务场景对应的目标决策流图，其中，所述目标决策流图中的业务节点包括：至少一个环境状态节点和至少一个决策智能体节点，所述环境状态节点包括当前环境状态子节点、环境状态转移子节点和下一环境状态子节点；
[0013]目标计算图构建模块，用于基于所述目标决策流图中的每个业务节点所绑定的业务特征和各个业务节点之间的数据流向信息，构建目标计算图；
[0014]目标虚拟环境模型确定模块，用于基于所述目标计算图和所述目标业务特征的特征信息进行环境建模，确定所述目标业务场景对应的目标虚拟环境模型。
[0015]根据本专利技术的另一方面，提供了一种电子设备，所述电子设备包括：
[0016]至少一个处理器；以及
[0017]与所述至少一个处理器通信连接的存储器；其中，
[0018]所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术任一实施例所述的基于决策流图的环境建模方法。
[0019]本专利技术实施例的技术方案，通过基于待建模的目标业务场景中的目标业务特征，构建出目标业务场景对应的目标决策流图，该目标决策流图中的各个业务节点可以包括：至少一个环境状态节点和至少一个决策智能体节点，其中，环境状态节点可以包括当前环境状态子节点、环境状态转移子节点和下一环境状态子节点。基于目标决策流图中的每个业务节点所绑定的业务特征和各个业务节点之间的数据流向信息，构建可直接参与环境建模中的目标计算图。基于目标计算图和目标业务特征的特征信息进行环境建模，可以更加便捷地确定出目标业务场景对应的目标虚拟环境模型，从而可以利用目标虚拟环境模型代替实际的目标业务环境进行强化学习，大幅降低了在实际目标业务环境试错的成本，进而提高了强化学习效果，并且满足了用户的个性化需求。
[0020]应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0021]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0022]图1是本专利技术实施例一提供的一种基于决策流图的环境建模方法的流程图；
[0023]图2是本专利技术实施例一所涉及的一种决策流图的示例；
[0024]图3是本专利技术实施例二提供的一种基于决策流图的环境建模方法的流程图；
[0025]图4是本专利技术实施例三提供的一种基于决策流图的环境建模装置的结构示意图；
[0026]图5是实现本专利技术实施例的基于决策流图的环境建模方法的电子设备的结构示意图。
具体实施方式
[0027]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围。
[0028]需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“目标”等是用
于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0029]实施例一
[0030]图1为本专利技术实施例一提供的一种基于决策流图的环境建模方法的流程图，本实施例可适用于对任意一种业务场景进行环境建模的情况。该方法可以是基于决策流图的环境建模装置来执行，该装置可以采用硬件和/或软件的形式实现，该装置可配置于电子设备中。如图1所示，该方法具体包括以下步骤：
[0031]S110、获取待建模的目标业务场景中的目标业务特征和目标业务特征的特征信息。
[0032]其中，目标业务场景可以是任意一种存在决策需求的业务场景。本实施例中的目标业务场景可以是开放的，不确定的，边界模糊的业务场景。例如，目标业务场景可以是物品搜索场景，具体为：用户输入搜索内容进行搜索请求之后，基于该搜索请求确定出搜索出的推荐物品信息以及推荐物品展示顺序。由于给用户展示的推本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于决策流图的环境建模方法，其特征在于，包括：获取待建模的目标业务场景中的目标业务特征和所述目标业务特征的特征信息；基于所述目标业务特征，构建所述目标业务场景对应的目标决策流图，其中，所述目标决策流图中的业务节点包括：至少一个环境状态节点和至少一个决策智能体节点，所述环境状态节点包括当前环境状态子节点、环境状态转移子节点和下一环境状态子节点；基于所述目标决策流图中的每个业务节点所绑定的业务特征和各个业务节点之间的数据流向信息，构建目标计算图；基于所述目标计算图和所述目标业务特征的特征信息进行环境建模，确定所述目标业务场景对应的目标虚拟环境模型。2.根据权利要求1所述的方法，其特征在于，所述当前环境状态子节点支持数据流的输出；所述环境状态转移子节点支持数据流的输入，且输出给所述下一环境状态子节点；所述决策智能体节点支持数据流的输入和输出。3.根据权利要求1所述的方法，其特征在于，所述目标决策流图中的业务节点还包括：至少一个环境智能体节点和/或至少一个静态变量节点；其中，所述环境智能体节点支持数据流的输入和输出；所述静态变量节点仅支持数据流的输出，不支持数据流的输入。4.根据权利要求1所述的方法，其特征在于，所述基于所述目标业务特征，构建所述目标业务场景对应的目标决策流图，包括：对所述目标业务特征进行特征分析，确定各个所述目标业务特征之间的依赖关系；基于所述依赖关系，创建各个业务节点，并确定各个业务节点之间的数据流向信息，构建出所述目标业务场景对应的目标决策流图。5.根据权利要求1所述的方法，其特征在于，所述基于所述目标业务特征，构建所述目标业务场景对应的目标决策流图，还包括：基于用户在可视化界面上触发的节点添加操作，获取用户添加的各个空节点；基于用户针对每个空节点触发的节点信息配置操作，确定每个空节点对应的业务配置信息，其中，所述业务配置信息包括：节点名称信息和节点所绑定的业务特征；基于所述业务配置信息对相应的空节点进行配置，获得相应的业务节点；基于用户对业务节点触发的连线操作，获取各个业务节点之间的数据流向信息，构建出所述目标业务场景对应的目标决策流图。6.根据权利要求5所述的方法，其特征在于，所述节点配置信息还包括：节点数据类型、数据取值范围和插入函数信息；所述节点数据类型包括：连续类型、离散类型和默认类型，其中，所述离散类型包括：离散有序类型和离散无序类型。7.根据权利要求1所述的方法，其特征在于，所述基于所述目标决策流图中的每个业务节点所...

【专利技术属性】
技术研发人员：朱焕焕，秦熔均，高耸屹，
申请(专利权)人：南栖仙策南京科技有限公司，
类型：发明
国别省市：