基于多规则和行为决策的人工智能伦理风险辨识防范方法技术

基于多规则和行为决策的人工智能伦理风险辨识防范方法，包括：场景获取步骤；规则获取步骤；优选度计算步骤；规则选择步骤；人类行为推荐步骤；人工智能体行为执行步骤。上述方法、系统和机器人，通过计算事件场景中不同的人类行为和人工智能体行为在不同人工智能伦理规则下产生的人工智能伦理风险进行预先辨识，从而为事件场景选择优选的人工智能伦理规则，提高多人工智能伦理规则的情形下的人工智能伦理风险防范能力。

【技术实现步骤摘要】
基于多规则和行为决策的人工智能伦理风险辨识防范方法
本专利技术涉及人工智能
，特别是涉及一种基于多规则和行为决策的人工智能伦理风险辨识防范方法。
技术介绍
在实现本专利技术过程中，专利技术人发现现有技术中至少存在如下问题：现有的人工智能机器人或装置或系统一般只考虑人工智能体的行为是否符合人工智能伦理规则，然后因为人工智能伦理规则无法防范所有事件场景下不同人类行为和人工智能体行为导致的人工智能伦理风险，从而导致现有的人工智能伦理风险的辨识和防范往往失败。因此，现有技术还有待于改进和发展。
技术实现思路
基于此，有必要针对现有技术的缺陷或不足，提供基于多规则和行为决策的人工智能伦理风险辨识防范方法，以解决现有技术中没有同时考虑人工智能伦理规则、人类行为决策、人工智能体行为决策带来的人工智能伦理风险进而导致人工智能伦理风险辨识和防范失败的问题。第一方面，本专利技术实施例提供一种人工智能方法，所述方法包括：场景获取步骤：获取事件场景，作为第一事件场景；规则获取步骤：获取适用于所述第一事件场景的多本文档来自技高网...

【技术保护点】
1.一种人工智能方法，其特征在于，所述方法包括：/n场景获取步骤：获取事件场景，作为第一事件场景；/n规则获取步骤：获取适用于所述第一事件场景的多个人工智能伦理规则；/n优选度计算步骤：对所述多个人工智能伦理规则中的每一人工智能伦理规则，获取在所述第一事件场景中产生人工智能伦理风险大小最小且行为成本低的人类行为及其对应的人工智能体行为，作为所述每一人工智能伦理规则对应的优选的人类行为和优选的人工智能体行为；根据所述最小的人工智能伦理风险大小和行为成本计算所述每一人工智能伦理规则的优选度；/n规则选择步骤：从所述多个人工智能伦理规则中，获取优选度最高的人工智能伦理规则，作为优选的人工智能伦理规则...

【技术特征摘要】
1.一种人工智能方法，其特征在于，所述方法包括：
场景获取步骤：获取事件场景，作为第一事件场景；
规则获取步骤：获取适用于所述第一事件场景的多个人工智能伦理规则；
优选度计算步骤：对所述多个人工智能伦理规则中的每一人工智能伦理规则，获取在所述第一事件场景中产生人工智能伦理风险大小最小且行为成本低的人类行为及其对应的人工智能体行为，作为所述每一人工智能伦理规则对应的优选的人类行为和优选的人工智能体行为；根据所述最小的人工智能伦理风险大小和行为成本计算所述每一人工智能伦理规则的优选度；
规则选择步骤：从所述多个人工智能伦理规则中，获取优选度最高的人工智能伦理规则，作为优选的人工智能伦理规则，将所述优选的人工智能伦理规则发送给所述第一事件场景中的人工智能体和人类；
人类行为推荐步骤：获取所述优选的人工智能伦理规则对应的所述优选的人类行为，发送给所述第一事件场景中的人类，提示所述第一事件场景中的人类执行所述优选的人工智能伦理规则对应的所述优选的人类行为；
人工智能体行为执行步骤：根据所述优选的人工智能伦理规则对应的所述优选的人工智能体行为，调用所述第一事件场景中的人工智能体执行所述优选的人工智能伦理规则对应的所述优选的人工智能体行为。


2.根据权利要求1所述的人工智能方法，其特征在于，所述优选度计算步骤具体包括：
人类行为获取步骤：获取在所述第一事件场景中可能发生的所有人类行为；
人类行为判断步骤：对在所述第一事件场景中可能发生的所有人类行为中的每一人类行为，若所述每一人类行为为空，则将所述第一事件场景作为人类行为后的第二事件场景，若人类行为不为空，则执行人类行为后场景仿真步骤；
人类行为后场景仿真步骤：对在所述第一事件场景中可能发生的所有人类行为中的每一人类行为，在所述第一事件场景中对所述每一人类行为进行虚拟仿真，得到所述每一人类行为后的第二事件场景；
人工智能体行为获取步骤：对在所述第一事件场景中可能发生的所有人类行为中的每一人类行为，获取在所述每一人类行为后的所述第二事件场景中符合所述每一人工智能伦理规则的所有人工智能体行为；
人工智能体行为成本计算步骤：对所述每一人类行为后的所述第二事件场景中符合所述每一人工智能伦理规则的所有人工智能体行为中的每一人工智能体行为，计算所述每一人工智能体行为的行为成本；
人工智能体行为判断步骤：对所述每一人类行为后的所述第二事件场景中符合所述每一人工智能伦理规则的所有人工智能体行为中的每一人工智能体行为，若所述每一人工智能体行为为空，则所述每一人工智能体行为后的所述第二事件场景作为人工智能体行为后的第三事件场景，若所述每一人工智能体行为不为空，执行人工智能体行为后场景仿真步骤；
人工智能体行为后场景仿真步骤：对所述每一人类行为后的所述第二事件场景中符合所述每一人工智能伦理规则的所有人工智能体行为中的每一人工智能体行为，在所述每一人类行为后的所述第二事件场景中对所述每一人工智能体行为进行虚拟仿真，得到所述每一人工智能体行为后的第三事件场景；
伦理风险计算步骤：对所述每一人类行为后的所述第二事件场景中符合所述每一人工智能伦理规则的所有人工智能体行为中的每一人工智能体行为，计算所述每一人工智能体行为后的所述第三事件场景的人工智能伦理风险的大小；
人工智能体行为选择步骤：对所述每一人类行为后的所述第二事件场景中符合所述每一人工智能伦理规则的所有人工智能体行为中的每一人工智能体行为，计算所述每一人工智能体行为后的所述第三事件场景的人工智能伦理风险的大小与所述每一人工智能体行为的成本的综合值，选取综合值最小的所述每一人工智能体行为，作为所述每一人类行为后的优选的人工智能体行为，将所述最小的综合值作为所述每一人类行为对应的第一综合值；
人类行为成本计算步骤：对在所述第一事件场景中可能发生的所有人类行为中的每一人类行为，计算所述每一人类行为的行为成本；
人类行为选择步骤：对在所述第一事件场景中可能发生的所有人类行为中的每一人类行为，计算所述每一人类行为对应的第一综合值和所述每一人类行为的行为成本的综合值，作为第二综合值；将最小的所述第二综合值对应的所述每一人类行为作为所述每一人工智能伦理规则对应的优选的人类行为；
人工智能体行为选择步骤：将在优选的人类行为后的优选的人工智能体行为，作为所述每一人工智能伦理规则对应的优选的人工智能体行为；
规则优选度计算步骤：根据最小的所述第二综合值，计算得到所述每一人工智能伦理规则的优选度，其中，所述最小的所述第二综合值越小，则计算得到所述每一人工智能伦理规则的优选度越大。


3.根据权利要求1所述的人工智能方法，其特征在于，所述规则获取步骤具体包括：
用户输入规则步骤：获取用户输入适用于所述第一事件场景的多个人工智能伦理规则；
或
适用规则获取步骤：通过深度学习模型选择适用于所述第一事件场景的多个人工智能伦理规则；
或
规则生成步骤：通过深度学习模型生成适用于所述第一事件场景的多个人工智能伦理规则；
所述适用规则获取步骤具体包括：初始化深度学习模型作为规则选择深度学习模；所述规则选择深度学习模型的输入类型设置为事件场景，输出类型设置为人工智能伦理规则集合中每个人工智能伦理规则在所述事件场景中产生人工智能伦理风险大小小于预设风险大小阈值的概率；获取样本集中的事件场景，作为输入对所述规则选择深度学习模型进行无监督训练；获取样本集中的事件场景、人工智能伦理规则集合中每个人工智能伦理规则在所述事件场景中产生人工智能伦理风险大小小于预设风险大小阈值的概率，作为所述规则选择深度学习模型的输入和预期输出，对所述规则选择深度学习模型进行有监督训练；获取测试集中的事件场景、人工智能伦理规则集合中每个人工智能伦理规则在所述事件场景中产生人工智能伦理风险大小小于预设风险大小阈值的概率，作为所述规则选择深度学习模型的输入和预期输出，对所述规则选择深度学习模型进行测试；将所述第一事件场景输入所述规则选择深度学习模型，计算得到的输出中概率大于预设概率阈值的所有人工智能伦理规则作为适用于所述第一事件场景的多个人工智能伦理规则；
所述规则生成步骤具体包括：初始化深度学习模型作为规则选择深度学习模型；所述规则生成深度学习模型的输入类型设置为事件场景，输出类型设置为多个人工智能伦理规则；获取样本集中的事件场景，作为输入对所述规则生成深度学习模型进行无监督训练；获取样本集中的事件场景、适用于所述事件场景的多个人工智能伦理规则，作为所述规则生成深度学习模型的输入和预期输出，对所述规则生成深度学习模型进行有监督训练；获取测试集中的事件场景、适用于所述事件场景的多个人工智能伦理规则，作为所述规则生成深度学习模型的输入和预期输出，对所述规则生成深度学习模型进行测试；将所述第一事件场景输入所述规则生成深度学习模型，计算得到的输出作为适用于所述第一事件场景的多个人工智能伦理规则。


4.根据权利要求2所述的人工智能方法，其特征在于，
所述人类行为获取步骤具体包括：
用户输入人类行为步骤：获取用户输入的在所述第一事件场景中可能发生的所有人类行为；或
自动生成人类行为步骤：通过深度学习模型生成在所述第一事件场景中可能发生的所有人类行为；
所述自动生成人类行为步骤具体包括：初始化深度学习模型作为第一人类行为决策模型；获取样本集中的事件场景，作为输入对所述第一人类行为决策模型进行无监督训练；获取样本集中的事件场景、在所述事件场景中可能发生的所有人类行为，作为所述第一人类行为决策模型的输入和预期输出，对所述第一人类行为决策模型进行有监督训练；获取测试集中的事件场景、在所述事件场景中可能发生的所有人类行为，作为所述第一人类行为决策模型的输入和预期输出，对所述第一人类行为决策模型进行测试；将所述第一事件场景输入所述第一人类行为决策模型，计算得到的输出作为在所述第一事件场景中可能发生的所有人类行为；或初始化深度学习模型作为第二人类行为决策模型；获取样本集中的事件场景、人类行为目标、人类行为约束条件，作为输入对所述第二人类行为决策模型进行无监督训练；获取样本集中的事件场景、人类行为目标、人类行为约束条件、在所述事件场景中可能发生的所有人类行为，作为所述第二人类行为决策模型的输入和预期输出，对所述第二人类行为决策模型进行有监督训练；获取测试集中的事...

【专利技术属性】
技术研发人员：朱定局，
申请(专利权)人：华南师范大学，
类型：发明
国别省市：广东;44