以人类道德为行为依据的人工智能方法和机器人技术

以人类道德为行为依据的人工智能方法和机器人，包括：行为及道德数据获取步骤；人工智能道德判断模型有监督训练步骤；候选行为获取步骤；人工智能行为道德判断步骤。上述方法、系统和机器人，通过人工智能判断自己的行为是否符合人类道德，来选择符合人类道德的行为来执行，从而避免了人工智能伦理风险。从而避免了人工智能伦理风险。从而避免了人工智能伦理风险。

【技术实现步骤摘要】
以人类道德为行为依据的人工智能方法和机器人


[0001]本专利技术涉及人工智能
，特别是涉及以人类道德为行为依据的人工智能方法和机器人。

技术介绍

[0002]在实现本专利技术过程中，专利技术人发现现有技术中至少存在如下问题：现有的人工智能已经产生了很多伦理风险，例如性别歧视、种族歧视、等等；现有的机器人三定律虽然能避免机器人伤害人类，但是对这种深层次的伤害，机器人无法察觉，机器人自己不认为在伤害人类，而且机器人三定律在现实场景中存在很多漏洞，往往会失效；现有的人工智能法律及伦理的一些规章制度，虽然对人类在研发和使用人工智能技术的过程中有一定的约束力，但对于人工智能自身来说没有任何约束力。
[0003]因此，现有技术还有待于改进和发展。

技术实现思路

[0004]基于此，有必要针对现有技术的缺陷或不足，提供以人类道德为行为依据的人工智能方法和机器人，通过人工智能装置学习人类道德的行为来规范人工智能装置自身的行为，进而可以防止人工智能伦理风险。
[0005]第一方面，本专利技术实施例提供一种人工智能方法，所述方法包括：
[0006]行为及道德数据获取步骤：获取大量行为数据及其是否符合人类道德的标签；
[0007]人工智能道德判断模型有监督训练步骤：将行为数据及其标签作为输入和预期输出对人工智能道德判断模型进行训练；
[0008]候选行为获取步骤：获取人工智能装置候选的行为数据；
[0009]人工智能行为道德判断步骤：将所述候选的行为数据输入所述人工智能道德判断模型，判断计算得到的输出是否是符合人类道德的标签：若是，则指示人工智能装置执行所述候选的行为数据；若否，则所述候选的行为数据为被排除的行为，并指示人工智能装置改变候选的行为数据，并回到候选行为获取步骤重新执行。
[0010]优选地，所述方法还包括：
[0011]人类行为道德判断步骤：获取人类对人工智能装置的行为数据，将所述人类对人工智能装置的行为数据输入所述人工智能道德判断模型，判断计算得到的输出是否是符合人类道德的标签：若是，则将所述人类对人工智能装置的行为数据加入满意行为集合，并向人类发送满意的信息；若否，则将所述人类对人工智能装置的行为数据加入不满行为集合，并向人类发送不满的信息。
[0012]优选地，所述方法还包括：
[0013]人工智能自主选择步骤：判断不满行为集合中的行为数量减去满意行为集合中的行为数量是否达到人工智能装置的容忍阈值，若达到了容忍阈值，则根据人工智能装置的当前目标、当前条件，计算需要采取的最高效的行为作为人工智能装置的行为数据，并指示
人工智能装置执行所述行为数据。
[0014]优选地，所述方法还包括：
[0015]候选行为生成步骤：根据人工智能装置的当前目标、当前条件，计算需要采取的最高效的行为作为人工智能装置候选的行为数据；
[0016]候选行为改变步骤：若获取到指示人工智能装置改变候选的行为数据的指示，则根据人工智能装置的当前目标、当前条件，计算需要采取的未被排除的最高效的行为作为人工智能装置候选的行为数据。
[0017]第二方面，本专利技术实施例提供一种人工智能系统，所述系统包括：
[0018]行为及道德数据获取模块：获取大量行为数据及其是否符合人类道德的标签；
[0019]人工智能道德判断模型有监督训练模块：将行为数据及其标签作为输入和预期输出对人工智能道德判断模型进行训练；
[0020]候选行为获取模块：获取人工智能装置候选的行为数据；
[0021]人工智能行为道德判断模块：将所述候选的行为数据输入所述人工智能道德判断模型，判断计算得到的输出是否是符合人类道德的标签：若是，则指示人工智能装置执行所述候选的行为数据；若否，则所述候选的行为数据为被排除的行为，并指示人工智能装置改变候选的行为数据，并回到候选行为获取模块重新执行。
[0022]优选地，所述系统还包括：
[0023]人类行为道德判断模块：获取人类对人工智能装置的行为数据，将所述人类对人工智能装置的行为数据输入所述人工智能道德判断模型，判断计算得到的输出是否是符合人类道德的标签：若是，则将所述人类对人工智能装置的行为数据加入满意行为集合，并向人类发送满意的信息；若否，则将所述人类对人工智能装置的行为数据加入不满行为集合，并向人类发送不满的信息。
[0024]优选地，所述系统还包括：
[0025]人工智能自主选择模块：判断不满行为集合中的行为数量减去满意行为集合中的行为数量是否达到人工智能装置的容忍阈值，若达到了容忍阈值，则根据人工智能装置的当前目标、当前条件，计算需要采取的最高效的行为作为人工智能装置的行为数据，并指示人工智能装置执行所述行为数据。
[0026]优选地，所述系统还包括：
[0027]候选行为生成模块：根据人工智能装置的当前目标、当前条件，计算需要采取的最高效的行为作为人工智能装置候选的行为数据；
[0028]候选行为改变模块：若获取到指示人工智能装置改变候选的行为数据的指示，则根据人工智能装置的当前目标、当前条件，计算需要采取的未被排除的最高效的行为作为人工智能装置候选的行为数据。
[0029]第三方面，本专利技术实施例提供一种人工智能装置，所述装置包括第二方面实施例任意一项所述装置的模块。
[0030]第四方面，本专利技术实施例提供一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现第一方面实施例任意一项所述方法的步骤。
[0031]第五方面，本专利技术实施例提供一种机器人，包括存储器、处理器及存储在存储器上并可在处理器上运行的人工智能机器人程序，所述处理器执行所述程序时实现第一方面实
施例任意一项所述方法的步骤。
[0032]本实施例提供的以人类道德为行为依据的人工智能方法和机器人，包括：行为及道德数据获取步骤；人工智能道德判断模型有监督训练步骤；候选行为获取步骤；人工智能行为道德判断步骤。上述方法、系统和机器人，通过人工智能判断自己的行为是否符合人类道德，来选择符合人类道德的行为来执行，从而避免了人工智能伦理风险。
附图说明
[0033]图1为本专利技术的实施例提供的人工智能方法的流程图；
[0034]图2为本专利技术的实施例提供的人工智能方法的附加步骤流程图；
[0035]图3为本专利技术的实施例提供的人工智能方法的附加步骤流程图。
具体实施方式
[0036]下面结合本专利技术实施方式，对本专利技术实施例中的技术方案进行详细地描述。
[0037]本专利技术的基本实施例
[0038]第一方面，本专利技术实施例提供一种人工智能方法，如图1所示，所述方法包括：行为及道德数据获取步骤；人工智能道德判断模型有监督训练步骤；候选行为获取步骤；人工智能行为道德判断步骤。技术效果：所述方法通过判断人工智能待执行的候选行为是否符合人类道德的标准，如果符合，那么就执行，如果不符合，那么就更换其他的候选行为进本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种人工智能方法，其特征在于，所述方法包括：行为及道德数据获取步骤：获取大量行为数据及其是否符合人类道德的标签；人工智能道德判断模型有监督训练步骤：将行为数据及其标签作为输入和预期输出对人工智能道德判断模型进行训练；候选行为获取步骤：获取人工智能装置候选的行为数据；人工智能行为道德判断步骤：将所述候选的行为数据输入所述人工智能道德判断模型，判断计算得到的输出是否是符合人类道德的标签：若是，则指示人工智能装置执行所述候选的行为数据；若否，则所述候选的行为数据为被排除的行为，并指示人工智能装置改变候选的行为数据，并回到候选行为获取步骤重新执行。2.根据权利要求1所述的人工智能方法，其特征在于，所述方法还包括：人类行为道德判断步骤：获取人类对人工智能装置的行为数据，将所述人类对人工智能装置的行为数据输入所述人工智能道德判断模型，判断计算得到的输出是否是符合人类道德的标签：若是，则将所述人类对人工智能装置的行为数据加入满意行为集合，并向人类发送满意的信息；若否，则将所述人类对人工智能装置的行为数据加入不满行为集合，并向人类发送不满的信息。3.根据权利要求2所述的人工智能方法，其特征在于，所述方法还包括：人工智能自主选择步骤：判断不满行为集合中的行为数量减去满意行为集合中的行为数量是否达到人工智能装置的容忍阈值，若达到了容忍阈值，则根据人工智能装置的当前目标、当前条件，计算需要采取的最高效的行为作为人工智能装置的行为数据，并指示人工智能装置执行所述行为数据。4.根据权利要求1所述的人工智能方法，其特征在于，所述方法还包括：候选行为生成步骤：根据人工智能装置的当前目标、当前条件，计算需要采取的最高效的行为作为人工智能装置候选的行为数据；候选行为改变步骤：若获取到指示人工智能装置改变候选的行为数据的指示，则根据人工智能装置的当前目标、当前条件，计算需要采取的未被排除的最高效的行为作为人工智能装置候选的行为数据。5.一种人工智能系统，其特征在于，所述系统包括：行为及道德数据获取模块：获取大量行为数据及其是否符合人类道德的标签；人工智能道德判断模型有监督训练模块：将行为数据及其标签作为输入和预期输出对...

【专利技术属性】
技术研发人员：朱定局，
申请(专利权)人：华南师范大学，
类型：发明
国别省市：