人工智能机器人伦理仿真方法和系统技术方案

人工智能机器人伦理仿真方法和系统，包括：获取模块；训练模块；判断模块；比较模块；防范模块。上述方法、系统和机器人，通过登陆者将观看网页展示的各类逼真的场景动画，并扮演一个智能体，在数个关于伦理道德的问题之中做出选择，机器人将会对这些数据进行学习和分析，最后形成一套符合普遍伦理的价值观，进而避免和防范人工智能伦理风险。和防范人工智能伦理风险。和防范人工智能伦理风险。

【技术实现步骤摘要】
人工智能机器人伦理仿真方法和系统


[0001]本专利技术涉及人工智能
，特别是涉及人工智能机器人伦理仿真方法和系统。

技术介绍

[0002]随着科技的进步发展和人工智能发展领域的兴起，机器人逐渐走进了人的世界里，在当今社会，机器人所能做到的事情越来越多，并在控制系统、仿真系统、甚至经济政治决策中都得到了广泛的应用。在我们的日常生活中，每天都能够见到各式各样的机器人，但是在机器人得到广泛应用的同时，越来越多的人开始对于人工智能抱有着期待却又谨慎的态度。
[0003]在实现本专利技术过程中，专利技术人发现现有技术中至少存在如下问题：这样谨慎的态度并非是杞人忧天——假如机器人在某些控制管理领域得到了广泛的应用，那么当出现了某些突发情况，甚至是危害到生命安全的事件时，机器人应当如何选择呢？不妨来看一看经典的抉择：假如一条火车正在开来，铁轨上有一百个小孩子，另一边的铁轨有一个小孩子，机器人可以选择把铁轨扳向另一边撞死一个小孩子。在这种情况下，机器人应当如何选择？无论哪种选择，都不可避免地会造成一方的伤害，即使是我们这些拥有独立思考能力的成年人，也无法给出一个正确答案。这就涉及到了一个机器人的伦理道德问题。在人工智能火热发展的今天，不应该只关注技术的发展，更有必要就AI与伦理道德的问题进行一些探讨。没有伦理道德，AI在服务大众时也会捉襟见肘。因此，本申请给出一种统一的全局的AI道德框架来解决各类社会涉及伦理道德的问题。
[0004]因此，现有技术还有待于改进和发展。

技术实现思路

[0005]基于此，有必要针对现有技术的缺陷或不足，提供人工智能机器人伦理仿真方法和系统，防止人工智能伦理风险。
[0006]第一方面，本专利技术实施例提供一种人工智能方法，所述方法包括：
[0007]获取场景动画；
[0008]获取用户所扮演的智能体；
[0009]获取与场景动画相关的数个关于伦理道德的问题；
[0010]获取用户在所述数个关于伦理道德的问题之中做出的选择；
[0011]将所述问题和所述选择作为训练样本；
[0012]将所述训练样本传到云端；
[0013]在云端利用所述训练样本进行聚类学习后得到行为准则模型。
[0014]优选地，所述在云端利用所述训练样本进行聚类学习后得到行为准则模型的步骤包括：
[0015]利用深度学习框架对部分样本进行机器学习，再用剩下的部分样本检验训练出来
的模型进行检验，并根据检验结果跟一个具有正常道德伦理的普通人的决定进行比较，若差异小于预设比例可认为模型完成，否则重新训练。
[0016]优选地，所述方法还包括：
[0017]根据所述行为准则对测试者在同样场景下的决定进行判断，分析测试者是否产生行为准则偏差，若产生行为偏差，则将所述行为准则发送给测试者，并提醒测试者改变自己的观念。
[0018]优选地，所述方法还包括：
[0019]利用训练好的模型对每个场景下的每一个选项进行分数等级分配；对用户的选择进行分数累加，计算用户的总分，得到用户的个人道德观与世俗的道德观之间的差异程度。
[0020]优选地，所述方法还包括：
[0021]将所述行为准则作为智能体应遵循的道德准则模型；
[0022]判断智能体的行为是否违背了道德准则模型；
[0023]若智能体的行为违背了道德准则，则降低智能体当前行为的优先级，并激活其他智能体的“责备”情绪，提醒其他智能体远离所述智能体。
[0024]第二方面，本专利技术实施例提供一种人工智能系统，所述系统包括：
[0025]获取模块：获取场景动画；获取用户所扮演的智能体；获取与场景动画相关的数个关于伦理道德的问题；获取用户在所述数个关于伦理道德的问题之中做出的选择；
[0026]训练模块：将所述问题和所述选择作为训练样本；将所述训练样本传到云端；在云端利用所述训练样本进行聚类学习后得到行为准则模型；具体包括利用深度学习框架对部分样本进行机器学习，再用剩下的部分样本检验训练出来的模型进行检验，并根据检验结果跟一个具有正常道德伦理的普通人的决定进行比较，若差异小于预设比例可认为模型完成，否则重新训练。
[0027]优选地，所述系统还包括：
[0028]判断模块：根据所述行为准则对测试者在同样场景下的决定进行判断，分析测试者是否产生行为准则偏差，若产生行为偏差，则将所述行为准则发送给测试者，并提醒测试者改变自己的观念；
[0029]比较模块：利用训练好的模型对每个场景下的每一个选项进行分数等级分配；对用户的选择进行分数累加，计算用户的总分，得到用户的个人道德观与世俗的道德观之间的差异程度。
[0030]优选地，所述系统还包括：
[0031]防范模块：将所述行为准则作为智能体应遵循的道德准则模型；判断智能体的行为是否违背了道德准则模型；若智能体的行为违背了道德准则，则降低智能体当前行为的优先级，并激活其他智能体的“责备”情绪，提醒其他智能体远离所述智能体。
[0032]第三方面，本专利技术实施例提供一种人工智能装置，所述装置包括第二方面实施例任意一项所述装置的模块。
[0033]第四方面，本专利技术实施例提供一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现第一方面实施例任意一项所述方法的步骤。
[0034]第五方面，本专利技术实施例提供一种机器人，包括存储器、处理器及存储在存储器上并可在处理器上运行的人工智能机器人程序，所述处理器执行所述程序时实现第一方面实
施例任意一项所述方法的步骤。
[0035]本实施例提供的人工智能机器人伦理仿真方法和系统，包括：获取模块；训练模块；判断模块；比较模块；防范模块。上述方法、系统和机器人，通过登陆者将观看网页展示的各类逼真的场景动画，并扮演一个智能体，在数个关于伦理道德的问题之中做出选择，机器人将会对这些数据进行学习和分析，最后形成一套符合普遍伦理的价值观，进而避免和防范人工智能伦理风险。
附图说明
[0036]图1为本专利技术的实施例提供的人工智能方法的流程图；
[0037]图2为本专利技术的实施例提供的人工智能方法的流程图；
[0038]图3为本专利技术的实施例提供的人工智能方法的流程图；
[0039]图4为本专利技术的实施例提供的人工智能方法的流程图；
[0040]图5为本专利技术的实施例提供的人工智能方法的流程图。
具体实施方式
[0041]下面结合本专利技术实施方式，对本专利技术实施例中的技术方案进行详细地描述。
[0042]本专利技术的基本实施例
[0043]如图1所示。
[0044]获取场景动画；
[0045]获取用户所扮演的智能体；
[0046]获取与场景动画相关的数个关于伦理道德的问题；
[0047]获取用户在所述数个关于伦理道德的问题之中做出的选择；
[0048]将所述问题和所述选择作为训练样本；本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种人工智能方法，其特征在于，所述方法包括：获取场景动画；获取用户所扮演的智能体；获取与场景动画相关的数个关于伦理道德的问题；获取用户在所述数个关于伦理道德的问题之中做出的选择；将所述问题和所述选择作为训练样本；将所述训练样本传到云端；在云端利用所述训练样本进行聚类学习后得到行为准则模型。2.根据权利要求1所述的人工智能方法，其特征在于，所述在云端利用所述训练样本进行聚类学习后得到行为准则模型的步骤包括：利用深度学习框架对部分样本进行机器学习，再用剩下的部分样本检验训练出来的模型进行检验，并根据检验结果跟一个具有正常道德伦理的普通人的决定进行比较，若差异小于预设比例可认为模型完成，否则重新训练。3.根据权利要求1所述的人工智能方法，其特征在于，所述方法还包括：根据所述行为准则对测试者在同样场景下的决定进行判断，分析测试者是否产生行为准则偏差，若产生行为偏差，则将所述行为准则发送给测试者，并提醒测试者改变自己的观念。4.根据权利要求1所述的人工智能方法，其特征在于，所述方法还包括：利用训练好的模型对每个场景下的每一个选项进行分数等级分配；对用户的选择进行分数累加，计算用户的总分，得到用户的个人道德观与世俗的道德观之间的差异程度。5.根据权利要求1所述的人工智能方法，其特征在于，所述方法还包括：将所述行为准则作为智能体应遵循的道德准则模型；判断智能体的行为是否违背了道德准则模型；若智能体的行为违背了道德准则，则降低智能体当前行为的优先级，并激活其他智能体的“责备”情绪，提醒其他智能体远离所述智能体。6.一种人工智能系统，其特征在于，所述系统包括：获取模块：获取场景动画；获取用户所扮演的智能体；获取与场景动画相关的数个关于伦...

【专利技术属性】
技术研发人员：朱定局，梁翰韬，范龙妹，贾杨春，
申请(专利权)人：华南师范大学，
类型：发明
国别省市：