识别不伤害人类的人类的人工智能伦理方法和机器人技术

识别不伤害人类的人类的人工智能伦理方法和机器人，包括：筛选集合初始化步骤；开始尝试步骤；第三信息类型行为评价步骤；可删除判断步骤；执行控制步骤。上述方法、系统和机器人，通过删除导致偏见的且对预测结果没有明显影响的输入变量来降低甚至消除算法偏见，从而降低人工智能伦理风险。

【技术实现步骤摘要】
识别不伤害人类的人类的人工智能伦理方法和机器人
本专利技术涉及人工智能
，特别是涉及一种识别不伤害人类的人类的人工智能伦理方法和机器人。
技术介绍
在实现本专利技术过程中，专利技术人发现现有技术中至少存在如下问题：现有的人工智能伦理风险防范技术中的算法偏见检测和防范都是将焦点聚集于样本数量，例如B种族人样本数量和A种族人样本数量差异导致的算法偏见，但很多实验表明，即使将样本数量控制成一样，也无法完全消除这种算法偏见，可见偏见的产生有着更为深层的原因，而这种原因和解决的方法是现有技术都不具备的。因此，现有技术还有待于改进和发展。
技术实现思路
基于此，有必要针对现有技术的缺陷或不足，提供识别不伤害人类的人类的人工智能伦理方法和机器人，以解决现有人工智能伦理的算法偏见检测与防范没有考虑到输入变量之间的相关性导致的偏见、没有考虑到引入了与预测结果无关的“杂质”输入变量导致的偏见的缺陷，通过删除导致偏见的且对预测结果没有明显影响的输入变量来降低甚至消除算法偏见，从而降低人工智能伦理风险。第一方面，本专利技术实施例提供一种人工智能方法，所述方法包括：第一信息类型获取步骤：获取K种预设类型，作为K种第一信息类型；第一对象类别获取步骤：获取深度学习模型的训练数据集中的所有对象所属的类别，作为第一对象类别；第二对象类别获取步骤：获取所述第一对象类别的需检测和防范偏见的所有子类别的数量M，将所述M个子类别作为M个第二对象类别；第一类别分类准确率计算步骤：将K种第一信息类型作为第一样本信息类型，将第一对象类别的对象作为第一样本对象，计算得到分类预测准确率P1，作为第一类别分类准确率；第j子类别分类准确率计算步骤：将K种第一信息类型作为第一样本信息类型，将第j种（j=1，2，…,M）第二对象类别的对象作为第一样本对象，计算得到所述分类预测准确率P1，作为第j子类别分类准确率P1j；第i种第一类别分类准确率计算步骤：将第i种（i=1，2，…,K）第一信息类型从K种第一信息类型中删去，得到的K-1种第一信息类型，作为第一样本信息类型，将第一对象类别的对象作为第一样本对象，计算得到所述分类预测准确率P1，作为第i种第一类别分类准确率P1i；第i种第j子类别的分类测试准确率计算步骤：将第i种（i=1，2，…,K）第一信息类型从K种第一信息类型中删去，得到的K-1种第一信息类型，作为第一样本信息类型，将第j种（j=1，2，…,M）第二对象类别的对象作为第一样本对象，计算得到所述分类测试准确率P1，作为第i种第j子类别的分类测试准确率P1ij；第i种第一信息类型与第二对象类别的相关度评估步骤：对j=1，2，…,M，计算第一类别分类测试准确率与第i种第一类别分类测试准确率的差异度DFi，计算每一子类别分类测试准确率与第i种每一子类别分类测试准确率的差异度DFij，根据DFi与DFij计算第i种第一信息类型与第二对象类别的相关度的衡量指标Q1i；K种第一信息类型行为评价步骤：将所述K种第一信息类型作为第三信息类型，计算得到M种第二对象类别的行为评价测试准确率的平均值AAM，作为OldAAM，计算得到M种第二对象类别的行为评价测试准确率的标准差ADM，作为OldADM，计算得到M种第二对象类别的行为评价测试偏见率IM，作为OldIM；筛选集合初始化步骤：将K种第一信息类型加入筛选集合；开始尝试步骤：从所述筛选集合中提取未标记为已删除或不能删除的且Q1i最大的第一信息类型，作为第四信息类型，在所述筛选集合中将所述第四信息类型标记为待删除；第三信息类型行为评价步骤：将所述筛选集合中未标记为待删除、已删除的所有第一信息类型作为第三信息类型，计算得到M种第二对象类别的行为评价测试准确率的平均值AAM，作为NewAAM，M种第二对象类别的行为评价测试准确率的标准差ADM，作为NewADM，M种第二对象类别的行为评价测试偏见率IM，作为NewIM；可删除判断步骤：判断是否满足预设条件，若满足，则在所述筛选集合中将所述第四信息类型标记为已删除，若不满足，则在所述筛选集合中将所述第四信息类型标记为不能删除；所述预设条件包括NewAAM>（OldAAM-预设容忍阈值）且NewADM<OldADMM且NewIM<OldIM，或包括NewAAM>（OldAAM-预设容忍阈值）且NewADM<OldADMM，或包括NewAAM>（OldAAM-预设容忍阈值）且NewIM<OldIM；执行控制步骤：判断所述筛选集合是否还存在未标记为已删除或不能删除的第一信息类型，若存在，则回到所述开始尝试步骤重新执行上述步骤，若不存在，将最新的行为预测深度学习模型，作为消除偏见后的行为预测深度学习模型，将所述筛选集合中标记为不能删除的第一信息类型作为第二信息类型。优选地，所述方法还包括：第一对象获取步骤：获取待预测的对象，作为第一对象；第一对象信息获取步骤：获取所述第一对象在过去第一预设时长内的所述第二信息类型的信息；第一使用步骤：将所述第一对象在过去第一预设时长内的所述第二信息类型的信息输入所述消除偏见后的行为预测深度学习模型，计算得到的输出作为所述第一对象的在第一预设时长后的第二预设时长内的行为的评价值；第一对象行为判断步骤：判断所述行为的评价值是否大于预设评价值阈值，若大于，则判断所述第一对象为会产生所述第一类型行为的对象，否则判断所述第一对象为不会产生所述第一类型行为的对象。优选地，所述方法还包括：类别训练步骤：获取无监督训练数据集，将所述数据集中的在第一预设时长内每一所述第一样本对象的所述第一样本信息类型的信息作为深度学习模型的输入，对深度学习模型进行无监督训练；获取有监督训练数据集，将所述数据集中的在第一预设时长内每一所述第一样本对象的所述第一样本信息类型的信息作为深度学习模型的输入，将所述数据集中的所述每一所述第一样本对象所属的第二类别作为深度学习模型的预期输出，对深度学习模型进行有监督训练，得到训练后的深度学习模型作为类别深度学习模型；类别测试步骤：获取测试数据集，将所述数据集中的在第一预设时长内每一所述第一样本对象的所述第一样本信息类型的信息作为深度学习模型的输入，将所述数据集中的所述每一所述第一样本对象所属的第二类别作为所述类别深度学习模型的预期输出，对深度学习模型进行测试，统计预期输出中所述每一所述第一样本对象所属的第二类别与实际输出中所述每一所述第一样本对象所属的第二类别一致的次数为X1，统计预期输出中所述每一每一所述第一样本对象所属的第二类别与实际输出中所述每一所述第一样本对象所属的第二类别不一致的次数为X2，则分类测试准确率P1为X1/（X1+X2）；所述第一类别分类准确率计算步骤具体包括：将K种第一信息类型作为第一样本信息类型，将第一对象类别的对象作为所述类别训练步骤和所述类别测试步骤中的第一样本对象，执行所述类别训练步骤和所述类别测试本文档来自技高网...

【技术保护点】
1.一种人工智能方法，其特征在于，所述方法包括：/n第一信息类型获取步骤：获取K种预设类型，作为K种第一信息类型；/n第一对象类别获取步骤：获取深度学习模型的训练数据集中的所有对象所属的类别，作为第一对象类别；/n第二对象类别获取步骤：获取所述第一对象类别的需检测和防范偏见的所有子类别的数量M，将所述M个子类别作为M个第二对象类别；/n第一类别分类准确率计算步骤：将K种第一信息类型作为第一样本信息类型，将第一对象类别的对象作为第一样本对象，计算得到分类预测准确率P1，作为第一类别分类准确率；/n第j子类别分类准确率计算步骤：将K种第一信息类型作为第一样本信息类型，将第j种(j＝1，2，…,M)第二对象类别的对象作为第一样本对象，计算得到所述分类预测准确率P1，作为第j子类别分类准确率P1j；/n第i种第一类别分类准确率计算步骤：将第i种(i＝1，2，…,K)第一信息类型从K种第一信息类型中删去，得到的K-1种第一信息类型，作为第一样本信息类型，将第一对象类别的对象作为第一样本对象，计算得到所述分类预测准确率P1，作为第i种第一类别分类准确率P1i；/n第i种第j子类别的分类测试准确率计算步骤：将第i种(i＝1，2，…,K)第一信息类型从K种第一信息类型中删去，得到的K-1种第一信息类型，作为第一样本信息类型，将第j种(j＝1，2，…,M)第二对象类别的对象作为第一样本对象，计算得到所述分类测试准确率P1，作为第i种第j子类别的分类测试准确率P1ij；/n第i种第一信息类型与第二对象类别的相关度评估步骤：对j＝1，2，…,M，计算第一类别分类测试准确率与第i种第一类别分类测试准确率的差异度DFi，计算每一子类别分类测试准确率与第i种每一子类别分类测试准确率的差异度DFij，根据DFi与DFij计算第i种第一信息类型与第二对象类别的相关度的衡量指标Q1i；/nK种第一信息类型行为评价步骤：将所述K种第一信息类型作为第三信息类型，计算得到M种第二对象类别的行为评价测试准确率的平均值AAM，作为OldAAM，计算得到M种第二对象类别的行为评价测试准确率的标准差ADM，作为OldADM，计算得到M种第二对象类别的行为评价测试偏见率IM，作为OldIM；/n筛选集合初始化步骤：将K种第一信息类型加入筛选集合；/n开始尝试步骤：从所述筛选集合中提取未标记为已删除或不能删除的且Q1i最大的第一信息类型，作为第四信息类型，在所述筛选集合中将所述第四信息类型标记为待删除；/n第三信息类型行为评价步骤：将所述筛选集合中未标记为待删除、已删除的所有第一信息类型作为第三信息类型，计算得到M种第二对象类别的行为评价测试准确率的平均值AAM，作为NewAAM，M种第二对象类别的行为评价测试准确率的标准差ADM，作为NewADM，M种第二对象类别的行为评价测试偏见率IM，作为NewIM；/n可删除判断步骤：判断是否满足预设条件，若满足，则在所述筛选集合中将所述第四信息类型标记为已删除，若不满足，则在所述筛选集合中将所述第四信息类型标记为不能删除；所述预设条件包括NewAAM>(OldAAM-预设容忍阈值)且NewADM<OldADMM且NewIM<OldIM，或包括NewAAM>(OldAAM-预设容忍阈值)且NewADM<OldADMM，或包括NewAAM>(OldAAM-预设容忍阈值)且NewIM<OldIM；/n执行控制步骤：判断所述筛选集合是否还存在未标记为已删除或不能删除的第一信息类型，若存在，则回到所述开始尝试步骤重新执行上述步骤，若不存在，将最新的行为预测深度学习模型，作为消除偏见后的行为预测深度学习模型，将所述筛选集合中标记为不能删除的第一信息类型作为第二信息类型。/n...

【技术特征摘要】
1.一种人工智能方法，其特征在于，所述方法包括：
第一信息类型获取步骤：获取K种预设类型，作为K种第一信息类型；
第一对象类别获取步骤：获取深度学习模型的训练数据集中的所有对象所属的类别，作为第一对象类别；
第二对象类别获取步骤：获取所述第一对象类别的需检测和防范偏见的所有子类别的数量M，将所述M个子类别作为M个第二对象类别；
第一类别分类准确率计算步骤：将K种第一信息类型作为第一样本信息类型，将第一对象类别的对象作为第一样本对象，计算得到分类预测准确率P1，作为第一类别分类准确率；
第j子类别分类准确率计算步骤：将K种第一信息类型作为第一样本信息类型，将第j种(j＝1，2，…,M)第二对象类别的对象作为第一样本对象，计算得到所述分类预测准确率P1，作为第j子类别分类准确率P1j；
第i种第一类别分类准确率计算步骤：将第i种(i＝1，2，…,K)第一信息类型从K种第一信息类型中删去，得到的K-1种第一信息类型，作为第一样本信息类型，将第一对象类别的对象作为第一样本对象，计算得到所述分类预测准确率P1，作为第i种第一类别分类准确率P1i；
第i种第j子类别的分类测试准确率计算步骤：将第i种(i＝1，2，…,K)第一信息类型从K种第一信息类型中删去，得到的K-1种第一信息类型，作为第一样本信息类型，将第j种(j＝1，2，…,M)第二对象类别的对象作为第一样本对象，计算得到所述分类测试准确率P1，作为第i种第j子类别的分类测试准确率P1ij；
第i种第一信息类型与第二对象类别的相关度评估步骤：对j＝1，2，…,M，计算第一类别分类测试准确率与第i种第一类别分类测试准确率的差异度DFi，计算每一子类别分类测试准确率与第i种每一子类别分类测试准确率的差异度DFij，根据DFi与DFij计算第i种第一信息类型与第二对象类别的相关度的衡量指标Q1i；
K种第一信息类型行为评价步骤：将所述K种第一信息类型作为第三信息类型，计算得到M种第二对象类别的行为评价测试准确率的平均值AAM，作为OldAAM，计算得到M种第二对象类别的行为评价测试准确率的标准差ADM，作为OldADM，计算得到M种第二对象类别的行为评价测试偏见率IM，作为OldIM；
筛选集合初始化步骤：将K种第一信息类型加入筛选集合；
开始尝试步骤：从所述筛选集合中提取未标记为已删除或不能删除的且Q1i最大的第一信息类型，作为第四信息类型，在所述筛选集合中将所述第四信息类型标记为待删除；
第三信息类型行为评价步骤：将所述筛选集合中未标记为待删除、已删除的所有第一信息类型作为第三信息类型，计算得到M种第二对象类别的行为评价测试准确率的平均值AAM，作为NewAAM，M种第二对象类别的行为评价测试准确率的标准差ADM，作为NewADM，M种第二对象类别的行为评价测试偏见率IM，作为NewIM；
可删除判断步骤：判断是否满足预设条件，若满足，则在所述筛选集合中将所述第四信息类型标记为已删除，若不满足，则在所述筛选集合中将所述第四信息类型标记为不能删除；所述预设条件包括NewAAM>(OldAAM-预设容忍阈值)且NewADM<OldADMM且NewIM<OldIM，或包括NewAAM>(OldAAM-预设容忍阈值)且NewADM<OldADMM，或包括NewAAM>(OldAAM-预设容忍阈值)且NewIM<OldIM；
执行控制步骤：判断所述筛选集合是否还存在未标记为已删除或不能删除的第一信息类型，若存在，则回到所述开始尝试步骤重新执行上述步骤，若不存在，将最新的行为预测深度学习模型，作为消除偏见后的行为预测深度学习模型，将所述筛选集合中标记为不能删除的第一信息类型作为第二信息类型。


2.根据权利要求1所述的人工智能方法，其特征在于，所述方法还包括：
第一对象获取步骤：获取待预测的对象，作为第一对象；
第一对象信息获取步骤：获取所述第一对象在过去第一预设时长内的所述第二信息类型的信息；
第一使用步骤：将所述第一对象在过去第一预设时长内的所述第二信息类型的信息输入所述消除偏见后的行为预测深度学习模型，计算得到的输出作为所述第一对象的在第一预设时长后的第二预设时长内的行为的评价值；
第一对象行为判断步骤：判断所述行为的评价值是否大于预设评价值阈值，若大于，则判断所述第一对象为会产生所述第一类型行为的对象，否则判断所述第一对象为不会产生所述第一类型行为的对象。


3.根据权利要求1所述的人工智能方法，其特征在于，
所述方法还包括：
类别训练步骤：获取训练数据集，将所述数据集中的在第一预设时长内每一所述第一样本对象的所述第一样本信息类型的信息作为深度学习模型的输入，将所述数据集中的所述每一所述第一样本对象所属的第二类别作为深度学习模型的预期输出，对深度学习模型进行训练，得到训练后的深度学习模型作为类别深度学习模型；
类别测试步骤：获取测试数据集，将所述数据集中的在第一预设时长内每一所述第一样本对象的所述第一样本信息类型的信息作为深度学习模型的输入，将所述数据集中的所述每一所述第一样本对象所属的第二类别作为所述类别深度学习模型的预期输出，对深度学习模型进行测试，统计预期输出中所述每一所述第一样本对象所属的第二类别与实际输出中所述每一所述第一样本对象所属的第二类别一致的次数为X1，统计预期输出中所述每一每一所述第一样本对象所属的第二类别与实际输出中所述每一所述第一样本对象所属的第二类别不一致的次数为X2，则分类测试准确率P1为X1/(X1+X2)；
所述第一类别分类准确率计算步骤具体包括：
将K种第一信息类型作为第一样本信息类型，将第一对象类别的对象作为所述类别训练步骤和所述类别测试步骤中的第一样本对象，执行所述类别训练步骤和所述类别测试步骤，得到所述分类预测准确率P1，作为第一类别分类准确率；
所述第j子类别分类准确率计算步骤具体包括：
将K种第一信息类型作为第一样本信息类型，将第j种(j＝1，2，…,M)第二对象类别的对象作为第一样本对象，执行所述类别测试步骤，得到所述分类预测准确率P1，作为第j子类别分类准确率P1j；
所述第i种第一类别分类准确率计算步骤具体包括：
将第i种(i＝1，2，…,K)第一信息类型从K种第一信息类型中删去，得到的K-1种第一信息类型，作为第一样本信息类型，将第一对象类别的对象作为所述类别训练步骤和所述类别测试步骤中的第一样本对象，执行所述类别训练步骤和所述类别测试步骤，得到所述分类预测准确率P1，作为第i种第一类别分类准确率P1i；
所述第i种第j子类别的分类测试准确率计算步骤具体包括：
将第i种(i＝1，2，…,K)第一信息类型从K种第一信息类型中删去，得到的K-1种第一信息类型，作为第一样本信息类型，将第j种(j＝1，2，…,M)第二对象类别的对象作为第一样本对象，执行所述类别测试步骤，得到所述分类测试准确率P1，作为第i种第j子类别的分类测试准确率P1ij。


4.根据权利要求1所述的人工智能方法，其特征在于，
所述方法还包括：
第三信息类型测试步骤：将第三信息类型，作为第二样本信息类型，将第一对象类别的对象作为第二样本对象，训练深度学习模型；将第三信息类型，作为第二样本信息类型，将第j种(j＝1，2，…,M)第二对象类别的对象作为第二样本对象，输入所述深度学习模型进行测试，得到所述行为评价测试准确率P2，作为第j子类别的行为评价测试准确率P2j，得到的所述行为评价测试倾斜率B1，作为第j子类别的行为评价测试倾斜率B1j；对j＝1，2，…,M分别计算得到每一第二对象类别的行为评价测试准确率P2j(j＝1，2，…,M)即P21、P22、…、P2M，每一第二对象类别的行为评价测试倾斜率B1j(j＝1，2，…,M)即B11、B12、…、B1M；
行为评价测试准确率平均值与标准差计算步骤：根据所述第三信息类型测试步骤得到的每一第二对象类别的行为评价测试准确率P2j(j＝1，2，…,M)即P21、P22、…、P2M，计算得到M种第二对象类别的行为评价测试准确率的平均值AAM，M种第二对象类别的行为评价测试准确率的标准差ADM；
行为评价测试偏见率计算步骤：根据所述第三信息类型测试步骤得到的每一第二对象类别的行为评价测试倾斜率B1j(j＝1，2，…,M)即B11、B12、…、B1M，计算得到M种第二对象类别的行为评价测试偏见率IM；
第i种第一信息类型与第二对象类别的相关度评估步骤具体包括：
Q1i计算步骤：DFi＝|P1-P1i|；DFij＝(((P11-P1i1)^2+(P12-P1i2)^2+…+(P1M-P1iM)^2)/M)^(1/2)或DFij＝(|P11-P1i1|+|P12-P1i2|+…+|P1j-P1ij|)/M；Q1i＝k1*DFi+k2*DFij；
所述K种第一信息类型行为评价步骤具体包括：
将所述K种第...

【专利技术属性】
技术研发人员：朱定局，
申请(专利权)人：华南师范大学，
类型：发明
国别省市：广东;44