一种人工智能软件的可信性测评方法技术

本发明专利技术实施例提供一种人工智能软件的可信性测评方法

【技术实现步骤摘要】
一种人工智能软件的可信性测评方法


[0001]本申请涉及软件测评
，尤其涉及一种人工智能软件的可信性测评方法
。

技术介绍

[0002]人工智能是面向装备发展的必然趋势，可信性成为人工智能软件“顶用”“好用”“敢用”的关键
。
随着人工智能系统功能规模越来越大，系统也越来越脆弱
。
很多时候不以人们期望的方式工作，经常发生各种事故和失效，直接或间接地给用户带来损失
。
人工智能系统软件不总是让人信任的，导致“软件可信性”问题
。
人工智能软件的测试验证技术面临新的挑战，由于智能算法具有在随机性
、
自主性
、
学习性，传统的代码走查
、
公式理论计算
、
典型用例等测试方法已不适用，人工智能软件通过数据驱动建模完成预测或决策任务，这种数据驱动建模使得系统行为随训练数据改变而改变；另一方面，模型的统计学本质使得系统的输出具有不确定性，难以找到测试预言
。
人工智能软件与传统的软件系统不同，数据驱动特性和内部行为分析方法的缺失使得其往往被当作无法解释的黑盒；软件行为具有不确定性
、
自适应性导致人工智能软件测试面临着测试数据难以构造
、
测试结果难以判断
、
可信性难以评价等技术难题
。

技术实现思路

[0003]本专利技术分析了人工智能软件可信性机理，提出了“类人”的人工智能软件缺陷模式分析方法，形成有效提高测试覆盖率的人工智能软件可信性验证技术，提出一种多维度多视角的人工智能软件可信性指标体系及可信性评价方法，为提高人工智能软件可信性
、
开展人工智能软件验证提供技术支撑
。
[0004]一种人工智能软件的可信性测评方法，包括：
[0005]确定人工智能软件可信性机理；
[0006]人工智能软件缺陷模式分析；
[0007]多手段的人工智能软件可信性验证数据生成；
[0008]开展人工智能软件测试，验证测试充分性；
[0009]根据人工智能软件可信性机理中的软件组成
、
软件特征以及人工智能软件可信性属性，构建人工智能软件可信性评价指标模型；
[0010]进行基于统一量化和模糊评价的人工智能软件可信性综合评价
。
[0011]在一些实施例中，所述确定人工智能软件可信性机理，包括：
[0012]建立人工智能软件特征模型；
[0013]明确人工智能软件特征；
[0014]识别人工智能软件可信性影响因素；
[0015]定义人工智能软件可信性
。
[0016]在一些实施例中，所述建立人工智能软件特征模型，包括：
[0017]人工智能软件特征模型
AI
表示如下：
[0018]AI
＝
[T(I,C,S),F(O,O,D,A)][0019]人工智能软件特性包括技术特征
T
和功能特征
F
，技术特征
T
包括自主性
I、
协同性
C
和学习性
S
，功能特征
F
包括感知
O、
认知
O、
决策
D
和行为
A
功能
。
[0020]在一些实施例中，所述识别人工智能软件可信性影响因素，包括：
[0021]感知层，由软硬件
、
用于目标感知的智能学习算法
、
目标感知的训练样本构成；
[0022]认知层，包括用于目标判断融合的智能学习算法
、
用于目标判断融合的智能学习训练样本，形成目标判断融合的认知能力
。
认知判断功能中的对抗样本
、
复杂目标属性
、
智能算法异常
、
系统安全漏洞
、
复杂战场环境
、
战场态势的实时性均影响软件可信性；
[0023]决策层，包括用于综合决策智能学习算法
、
用于综合决策智能学习训练样本
、
综合决策智能预测能力，智能算法异常
、
系统安全漏洞
、
复杂战场环境
、
复杂任务剖面及数据的复杂性均影响软件可信性；
[0024]行为层，行为功能的输出不确定性
、
不可预知性
、
异常的输出
、
输出不稳定变化及目的设备状态均影响软件可信性；
[0025]从内在行为和外在特性定义人工智能软件可信性
。
[0026]在一些实施例中，所述定义人工智能软件可信性，包括：
[0027]人工智能软件可信性是在规定的条件下和规定的时间内，正确完成预期功能，且不引起系统失效或异常的能力；
[0028]内在行为方面表现为：行为及其结果是可预期的
、
行为状态是可监测的
、
行为结果是可评估的
、
行为异常是可控的；
[0029]外在特性表现为：在内部故障
、
操作错误
、
环境影响及外部攻击干扰时仍能按用户的期望提供正确
、
安全
、
可靠服务的能力；
[0030]从构成上，所述人工智能软件可信性包括数据可信性
、
模型可信性
、
代码可信性
、
应用可信性；
[0031]从属性上，所述人工智能软件可信性包括保密性
、
完整性
、
可用性
、
可控性
、
鲁棒性
、
透明性
、
公平性
、
隐私性
。
[0032]在一些实施例中，所述多手段的人工智能软件可信性验证数据生成，包括：
[0033]根据已有的数据进行数据筛选和清晰，初步形成测试数据集；
[0034]基于模糊测试方式进一步生成对抗样本；
[0035]根据缺陷模式进一步补充生成测试数据
。
[0036]在一些实施例中，所述开展人工智能软件测试，验证测试充分性，包括：
[0037]执行测试，基于人工判别和蜕变关系进行输出结果判断；
[0038]在测试中根据测试覆盖准则评价测试充分性；
[0039]利用变异测试方法验证对测试充分性进一步验证
。
[0040]在一些实施例中，所述进行基于统一量化和模糊评价的人工智能软件可信性综合评价包括：
[0041]进行人工智能软件可信性指标统一量化评价；
[0042]基于层次分析方法对软件可信性指标权重进本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种人工智能软件的可信性测评方法，其特征在于，所述方法包括：确定人工智能软件可信性机理；人工智能软件缺陷模式分析；多手段的人工智能软件可信性验证数据生成；开展人工智能软件测试，验证测试充分性；根据人工智能软件可信性机理中的软件组成
、
软件特征以及人工智能软件可信性属性，构建人工智能软件可信性评价指标模型；进行基于统一量化和模糊评价的人工智能软件可信性综合评价
。2.
根据权利要求1所述的人工智能软件的可信性测评方法，其特征在于，所述确定人工智能软件可信性机理，包括：建立人工智能软件特征模型；明确人工智能软件特征；识别人工智能软件可信性影响因素；定义人工智能软件可信性
。3.
根据权利要求2所述的人工智能软件的可信性测评方法，其特征在于，所述建立人工智能软件特征模型，包括：人工智能软件特征模型
AI
表示如下：
AI
＝
[T(I,C,S),F(O,O,D,A)]
人工智能软件特性包括技术特征
T
和功能特征
F
，技术特征
T
包括自主性
I、
协同性
C
和学习性
S
，功能特征
F
包括感知
O、
认知
O、
决策
D
和行为
A
功能
。4.
根据权利要求2所述的人工智能软件的可信性测评方法，其特征在于，所述识别人工智能软件可信性影响因素，包括：感知层，由软硬件
、
用于目标感知的智能学习算法
、
目标感知的训练样本构成；认知层，包括用于目标判断融合的智能学习算法
、
用于目标判断融合的智能学习训练样本，形成目标判断融合的认知能力
。
认知判断功能中的对抗样本
、
复杂目标属性
、
智能算法异常
、
系统安全漏洞
、
复杂战场环境
、
战场态势的实时性均影响软件可信性；决策层，包括用于综合决策智能学习算法
、
用于综合决策智能学习训练样本
、
综合决策智能预测能力，智能算法异常
、
系统安全漏洞
、
复杂战场环境

【专利技术属性】
技术研发人员：吴立金，张亚铭，张岩，沈晓美，闫然，沈泽华，
申请(专利权)人：中国船舶集团有限公司综合技术经济研究院，
类型：发明
国别省市：