基于动态异构冗余构造内生安全人工智能系统的方法及装置制造方法及图纸

本发明专利技术公开基于动态异构冗余构造内生安全人工智能系统的方法及装置，该方法包括：对输入的原始数据集实施多种异构处理方式，将原始数据集扩增为异构冗余的数据集；基于当前的多元化硬件、框架和模型搭建人工智能基础平台，并基于扩增后的数据集训练生成异构冗余的人工智能系统池；从人工智能系统池中随机选取N个异构的人工智能系统，通过N个异构的人工智能系统分别对推理或者测试数据进行独立并行处理，结合系统置信度和大数判决输出最终处理结果；同时，通过周期性或者异常判决触发的负反馈调度机制，对部分人工智能系统进行下线重训练并从人工智能系统池中调度上线新的异构系统。本发明专利技术可有效防御未知软硬件漏洞/后门引发的攻击和干扰。引发的攻击和干扰。引发的攻击和干扰。

【技术实现步骤摘要】
基于动态异构冗余构造内生安全人工智能系统的方法及装置


[0001]本专利技术涉及人工智能和数据安全
，尤其涉及一种基于动态异构冗余构造内生安全人工智能系统的方法及装置。

技术介绍

[0002]近年来，随着计算硬件和算法技术的快速发展，人工智能（AI）在图像识别、教育、自动驾驶汽车、金融、医疗诊断等广泛领域显示出明显优于人类的优势。然而，从最初的数据收集和准备，到训练、推理和最终部署，基于人工智能的系统在整个过程中通常容易受到各种安全威胁。
[0003]这种安全风险存在的根本原因是AI系统设计之初普遍未考虑相关的安全威胁，使得AI系统的判断结果容易被恶意攻击者影响，导致AI系统判断失准。在工业、医疗、交通、监控等关键领域，安全危害尤为巨大；如果AI系统被恶意攻击，轻则造成财产损失，重则威胁人身安全。
[0004]AI安全风险不仅仅存在于理论分析，并且真实的存在于现今各种AI应用中。例如攻击者通过修改恶意文件绕开恶意文件检测或恶意流量检测等基于AI的检测工具；加入简单的噪音，致使家中的语音控制系统成功调用恶意应用；刻意修改终端本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于动态异构冗余构造内生安全人工智能系统的方法，其特征在于，包括：在训练阶段，对输入的原始数据集实施多种异构处理方式，将原始数据集扩增为异构冗余的数据集；在训练阶段，基于当前的多元化硬件、框架和模型搭建人工智能基础平台，并基于扩增后的数据集训练生成异构冗余的人工智能系统池；在推理和部署阶段，从人工智能系统池中随机选取N个异构的人工智能系统，通过N个异构的人工智能系统分别对推理或者测试数据进行独立并行处理，结合系统置信度和大数判决输出最终处理结果；同时，通过周期性或者异常判决触发的负反馈调度机制，对部分人工智能系统进行下线重训练并从人工智能系统池中调度上线新的异构系统。2.根据权利要求1所述的基于动态异构冗余构造内生安全人工智能系统的方法，其特征在于，在训练阶段，对原始数据集施加多种异构冗余的图像处理方法，包括强度变换、图像掩膜、对抗训练，将原始单一的数据集异构扩增为具备多样化属性的冗余数据集。3.根据权利要求1所述的基于动态异构冗余构造内生安全人工智能系统的方法，其特征在于，所述多元化硬件、框架和模型分别指的是不同的人工智能硬件算力平台、人工智能框架和人工智能模型。4.一种基于动态异构冗余构造内生安全人工智能系...

【专利技术属性】
技术研发人员：胡涛，谢记超，伊鹏，马海龙，张震，段通，于婧，韩伟涛，王文博，陈祥，张风雨，
申请(专利权)人：中国人民解放军战略支援部队信息工程大学，
类型：发明
国别省市：