当前位置: 首页 > 专利查询>浙江大学专利>正文

对抗样本检测方法、装置和计算机设备制造方法及图纸

技术编号:41295334 阅读:14 留言:0更新日期:2024-05-13 14:44
本申请涉及一种对抗样本检测方法、装置和计算机设备,其中,该检测方法应用于核验终端,包括:获取验证终端发送的待测图像和验证码模型特征;其中,该验证码模型特征,是由该验证终端对该待测图像进行验证特征提取处理得到的;该验证终端连接该核验终端;对该待测图像进行核验特征提取处理,得到核验码模型特征;根据该验证码模型特征和该核验码模型特征,得到针对该待测图像的对样样本检测结果。通过本申请,解决了深度学习模型应用的安全性低的问题。

【技术实现步骤摘要】

本申请涉及人工智能领域,特别是涉及对抗样本检测方法、装置和计算机设备


技术介绍

1、结合深度学习在自动寻找新特征的功能方面的巨大应用潜力,深度学习已经大量运用于自然语言处理、计算机视觉、生物信息学、复杂网络等领域,并且在一些特定领域显示出了传统方法无法匹及的优越性。如深度学习在处理语音、文本、图像和视频方面实现了出色的功能;通过强化学习,ai游戏、自动驾驶汽车、机器人等方面取得了重大进展。

2、然而,经过对深度学习的不断深入研究,学者发现深度学习容易被扰动干扰,即深度学习模型容易受到对抗攻击。加入轻微扰动后的对抗样本并不能被人眼所识别,但是极大地困扰了深度学习模型,使其将对抗样本错误分类,进一步威胁到基于深度学习模型的系统的安全性,如欺骗人脸识别系统、使自动驾驶车辆错误识别路牌等事件,从而威胁到人们的生命财产安全。

3、目前针对相关技术中深度学习模型应用的安全性低的问题,尚未提出有效的解决方案。


技术实现思路

1、本申请实施例提供了一种对抗样本检测方法、装置和计算机设备,以至少解决相本文档来自技高网...

【技术保护点】

1.一种对抗样本检测方法,其特征在于,应用于核验终端;所述方法包括:

2.根据权利要求1所述的检测方法,其特征在于,所述验证码模型特征,是由所述验证终端确定所述待测图像对应的目标深度学习模型,并将所述待测图像输入至所述目标深度学习模型进行特征提取处理得到的。

3.根据权利要求2所述的检测方法,其特征在于,所述对所述待测图像进行核验模型特征提取处理,得到核验码模型特征,包括:

4.根据权利要求1所述的检测方法,其特征在于,所述方法还包括:

5.根据权利要求4所述的检测方法,其特征在于,所述根据所述第一图像特征和所述第二图像特征对所述待测图像进...

【技术特征摘要】

1.一种对抗样本检测方法,其特征在于,应用于核验终端;所述方法包括:

2.根据权利要求1所述的检测方法,其特征在于,所述验证码模型特征,是由所述验证终端确定所述待测图像对应的目标深度学习模型,并将所述待测图像输入至所述目标深度学习模型进行特征提取处理得到的。

3.根据权利要求2所述的检测方法,其特征在于,所述对所述待测图像进行核验模型特征提取处理,得到核验码模型特征,包括:

4.根据权利要求1所述的检测方法,其特征在于,所述方法还包括:

5.根据权利要求4所述的检测方法,其特征在于,所述根据所述第一图像特征和所述第二图像特征对所述待测图像进行几何校准,得到校准图像,包括:

6.根据权利要求1所...

【专利技术属性】
技术研发人员:沈浩頲杨明浩
申请(专利权)人:浙江大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1