【技术实现步骤摘要】
本申请涉及信息处理，尤其涉及一种反ai诈骗的方法、电子设备。
技术介绍
1、随着技术的进步以及ai的兴起，使用ai的方式进行诈骗的方式成功率较高，针对该类诈骗目前尚未有解决方法。
技术实现思路
1、本申请提供一种反ai诈骗的方法、电子设备，以解决相关技术中存在的问题。
2、第一方面，本专利技术提供一种反ai诈骗的方法，包括当目标登录账号接收到交互请求时，获取请求用户端的账号；基于风险账号识别规则确定所述请求用户端的账号是否属于风险账号；如果属于风险账号，基于所述交互请求指示的内容，利用预设的风险识别规则对所述内容进行风险识别，以确定所述内容是否为基于人工智能生成的内容，其中，对所述内容包含的不同交互类型的内容分别进行风险识别得到子风险识别结果后，基于预设的权重值确定目标风险识别结果；基于所述目标风险识别结果，在所述目标登录账号所在的用户端界面中呈现预设提示内容。
3、可选地，对所述内容包含的不同交互类型的内容分别进行风险识别得到子风险识别结果包括：如果所述交互请求中的内容为图片，基于训练完成的生成对抗网络判别所述内容进行判别；如果所述交互请求中的内容为视频文件，基于所述生成对抗网络对所述内容进行判别，以判断出视频文件是否是人工智能生成的视频；如果所述交互请求中的内容为实时视频，基于训练完成的网络模型识别是否是声控视频；和/或，如果所述交互请求中的内容为包含人脸的实时视频，则基于卷积神经网络确定所述人脸是否为换脸后的人脸图像。
4、可选地，训练网络
5、可选地，基于训练完成的卷积神经网络确定所述人脸是否为换脸后的人脸图像包括：获取所述目标登录账号下的头像数据，并基于卷积神经网络提取面部边缘特征；提取包含人脸的实时视频帧中的图片，并基于卷积神经网络进行边缘提取；确定各个帧面部图像中面部的边缘特征向量变化量；如果所述变化量小于第一阈值，将所述边缘特征向量与所述面部边缘特征进行对比，其中，如果对比结果小于第二阈值则为换脸后的人脸图像。
6、可选地，训练卷积神经网络以确定所述人脸是否为换脸后的人脸图像包括：
7、配置卷积神经网络，包括：设置确定卷积核的尺寸和高斯函数标准差，其中，所述高斯函数标准差为σ=1， ；使用图像的梯度进行边缘提取，其中梯度的模用于反映边缘信息，其中，图像由二位像素点组成，定义x为横向像素点的取值，y为纵向像素点的取值激活函数为f(z) =，z表示神经网络神经元输出计算z=+b，其中，神经网络的神经元有n个输入，每个输入都有权重值和输入值；第i个输入以表示其权重，以表示输入值，b表示偏置，输出值是将所有输入的权重乘以输入值的总和加上偏置；获取所述目标登录账号下的包含人脸的图片或者视频作为训练样本，对所述卷积神经网络进行训练。
8、可选地，如果所述交互请求中的内容为包含人脸的实时视频，则基于卷积神经网络确定所述人脸是否为换脸后的人脸图像包括：将包含人脸的实时视频输入至所述生成对抗网络中，输出第三识别结果；将包含人脸的实时视频输入至所述卷积神经网络中，输出第四识别结果；基于预设的识别权重，两种识别方式得到结果，利用加权求和方式计算第二最终识别结果；基于第二最终识别结果与第二预设阈值的大小关系，判定是否为换脸后的人脸图像。
9、可选地，所述生成对抗网络为：；其中，g表示生成模型；d表示判别模型；表示期望值；表示原图片或视频，表示训练生成的图片或视频，v(d,g)表示估值函数，表示随机输入真实分布样本数据，其中表示真实分布，x的取值小于给定的真实样本总数；表示随机输入噪声样本数据，噪声数据分布，z的取值小于生成的给定假样本总数；d(x)表示判别真实样本结果，d(g(z))中g(z)表示生成器中基于z生成的假数据，d(g(z))表示判别器在假数据g(z)上判处的结果，上述d(x),d(g(z))是判别结果为真的概率，取值范围0~1，log(d(x)中，因log函数是增函数，d(x)值越大，log(d(x))的值越大；在中越小，函数值越大，对于判别器来说，判别生成假的假数据为真的概率值越小越好，整体期望值越大越好；反之对于生成器期望值越小越好。
10、可选地，使用梯度上升策略训练判别器：；其中，表示随机分布的资料采集到的m个的真实样本{}；表示从噪声先验分布中采集的m个噪声样本{}；d()表示真实样本真实的概率；d(g())表示判断g生成的噪声样本是否的真实概率，判别器参数，表示梯度。
11、可选地，所述基于风险账号识别规则确定所述请求用户端的账号是否属于风险账号包括：判断请求用户端的账号是否存在更换用户端设备，如果存在则对所述账号进行一次风险标记；对于一次风险标记的账号，判断请求用户端的账号是否存在过预设使用行为数据，如果存在则确定为风险账号。
12、第二方面，本专利技术提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现第一方面提供的一种反ai诈骗的方法。
13、本专利技术公开了一种反ai诈骗的方法，包括：当目标登录账号接收到交互请求时，获取请求用户端的账号；基于风险账号识别规则确定所述请求用户端的账号是否属于风险账号；如果属于风险账号，基于所述交互请求指示的内容，利用预设的风险识别规则对所述内容进行风险识别，以确定所述内容是否为基于人工智能生成的内容，其中，对所述内容包含的不同交互类型的内容分别进行风险识别得到子风险识别结果后，基于预设的权重值确定目标风险识别结果；基于所述目标风险识别结果，在所述目标登录账号所在的用户端界面中呈现预设提示内容。基于ai实现基于ai诈骗的识别，能够帮助用户最大程度降低被诈骗的风险。克服了相关技术中无法对交互过程中的诈骗行为进行识别的问题。
本文档来自技高网...【技术保护点】
1.一种反AI诈骗的方法，其特征在于，包括：
2.根据权利要求1所述的反AI诈骗的方法，其特征在于，对所述内容包含的不同交互类型的内容分别进行风险识别得到子风险识别结果包括：
3.根据权利要求2所述的反AI诈骗的方法，其特征在于，训练网络模型以识别是否是声控视频包括：
4.根据权利要求2所述的反AI诈骗的方法，其特征在于，基于训练完成的卷积神经网络确定所述人脸是否为换脸后的人脸图像包括：
5.根据权利要求4所述的反AI诈骗的方法，其特征在于，训练卷积神经网络以确定所述人脸是否为换脸后的人脸图像包括：
6.根据权利要求2所述的反AI诈骗的方法，其特征在于，如果所述交互请求中的内容为包含人脸的实时视频，则基于卷积神经网络确定所述人脸是否为换脸后的人脸图像包括：
7.根据权利要求2-6任一项所述的反AI诈骗的方法，其特征在于，所述生成对抗网络为：
8.根据权利要求7所述的反AI诈骗的方法，其特征在于，使用梯度上升策略训练判别器：；其中，表示随机分布的资料采集到的m个的真实样本{}；表示从噪声先验分布中采
9.根据权利要求1所述的反AI诈骗的方法，其特征在于，所述基于风险账号识别规则确定所述请求用户端的账号是否属于风险账号包括：
10.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现上述权利要求1~9任一项所述的方法。
...【技术特征摘要】
1.一种反ai诈骗的方法，其特征在于，包括：
2.根据权利要求1所述的反ai诈骗的方法，其特征在于，对所述内容包含的不同交互类型的内容分别进行风险识别得到子风险识别结果包括：
3.根据权利要求2所述的反ai诈骗的方法，其特征在于，训练网络模型以识别是否是声控视频包括：
4.根据权利要求2所述的反ai诈骗的方法，其特征在于，基于训练完成的卷积神经网络确定所述人脸是否为换脸后的人脸图像包括：
5.根据权利要求4所述的反ai诈骗的方法，其特征在于，训练卷积神经网络以确定所述人脸是否为换脸后的人脸图像包括：
6.根据权利要求2所述的反ai诈骗的方法，其特征在于，如果所述交互请求中的内容为包含人脸的实时视频，则基于卷积神经网络确定所述人脸是否为换脸后的人脸图像...
【专利技术属性】
技术研发人员：李威伟，沈浩，韩松乔，毛志国，李万松，陈明，毛杨，段云湖，
申请(专利权)人：上海帜讯信息技术股份有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。