一种基于模型自蒸馏的数据处理方法、装置、设备及介质制造方法及图纸

本说明书公开了一种基于模型自蒸馏的数据处理方法、装置、设备及介质。方法包括：将已标注分类标签的训练样本输入至目标分类模型，得到所述目标分类模型针对所述训练样本的分类预测结果，其中，所述训练样本为样本商户群体的关系图谱，所述目标分类模型包含有由多个子网络组成的图神经网络，所述多个子网络用于对所述训练样本进行编码。基于分类预测结果与所述分类标签之间的损失函数，以及预设约束项，确定目标分类模型的训练梯度，其中，所述预设约束项用于约束所述图神经网络中在后编码的子网络的非平滑度大于在前编码的子网络的非平滑度。基于所述训练梯度，对图神经网络进行调整，以提升图神经网络对关系图谱的编码能力。力。力。

【技术实现步骤摘要】
一种基于模型自蒸馏的数据处理方法、装置、设备及介质


[0001]本文件属于人工智能
，尤其涉及一种基于模型自蒸馏的数据处理方法、装置、设备及介质。

技术介绍

[0002]随着人工智能技术的发展，基于模型执行的风控应用已得到越来越多的普及。现阶段，绝大部分针对商户的风险识别方案主要是根据商户个体的一些特征信息来进行风险预测。虽然说这类预测方式也能够结合一些商户与商户之间的关系特征，但本质上还是将商户作为个体样本进行孤立计算，缺乏从关系网络和风险传导的角度对风险作进一步分析。
[0003]而要体现出商户之间的关系网络及风险传导的特性，图算法显然是模型更为合适的选择。图算法能够将商户之间关系类数据映射成关系图谱，不仅提取商户作为主体的属性信息，同时又能够挖掘商户之间关联关系的风险传导性，可以与传统方式结合形成优势互补。为此，如何对商户群体的关系图谱实现准确的特征编码，以应用于下游的风险识别任务，是当前亟需解决的技术问题。

技术实现思路

[0004]本说明书实施例提供了一种基于模型自蒸馏的数据处理方法、装置、设备及介质，能本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于模型自蒸馏的数据处理方法，包括：将已标注分类标签的训练样本输入至目标分类模型，得到所述目标分类模型针对所述训练样本的分类预测结果，其中，所述训练样本为样本商户群体的关系图谱，所述目标分类模型包含有由多个子网络组成的图神经网络，所述多个子网络用于对所述训练样本进行编码；基于分类预测结果与所述分类标签之间的损失函数，以及预设约束项，确定所述目标分类模型的训练梯度，其中，所述预设约束项用于约束所述图神经网络中在后编码的子网络的非平滑度大于在前编码的子网络的非平滑度；基于所述训练梯度，对所述图神经网络进行调整，以提升所述图神经网络对关系图谱的编码能力。2.根据权利要求1所述的方法，所述样本商户群体的关系图谱中的节点表示个体，所述样本商户群体的关系图谱中的边表示个体之间的关联关系，所述图神经网络中任意目标子网络的非平滑度是基于该目标子网络对应所述训练样本的编码结果的邻域差异率所确定得到的，所述邻域差异率用于反映所述训练样本中各节点的编码结果与对应的相邻节点的编码结果之间的差异度。3.根据权利要求2所述的方法，所述邻域差异率是基于所述训练样本中各节点的编码结果与对应的整体邻域的虚拟节点的编码结果之间的数据距离所确定得到的，其中，所述整体邻域的虚拟节点的编码结果是对所有相邻节点的编码结果进行聚合得到的。4.根据权利要求2所述的方法，所述预设约束项用于以所述图神经网络中邻域差异率最大的子网络为起始，约束在后编码的子网络的非平滑度大于在前编码的子网络的非平滑度。5.根据权利要求1所述的方法，所述基于目标函数确定所述目标分类模型的训练梯度，包括：对目标函数进行最小化求解，确定所述目标分类模型的训练梯度，其中，所述预设约束项用于对所述图神经网络中所有符合自适应差异保留策略的相邻子网络之间的非平滑度差值进行计算，并对计算结果进行求和，所述自适应差异保留策略包括在后编码的子网络的非平滑度小于对应的在前编码的子网络的非平滑度。6.根据权利要求2至4任一项所述的方法，所述关联关系包括商户之间的交易关系、交易执行介质关系和社交关系中的至少一者。7.根据权利要求1至5任一项所述的方法，在所述基于所述训练梯度，对所述图神经网络进行调整后，还包括：基于所述图神经网络对包含有目标商户的商户群体的关系图谱进行编码，得到目标编码结果；以及，基于所述目标编码结果，对所述目标商户进行风险识别。8.根据权利要求1至5任一项所述的方法，所述多个子网络在所述图神经网络中为串行结构；在所述基于所述训练梯度，对所...

【专利技术属性】
技术研发人员：高睿哲，
申请(专利权)人：支付宝杭州信息技术有限公司，
类型：发明
国别省市：