System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种域名检测模型的训练方法、装置、设备及介质制造方法及图纸_技高网

一种域名检测模型的训练方法、装置、设备及介质制造方法及图纸

技术编号:40903441 阅读:3 留言:0更新日期:2024-04-18 14:35
本申请公开了一种域名检测模型的训练方法、装置、设备及介质,涉及人工智能技术领域。该方法包括:统计训练样本集合中所有域名的第一总数量,若第一总数量大于设定的第一数量阈值,则根据训练样本集合中每个域名的域名得分,在训练样本集合中进行筛选,筛选出符合要求的N个目标域名;根据N个目标域名查询映射关系表,确定N个目标域名各自对应的矩阵下标值;根据各矩阵下标值确定N个目标域名各自在向量矩阵中的嵌入向量,并将各嵌入向量输入到网络结构中进行训练,训练得到域名检测模型;按照第一设定周期收集新训练样本集合,并根据新训练样本集合更新所述域名检测模型,得到更新后的域名检测模型。

【技术实现步骤摘要】

本申请涉及人工智能,尤其涉及一种域名检测模型的训练方法、装置、设备及介质


技术介绍

1、域名系统(英文:domain name system,缩写:dns)作为互联网的重要基础设施,承载着域名与ip的双重映射,除了正常的应用外,各种恶意的网络活动,如:僵尸网络、垃圾邮件、钓鱼网站等也利用其获取回连服务器的ip地址,躲避检测。因此,有效检测和识别出恶意的域名,对发现和防范恶意行为传播具有重要意义。

2、当前,智能引擎结合深度学习算法实现域名的检测得到了广泛应用。在深度学习领域中,有很多不同类型的特征(例如,域名、文字、图片、音频等),需通过嵌入(embedding)过程,将这些特征转换为智能引擎能够识别的数值,从而构成m*n的向量矩阵(n表征嵌入向量的维度,m表征嵌入向量的数量)以供后续域名检测模型的训练学习。

3、在实际模型训练场景中,若训练样本中的域名数量过大(例如千万级或亿级),为使每个域名和向量矩阵中的嵌入向量是一一映射,则m的数值也会随之过大,这会导致模型的复杂度大幅度增加,降低模型的训练速度和推理速度。

4、鉴于此,为了提高模型的训练速度和推理速度,便会控制m的数值在设定范围内,通过哈希(hash)方法随机将域名映射为一个整型数值(数值小于或等于向量矩阵的m),这个整型数值是向量矩阵的下标,比如,若域名(www.test.com)映射的整型数值是45,则向量矩阵中的第45个向量是该域名对应的嵌入向量。然而,这种方式会将不同的域名映射为同一个整型数值,也就是不同的域名会有相同的嵌入向量表示,若域名数量与m相差越大,则不同域名由同一向量表示的概率越大,完全不相同的域名由相同的向量表示,会导致向量对域名的表征效果极大降低,也降低了模型的准确性。


技术实现思路

1、本申请提供了一种域名检测模型的训练方法、装置、设备及介质,用以提高该域名检测模型的训练速度,以及保证该域名检测模型的准确性。

2、第一方面,提供一种域名检测模型的训练方法,包括:

3、统计训练样本集合中所有域名的第一总数量,若所述第一总数量大于设定的第一数量阈值,则根据所述训练样本集合中每个域名的域名得分,在所述训练样本集合中进行筛选,筛选出符合要求的n个目标域名;

4、根据所述n个目标域名查询映射关系表,确定所述n个目标域名各自对应的矩阵下标值;其中,所述映射关系表用于表征域名与矩阵下标值之间的映射关系;

5、根据各矩阵下标值确定所述n个目标域名各自在向量矩阵中的嵌入向量,并将所述各嵌入向量输入到网络结构中进行训练,训练得到域名检测模型;

6、按照第一设定周期收集新训练样本集合,并根据所述新训练样本集合更新所述域名检测模型,得到更新后的域名检测模型。

7、本申请实施例中,首先,统计训练样本集合中所有域名的第一总数量,若第一总数量大于设定的第一数量阈值,则根据训练样本集合中每个域名的域名得分,在训练样本集合中进行筛选,筛选出符合要求的n个目标域名;根据n个目标域名查询映射关系表,确定该n个目标域名各自对应的矩阵下标值,根据各矩阵下标值确定该n个目标域名各自在向量矩阵中的嵌入向量,并将各嵌入向量输入到网络结构中进行训练,训练得到域名检测模型,然后,按照第一设定周期收集新训练样本集合,并根据新训练样本集合实时更新该域名检测模型,得到更新后的域名检测模型;由于上述方式采用全量学习与增量学习的结合过程进行模型的更新迭代,且在此过程中,还基于域名得分实现向量矩阵的退出机制,淘汰得分较低的域名,保留得分较高的域名进行模型的训练,并基于新训练样本集合实时更新模型,因此,既能提高模型的训练速度,也能保证模型的准确性。

8、在本申请的一些实施例中,所述根据所述n个目标域名查询映射关系表,确定所述n个目标域名各自对应的矩阵下标值,包括

9、若在所述映射关系表中未查询到所述n个目标域名中第一目标域名对应的矩阵下标值,则为所述第一目标域名分配一个所述向量矩阵的矩阵下标值,并将所述第一目标域名,以及为所述第一目标域名分配的矩阵下标值更新至所述映射关系表中。

10、在本申请的一些实施例中,所述方法,还包括:

11、为所述新训练样本集合中各新增域名分别分配一个所述向量矩阵的矩阵下标值,并将所述各新增域名,以及为所述各新增域名分配的矩阵下标值更新至所述映射关系表中。

12、在本申请的一些实施例中,所述方法,还包括:

13、按照第二设定周期统计所述映射关系表中所有域名的第二总数量;

14、当统计出所述第二总数量大于设定的第二数量阈值时,计算所述映射关系表中每个域名的域名得分;

15、根据所述每个域名的域名得分,将所述映射关系表中所有域名按照域名得分按照降序方式进行排序;

16、将大于所述第二数量阈值的排序值所对应的域名和矩阵下标值,从所述映射关系表中删除,并在所述向量矩阵中,将删除后的域名所对应的嵌入向量进行初始化。

17、在本申请的一些实施例中,所述域名得分,满足以下表达式:

18、

19、其中,所述α、所述β均为设定的影响因子,所述k为当前域名的样本数量,tk为所述当前域名的生成时间,t为所述当前域名的最近样本的生成时间,t0为所述当前域名的最近样本被计算出的生成时间。

20、第二方面,提供一种域名检测模型的训练装置,包括:

21、筛选模块,用于统计训练样本集合中所有域名的第一总数量,若所述第一总数量大于设定的第一数量阈值,则根据所述训练样本集合中每个域名的域名得分,在所述训练样本集合中进行筛选,筛选出符合要求的n个目标域名;

22、确定模块,用于根据所述n个目标域名查询映射关系表,确定所述n个目标域名各自对应的矩阵下标值;其中,所述映射关系表用于表征域名与矩阵下标值之间的映射关系;

23、训练模块,用于根据各矩阵下标值确定所述n个目标域名各自在向量矩阵中的嵌入向量,并将所述各嵌入向量输入到网络结构中进行训练,训练得到域名检测模型;

24、更新模块,用于按照第一设定周期收集新训练样本集合,并根据所述新训练样本集合更新所述域名检测模型,得到更新后的域名检测模型。

25、在本申请的一些实施例中,所述确定模块,具体用于:

26、若在所述映射关系表中未查询到所述n个目标域名中第一目标域名对应的矩阵下标值,则为所述第一目标域名分配一个所述向量矩阵的矩阵下标值,并通过所述更新模块将所述第一目标域名,以及为所述第一目标域名分配的矩阵下标值更新至所述映射关系表中。

27、在本申请的一些实施例中,所述确定模块,还用于:

28、为所述新训练样本集合中各新增域名分别分配一个所述向量矩阵的矩阵下标值,并通过所述更新模块将所述各新增域名,以及为所述各新增域名分配的矩阵下标值更新至所述映射关系表中。

29、在本申请的一些实施例中,所述更本文档来自技高网...

【技术保护点】

1.一种域名检测模型的训练方法,其特征在于,包括:

2.如权利要求1所述的方法,其特征在于,所述根据所述N个目标域名查询映射关系表,确定所述N个目标域名各自对应的矩阵下标值,包括

3.如权利要求1所述的方法,其特征在于,所述方法,还包括:

4.如权利要求1-3任一项所述的方法,其特征在于,所述方法,还包括:

5.如权利要求1-3任一项所述的方法,其特征在于,所述域名得分,满足以下表达式:

6.一种域名检测模型的训练装置,其特征在于,包括:

7.如权利要求6所述的装置,其特征在于,所述确定模块,具体用于:

8.如权利要求6所述的装置,其特征在于,所述确定模块,还用于:

9.如权利要求6-8任一项所述的装置,其特征在于,所述更新模块,还用于:

10.如权利要求6-8任一项所述的装置,其特征在于,所述域名得分,满足以下表达式:

11.一种电子设备,其特征在于,包括:

12.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现权利要求1-5中任一项所述的方法步骤。

...

【技术特征摘要】

1.一种域名检测模型的训练方法,其特征在于,包括:

2.如权利要求1所述的方法,其特征在于,所述根据所述n个目标域名查询映射关系表,确定所述n个目标域名各自对应的矩阵下标值,包括

3.如权利要求1所述的方法,其特征在于,所述方法,还包括:

4.如权利要求1-3任一项所述的方法,其特征在于,所述方法,还包括:

5.如权利要求1-3任一项所述的方法,其特征在于,所述域名得分,满足以下表达式:

6.一种域名检测模型的训练装置,其特征在于,包括:

7.如权利要求...

【专利技术属性】
技术研发人员:孙新新
申请(专利权)人:天翼安全科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1