System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 基于谱正则化变分自编码器的消息阻塞预测方法及装置制造方法及图纸_技高网

基于谱正则化变分自编码器的消息阻塞预测方法及装置制造方法及图纸

技术编号:40633792 阅读:3 留言:0更新日期:2024-03-13 21:18
本发明专利技术公开了一种基于谱正则化变分自编码器的消息阻塞预测方法及装置,首先采集消息数据,进行数据预处理,构建数据集;然后构建并训练基于谱正则化的变分自编码器;基于变分自编码器将数据集中的所有局部窗口均生成为低维嵌入向量,通过Transformer解码器用前k‑1个低维嵌入向量预测后k‑1个低维嵌入向量;通过变分自编码器中的解码器重建后k‑1个局部窗口,通过累计误差以及给定的阈值判定在时间窗口中是否存在消息阻塞,若超过阈值则判定消息发送发生异常,存在消息阻塞。本发明专利技术可对消息发送速度异常场景进行及时预警,显著提升了消息阻塞异常报警的召回率,同时保持了高度精确度,可有效应用于实时消息阻塞监测场景。

【技术实现步骤摘要】

本专利技术涉及消息阻塞预测领域,尤其涉及一种基于谱正则化变分自编码器的消息阻塞预测方法及装置


技术介绍

1、消息中心作为集中的消息推送和处理中心,包括向客户推送客户业务相关信息、银行活动、银行公告等一系列消息。一旦发生消息阻塞将导致大面积的消息无法发送,从而造成严重后果。而消息的阻塞往往不是一瞬间造成的,初期消息阻塞往往表现是消息发送逐渐缓慢,而随着时间的推移,待发送消息逐渐的积累则会造成整体消息服务不可用。由于该特性导系统异常不容易被发现,而发现时已经为时过晚,造成实际的损失,因此及时监测和报警尤为重要。


技术实现思路

1、本专利技术目的在于针对现有技术的不足,提出一种基于谱正则化变分自编码器的消息阻塞预测方法及装置。

2、本专利技术的目的是通过以下技术方案来实现的:第一方面,本专利技术提供了一种基于谱正则化变分自编码器的消息阻塞预测方法,该方法包括以下步骤:

3、s1:采集消息数据,进行数据预处理和特征工程,构建数据集;

4、s2:构建并训练基于谱正则化的变分自编码器,变分自编码器损失函数基于kl散度和变分推断,并加入谱正则化项,表示每一层对特征图谱函数平方的累加;

5、s3:基于训练完成后的变分自编码器将数据集中的所有局部窗口均生成为低维嵌入向量,通过transformer解码器用前k-1个低维嵌入向量预测后k-1个低维嵌入向量;

6、s4:基于transformer解码器预测得到的后k-1个低维嵌入向量通过变分自编码器中的解码器重建后k-1个局部窗口,通过累计误差以及给定的阈值判定在时间窗口中是否存在消息阻塞,若超过阈值则判定消息发送发生异常,存在消息阻塞。

7、进一步地,步骤s1中,采集的消息数据特征包括:消息处理时间、消息推送耗时、消息推送成功率、单用户消息量、用户量、消息总量、队列消息处理速度和网速。

8、进一步地,步骤s1中,对消息数据进行缺失值、异常值处理,并进行标准化处理,使得数值符合正态分布。

9、进一步地,步骤s1中,特征工程为按照特征之间的相关性去掉冗余特征,保留关键特征。

10、进一步地,步骤s2中,变分自编码器包括编码器和解码器两部分;编码器以连续的3*3卷积、3*3深度分离卷积和se结构的轻量级卷积网络为基本结构,记作一个block;编码器网络结构依次为三个连续的block和三个连续的全连接层,并生成隐变量参数;解码器为连续的三个3*3反卷积网络,用于利用隐变量还原原始特征。

11、进一步地,步骤s2中,基于谱正则化的变分自编码器训练过程如下:

12、1)选取数据集中连续的发送速度稳定的n个时间段的消息数据,编码器的输入为若干个连续读数的局部窗口;

13、2)基于所有局部窗口通过编码器生成均值和标准差;

14、3)生成的和通过重参数化方式获得低维嵌入向量,即编码向量;

15、4)输入编码向量,通过解码器生成重构向量;

16、5)通过定义如下的损失函数f反向传播优化网络参数:

17、

18、其中,为模型第l层的特征图,l为模型的总层数,z表示编码器生成的低维潜在编码向量,为潜在编码向量的先验分布,为后验分布的近似估计,表示由潜在编码向量重建数据x的可能性,e为求期望值操作,dkl为k-l散度;最后一项即为谱正则化项,表示每一层对特征图谱函数平方的累加,表示谱范数,λ为谱正则化参数。

19、进一步地,步骤s4中,判定是否存在消息阻塞的具体过程为:

20、1)通过编码器生成若干个不重叠的局部窗口序列对应的低维嵌入向量序列;

21、2)基于transformer解码器,通过前k-1个低维嵌入向量预测后k-1个低维嵌入向量;

22、3)通用后k-1个预测得到的低维嵌入向量通过变分自编码器中的解码器重建后k-1个局部窗口;

23、4)通过累计的l1误差以及给定的阈值判定在时间窗口中是否存在异常,若超过阈值则判定消息发送发生异常,反之则判定为消息传输正常。

24、第二方面,本专利技术还提供了一种基于谱正则化变分自编码器的消息阻塞预测方法装置,包括存储器和一个或多个处理器,所述存储器中存储有可执行代码,所述处理器执行所述可执行代码时,实现所述的一种基于谱正则化变分自编码器的消息阻塞预测方法。

25、第三方面,本专利技术还提供了一种计算机可读存储介质,其上存储有程序,所述程序被处理器执行时,实现所述的一种基于谱正则化变分自编码器的消息阻塞预测方法。

26、第四方面,本专利技术还提供了一种计算机程序产品,包括计算机程序/指令,所述计算机程序/指令被处理器执行时,实现所述的一种基于谱正则化变分自编码器的消息阻塞预测方法。

27、本专利技术的有益效果:本专利技术提出的基于谱正则化的变分自编码器可使模型在低维特征下训练更稳定、易收敛,模型依赖此模块提取短窗口局部特征,并利用时间循环神经网络估计长期趋势,对一定时长范围内的异常场景进行及时预警。与此同时,结合消息的分类、重要程度等特性形成差异化的监测模型,提高风险监测准确度。本专利技术方案显著提升了消息阻塞异常报警的召回率,同时保持了高度精确度,可有效应用于实时消息阻塞监测场景。

本文档来自技高网...

【技术保护点】

1.一种基于谱正则化变分自编码器的消息阻塞预测方法,其特征在于,该方法包括以下步骤:

2.根据权利要求1所述的一种基于谱正则化变分自编码器的消息阻塞预测方法,其特征在于,步骤S1中,采集的消息数据特征包括:消息处理时间、消息推送耗时、消息推送成功率、单用户消息量、用户量、消息总量、队列消息处理速度和网速。

3.根据权利要求1所述的一种基于谱正则化变分自编码器的消息阻塞预测方法,其特征在于,步骤S1中,对消息数据进行缺失值、异常值处理,并进行标准化处理,使得数值符合正态分布。

4.根据权利要求1所述的一种基于谱正则化变分自编码器的消息阻塞预测方法,其特征在于,步骤S1中,特征工程为按照特征之间的相关性去掉冗余特征,保留关键特征。

5.根据权利要求1所述的一种基于谱正则化变分自编码器的消息阻塞预测方法,其特征在于,步骤S2中,变分自编码器包括编码器和解码器两部分;编码器以连续的3*3卷积、3*3深度分离卷积和SE结构的轻量级卷积网络为基本结构,记作一个block;编码器网络结构依次为三个连续的block和三个连续的全连接层,并生成隐变量参数;解码器为连续的三个3*3反卷积网络,用于利用隐变量还原原始特征。

6.根据权利要求1所述的一种基于谱正则化变分自编码器的消息阻塞预测方法,其特征在于,步骤S2中,基于谱正则化的变分自编码器训练过程如下:

7.根据权利要求1所述的一种基于谱正则化变分自编码器的消息阻塞预测方法,其特征在于,步骤S4中,判定是否存在消息阻塞的具体过程为:

8.一种基于谱正则化变分自编码器的消息阻塞预测方法装置,包括存储器和一个或多个处理器,所述存储器中存储有可执行代码,其特征在于,所述处理器执行所述可执行代码时,实现如权利要求1-7中任一项所述的一种基于谱正则化变分自编码器的消息阻塞预测方法。

9.一种计算机可读存储介质,其上存储有程序,其特征在于,所述程序被处理器执行时,实现如权利要求1-7中任一项所述的一种基于谱正则化变分自编码器的消息阻塞预测方法。

10.一种计算机程序产品,包括计算机程序/指令,其特征在于,所述计算机程序/指令被处理器执行时,实现如权利要求1-7任一项所述的一种基于谱正则化变分自编码器的消息阻塞预测方法。

...

【技术特征摘要】

1.一种基于谱正则化变分自编码器的消息阻塞预测方法,其特征在于,该方法包括以下步骤:

2.根据权利要求1所述的一种基于谱正则化变分自编码器的消息阻塞预测方法,其特征在于,步骤s1中,采集的消息数据特征包括:消息处理时间、消息推送耗时、消息推送成功率、单用户消息量、用户量、消息总量、队列消息处理速度和网速。

3.根据权利要求1所述的一种基于谱正则化变分自编码器的消息阻塞预测方法,其特征在于,步骤s1中,对消息数据进行缺失值、异常值处理,并进行标准化处理,使得数值符合正态分布。

4.根据权利要求1所述的一种基于谱正则化变分自编码器的消息阻塞预测方法,其特征在于,步骤s1中,特征工程为按照特征之间的相关性去掉冗余特征,保留关键特征。

5.根据权利要求1所述的一种基于谱正则化变分自编码器的消息阻塞预测方法,其特征在于,步骤s2中,变分自编码器包括编码器和解码器两部分;编码器以连续的3*3卷积、3*3深度分离卷积和se结构的轻量级卷积网络为基本结构,记作一个block;编码器网络结构依次为三个连续的block和三个连续的全连接层,并生成隐...

【专利技术属性】
技术研发人员:胡贤明董佳艺余沛玥张敬之
申请(专利权)人:浙商银行股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1