一种基于注意力机制的商品需求的预测系统技术方案

技术编号:29048397 阅读:15 留言:0更新日期:2021-06-26 06:07
本申请公开了一种基于注意力机制的商品需求的预测系统,包括预测模块、预测显示模块、混合神经网络模块、注意力机制模块和时间序列模块,所述混合神经网络模块内部设有信号接收单元、卷积神经网络模块和递归神经网络模块,所述卷积神经网络模块内部设有第一抓取模块和第一定义模块,所述递归神经网络模块内部设有第二抓取模块和第二定义模块,所述注意力机制模块内部设有赋值单元和赋值输送单元,所述时间序列模块内部设有短期特征单元、局部变量单元、长期特征单元和全局宏观变量单元,所述卷积神经网络模块分别连接短期特征单元和局部变量单元。本申请提供了一种混合神经网络基于注意力机制的商品需求的预测系统。于注意力机制的商品需求的预测系统。于注意力机制的商品需求的预测系统。

【技术实现步骤摘要】
一种基于注意力机制的商品需求的预测系统


[0001]本申请涉及一种预测系统,具体是一种基于注意力机制的商品需求的预测系统。

技术介绍

[0002]注意力机制是2017年提出用于提高语言模型学习语言能力的一种算法,注意力机制可以不仅量化单个语句上不同单词间的相关关系,还可以量化多个语句上不同单词间的相关关系,让最终的预测结果更加侧重于相关关系较强的单词,而相关关系较弱的单词对于最终预测结果的影响较小。
[0003]商品需求预测属于时间序列预测下的一个重要表现,传统的时间序列模型如自回归模型,滑动平均模型,时间序列分解模型等在处理多维时间序列和长相关性的时间序列时,表现较差,因为此类模型都是用于解决单个时间序列的预测或者平稳时间序列预测。即使使用卷积神经网络或者递归神经网络,预测结果的准确度仍然无法达到令人满意的境界。因此,针对上述问题提出一种基于注意力机制的商品需求的预测系统。

技术实现思路

[0004]一种基于注意力机制的商品需求的预测系统,包括预测模块、预测显示模块、混合神经网络模块、注意力机制模块和时间序列模块,所述混合神经网络模块内部设有信号接收单元、卷积神经网络模块和递归神经网络模块,所述卷积神经网络模块内部设有第一抓取模块和第一定义模块,所述递归神经网络模块内部设有第二抓取模块和第二定义模块,所述注意力机制模块内部设有赋值单元和赋值输送单元,所述时间序列模块内部设有短期特征单元、局部变量单元、长期特征单元和全局宏观变量单元,所述卷积神经网络模块分别连接短期特征单元和局部变量单元,所述递归神经网络模块分别连接长期特征单元和全局宏观变量单元。
[0005]进一步地,所述注意力机制模块连接定义输送单元,所述定义输送单元位于混合神经网络模块内部。
[0006]进一步地,所述信号接收单元连接信号输送单元,所述信号输送单元位于预测模块内部。
[0007]进一步地,所述预测模块内部设有运行单元和信号输送单元。
[0008]进一步地,所述注意力机制模块连接预测显示模块,所述预测显示模块内部设有显示单元和赋值接收单元,所述显示单元采用显示屏构成。
[0009]进一步地,所述卷积神经网络模块符合公式:h
k
=ReLU(W
k
*X+b
k
),其中h
k
表示卷积神经网络的k层输出,X表示输入变量,ReLU是一种激活函数,具有以下形式:ReLU=max(0,x)。
[0010]进一步地,所述递归神经网络模块符合公式:h
t
,c
t
=F(h
t
‑1,c
t
‑1,X
t
),其中h
t
,c
t
的定义如下:i
c
=sigmoid(W
xi
X
t
+W
hf
h
t
‑1);f
t
=sigmoid(WxfX
t
+W
hf
h
t
‑1);o
t
=sigmoid(W
xo
X
t
+W
ho
h
t
‑1);c
t
=f
t

c
t
‑1+i
t

tanh(W
xc
X
t
+W
hc
h
t
‑1);h
t
=o
t

tanh(c
t
)。
[0011]进一步地,所述注意力机制模块符合公式:attn
t
=Softmax(F
attn
(H
t
,h
t
))。
[0012]进一步地,所述预测模块两侧分别连接激活模块和预测显示模块。
[0013]进一步地,所述注意力机制模块分别与卷积神经网络模块和递归神经网络模块连接。。
[0014]本申请的有益效果是:本申请提供了一种混合神经网络基于注意力机制的商品需求的预测系统。
附图说明
[0015]为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其它的附图。
[0016]图1为本申请一种实施例的系统结构示意图。
[0017]图中:1、注意力机制模块,2、赋值单元,3、赋值输送单元,4、赋值接收单元,5、显示单元,6、预测显示模块,7、定义输送单元,8、混合神经网络模块,9、运行单元,10、激活模块,11、预测模块,12、信号输送单元,13、信号接收单元,14、卷积神经网络模块,15、第一抓取模块,16、第一定义模块,17、时间序列模块,18、短期特征单元,19、局部变量单元,20、长期特征单元,21、全局宏观变量单元,22、第二抓取模块,23、第二定义模块,24、递归神经网络模块。
具体实施方式
[0018]为了使本
的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分的实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。
[0019]需要说明的是,本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0020]在本申请中,术语“上”、“下”、“左”、“右”、“前”、“后”、“顶”、“底”、“内”、“外”、“中”、“竖直”、“水平”、“横向”、“纵向”等指示的方位或位置关系为基于附图所示的方位或位置关系。这些术语主要是为了更好地描述本申请及其实施例,并非用于限定所指示的装置、元件或组成部分必须具有特定方位,或以特定方位进行构造和操作。
[0021]并且,上述部分术语除了可以用于表示方位或位置关系以外,还可能用于表示其他含义,例如术语“上”在某些情况下也可能用于表示某种依附关系或连接关系。对于本领域普通技术人员而言,可以根据具体情况理解这些术语在本申请中的具体含义。
[0022]此外,术语本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种基于注意力机制的商品需求的预测系统,其特征在于:包括预测模块(11)、预测显示模块(6)、混合神经网络模块(8)、注意力机制模块(1)和时间序列模块(17),所述混合神经网络模块(8)内部设有信号接收单元(13)、卷积神经网络模块(14)和递归神经网络模块(24),所述卷积神经网络模块(14)内部设有第一抓取模块(15)和第一定义模块(16),所述递归神经网络模块(24)内部设有第二抓取模块(22)和第二定义模块(23),所述注意力机制模块(1)内部设有赋值单元(2)和赋值输送单元(3),所述时间序列模块(17)内部设有短期特征单元(18)、局部变量单元(19)、长期特征单元(20)和全局宏观变量单元(21),所述卷积神经网络模块(14)分别连接短期特征单元(18)和局部变量单元(19),所述递归神经网络模块(24)分别连接长期特征单元(20)和全局宏观变量单元(21)。2.根据权利要求1所述的一种基于注意力机制的商品需求的预测系统,其特征在于:所述注意力机制模块(1)连接定义输送单元(7),所述定义输送单元(7)位于混合神经网络模块(8)内部。3.根据权利要求1所述的一种基于注意力机制的商品需求的预测系统,其特征在于:所述信号接收单元(13)连接信号输送单元(12),所述信号输送单元(12)位于预测模块(11)内部。4.根据权利要求1所述的一种基于注意力机制的商品需求的预测系统,其特征在于:所述预测模块(11)内部设有运行单元(9)和信号输送单元(12)。5.根据权利要求1所述的一种基于注意力机制的商品需求的预测系统,其特征在于:所述注意力机制模块(1)连接预测显示模块(6),所述预测显示模块(6)内部设有显示单元(5)和赋值接收单元(4),所述显示单元(5)采用显示屏构成。6.根据权利要求1所述的一种基于注意力机制的商品需求的预测系统,其特征在于:所述卷积神经网络模块(14)符合公式:h
k
=ReLU(W
k
*X+b
k
),其中h
k
表示卷积神经网络的k层输出,X表示输入变量,ReLU是一种激活函数,具有以下形式:ReLU=max(0,x)。7.根据权利要求1所述的一种基于注意力机制的...

【专利技术属性】
技术研发人员:陈智鹰周梓晔马向东
申请(专利权)人:深圳市鸿捷源云上科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1