System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 使用神经网络进行信源编码的方法和系统技术方案_技高网

使用神经网络进行信源编码的方法和系统技术方案

技术编号:40878310 阅读:6 留言:0更新日期:2024-04-08 16:48
提供了一种用于基于特征的通信的装置,包括概率编码器和发送器。所述概率编码器用于将信源信息编码成潜在空间中的概率分布的集合。每个概率分布代表所述信源信息的主题的一个或多个方面。所述发送器用于通过传输信道向接收电子设备发送代表所述主题的传输特征的集合。每个传输特征提供了关于所述潜在空间中的所述概率分布中的相应概率分布的信息。所述概率编码器用于根据所述传输信道的条件对所述潜在空间中的所述概率分布的分布参数应用约束。以这种方式对所述潜在空间应用约束使得所述装置能够发送至少与所述传输信道一样不可靠的特征。

【技术实现步骤摘要】
【国外来华专利技术】

本专利技术涉及用于在网络中通信的信源编码。


技术介绍

1、在典型的现代无线通信系统中,例如宽带码分多址(wide band code divisionmultiple access,wcdma)、长期演进(long-term evolution,lte)、第五代合作伙伴计划(5th generation,5g)、wi-fi等,许多电子设备(electronic device,ed)(也可以称为客户端、终端、用户设备(user equipment,ue)、移动台等)可以通过空中连接到基站(basestation,bs)(也可以称为基站收发站(base transceiver station,bts)、node-b、enodeb、gnb、接入点(access point,ap)、传输点(transmission point,tp)等)或与之关联。随着ed数量和密度的增加,使用传统无线系统支持高质量无线通信变得具有挑战性。

2、机器对机器(machine-to-machine,m2m)通信可以是高密度无线通信的一种类型。m2m通信是一种实现网络的技术,用于从通常大规模和密集部署的设备(例如传感器、智能电表、物联网(internet of things,iot)设备和/或其它低端设备)收集信息,并用于将这些设备捕获的信息传输到网络中的其它应用程序。m2m网络可以是有线或无线的,并且可能具有相对较大的地理分布(例如,跨国家或跨世界)。m2m通信通常不涉及直接的人工干预来收集信息。

3、5g新空口(new radio,nr)系统的开发包括支持通过无线系统连接大量(例如数百万或数十亿)iot设备的大规模机器类型通信(massive machine type communication,mmtc)的功能。预计在不久的将来,通过空中进行的m2m通信的量将超过与人类有关的通信的量。

4、在一些示例中,无线通信可以涉及人类终端用户(例如,ed的人类所有者)接收由一个或多个机器传感器收集的信息。机器传感器可以密集部署,并可能产生大量的无线流量。机器传感器可能产生比人类用户实际需要的更多的信息。

5、因此,希望提供一种改进无线通信(包括从一个ed到另一个ed的通信)的方法。


技术实现思路

1、根据广义的方面,本专利技术提供了一种用于基于特征的通信的装置。所述装置包括概率编码器和发送器。所述概率编码器用于将信源信息编码成潜在空间中的概率分布的集合。每个概率分布代表所述信源信息的主题的一个或多个方面。所述发送器用于通过传输信道向接收电子设备发送代表所述主题的传输特征的集合。每个传输特征提供了关于所述潜在空间中的所述概率分布中的相应概率分布的信息。所述概率编码器用于根据所述传输信道的条件对所述潜在空间中的所述概率分布的分布参数应用约束。以这种方式对所述潜在空间应用约束使得所述装置能够发送至少与所述传输信道一样不可靠的特征,并且因此可能通过不可靠/敌对传输信道接收。

2、在一些实施例中,所述潜在空间是高斯分布潜在空间,并且所述概率编码器用于对所述潜在空间中的所述概率分布的均值和方差应用边界。例如,在这些实施例中,所述概率编码器可以用于根据所述传输信道的高斯分布模型的方差值,应用所述潜在空间中的所述概率分布的最小方差。

3、在一些实施例中,所述潜在空间是伯努利分布潜在空间,所述概率编码器用于根据所述传输信道的伯努利分布模型的位翻转概率,应用所述潜在空间中的所述概率分布的最大位翻转概率。

4、在一些实施例中,使用编码器深度神经网络(deep neural network,dnn)实现所述概率编码器。在一些所述实施例中,所述概率编码器使用非线性激活函数对所述潜在空间中的所述概率分布的所述分布参数应用约束。例如,在这些实施例中,所述潜在空间可以是高斯分布潜在空间,所述非线性激活函数可以对所述潜在空间中的每个概率分布的均值μ和方差值σ2应用以下约束:

5、μ∈[μmin,μmax],

6、其中,μmin和μmax分别是所述均值的下限和上限,是所述传输信道的高斯分布模型的方差值。在这些实施例中,所述编码器dnn是使用先验分布和库尔贝克-莱布勒(kullback-leibler,kl)发散损失项训练的,所述先验分布和所述kl发散损失项是所述装置与所述接收ed之间的所述传输信道的所述高斯分布模型的方差值的函数。在一些实施例中,所述非线性激活函数可以包括用于生成所述概率分布的均值的sigmoid激活函数和用于生成所述概率分布的所述方差的整流线性单元(rectified linear unit,relu)激活函数。

7、在一些实施例中,所述概率编码器为第一概率编码器,用于将信源信息编码成第一潜空间中的概率分布的集合以支持第一任务,所述装置还包括第二概率编码器,用于将信源信息编码成第二潜空间中的概率分布的集合以支持第二任务。关于任务的知识可以允许将更高的压缩比用于某些任务,例如分类或检测任务,而不是其它任务,例如重建任务。例如,第二任务可以与第一任务不同,第二潜空间的维度可以与第一潜空间的维度不同。例如,第一任务可以为重建任务,第二任务可以为分类任务或检测任务。

8、在一些实施例中,所述发送器用于向所述接收ed发送第一传输特征的集合,所述第一传输特征的集合分别提供关于小于所述潜空间中的所有所述概率分布的第一子集中的所述概率分布中的相应概率分布的信息。在这些实施例中,在发送所述第一传输特征的集合之后,所述发送器可以向所述接收ed发送第二传输特征的集合,所述第二传输特征的集合中的每个第二传输特征的集合提供关于所述潜在空间中的所述概率分布的第二子集中的概率分布中的相应概率分布的信息,其中,所述第二子集与所述第一子集不同。例如,所述第二子集可以与所述第一子集不重叠。

9、在一些实施例中,所述发送器用于连续发送不同的传输特征的集合,所述不同的传输特征的集合提供关于所述潜在空间中所述概率分布的不同子集的信息,直到从所述接收ed接收到确认消息或者已经进行了预定次数的传输。通过这种方式,所述装置支持实际的harq机制,通过增量传输所需的潜在信息,直到满足成功条件为止,从而允许增量冗余。

10、在一些实施例中,所述发送器用于发送所述传输特征,所述传输特征提供关于所述潜在空间中所述概率分布中的相应概率分布的信息,而不对所述传输特征应用信道编码。在这些实施例中,所述概率编码器用于使得关于所述对象的原始/信源信息被编码到其中的特征符合信道分布。例如,在这些实施例中,所述概率编码器可以用于对所述潜在空间中的所述概率分布的分布参数应用约束,使得每个所述传输特征具有匹配或超过所述传输信道的熵的熵。

本文档来自技高网...

【技术保护点】

1.一种用于基于特征的通信的装置,其特征在于,所述装置包括:

2.根据权利要求1所述的装置,其特征在于,所述潜在空间是高斯分布潜在空间,并且所述概率编码器用于对所述潜在空间中的所述概率分布的均值和方差应用边界。

3.根据权利要求2所述的装置,其特征在于,所述概率编码器用于根据所述传输信道的高斯分布模型的方差值,应用所述潜在空间中的所述概率分布的最小方差。

4.根据权利要求1至3中任一项所述的装置,其特征在于,所述潜在空间是伯努利分布潜在空间,所述概率编码器用于根据所述传输信道的伯努利分布模型的位翻转概率,应用所述潜在空间中的所述概率分布的最大位翻转概率。

5.根据权利要求1至4中任一项所述的装置,其特征在于,所述概率编码器使用编码器深度神经网络DNN实现,所述概率编码器使用非线性激活函数对所述潜在空间中的所述概率分布的所述分布参数应用约束。

6.根据权利要求5所述的装置,其特征在于,所述潜在空间是高斯分布潜在空间,所述非线性激活函数对所述潜在空间中的每个概率分布的均值μ和方差值σ2应用以下约束:

7.根据权利要求6所述的装置,其特征在于,所述编码器DNN是使用先验分布和库尔贝克-莱布勒KL发散损失项训练的,所述先验分布和所述KL发散损失项是所述装置与所述接收ED之间的所述传输信道的所述高斯分布模型的方差值的函数。

8.根据权利要求1至7中任一项所述的装置,其特征在于:

9.根据权利要求1至8中任一项所述的装置,其特征在于,所述发送器用于:

10.根据权利要求9所述的装置,其特征在于,所述第二子集与所述第一子集不重叠。

11.根据权利要求9或10所述的装置,其特征在于,所述发送器用于连续发送不同的传输特征的集合,其中,所述不同的传输特征的集合提供关于所述潜在空间中所述概率分布的不同子集的信息,直到从所述接收ED接收到确认消息或者已经进行了预定次数的传输。

12.根据权利要求1至11中任一项所述的装置,其特征在于,所述发送器用于发送所述传输特征,所述传输特征提供关于所述潜在空间中所述概率分布中的相应概率分布的信息,而不对所述传输特征应用信道编码。

13.根据权利要求1至12中任一项所述的装置,其特征在于,所述概率编码器用于对所述潜在空间中的所述概率分布的分布参数应用约束,使得每个所述传输特征具有匹配或超过所述传输信道的熵的熵。

14.一种用于基于特征的通信的方法,其特征在于,所述方法包括:

15.根据权利要求14所述的方法,其特征在于,所述潜在空间是高斯分布潜在空间,并且边界被应用到所述潜在空间中的所述概率分布的均值和方差上。

16.根据权利要求15所述的方法,其特征在于,所述潜在空间中的所述概率分布的最小方差是根据所述传输信道的高斯分布模型的方差值应用的。

17.根据权利要求14至16中任一项所述的方法,其特征在于,所述潜在空间是伯努利分布潜在空间,所述潜在空间中的所述概率分布的最大位翻转概率是根据所述传输信道的伯努利分布模型的位翻转概率应用的。

18.根据权利要求14至17中任一项所述的方法,其特征在于,所述编码是使用编码器深度神经网络(deep neural network,DNN)实现的,非线性激活函数用于对所述潜在空间中的所述概率分布的所述分布参数应用所述约束。

19.根据权利要求18所述的方法,其特征在于,所述潜在空间是高斯分布潜在空间,所述非线性激活函数对所述潜在空间中的每个概率分布的均值μ和方差值σ2应用以下约束:

20.根据权利要求19所述的方法,其特征在于,所述编码器DNN是使用先验分布和库尔贝克-莱布勒(Kullback-Leibler,KL)发散损失项训练的,所述先验分布和所述KL发散损失项是所述传输信道的所述高斯分布模型的方差值的函数。

21.根据权利要求14至20中任一项所述的方法,其特征在于:

22.根据权利要求14至21中任一项所述的方法,其特征在于,

23.根据权利要求22所述的方法,其特征在于,所述第二子集与所述第一子集不重叠。

24.根据权利要求22或23所述的方法,其特征在于,还包括连续发送不同的传输特征的集合,其中,所述不同的传输特征的集合提供关于所述潜在空间中所述概率分布的不同子集的信息,直到从所述接收ED接收到确认消息或者已经进行了预定次数的传输。

25.根据权利要求14至24中任一项所述的方法,其特征在于,所述发送器用于发送所述传输特征,所述传输特征提供关于所述潜在空间中所述概率分布中的相应概率...

【技术特征摘要】
【国外来华专利技术】

1.一种用于基于特征的通信的装置,其特征在于,所述装置包括:

2.根据权利要求1所述的装置,其特征在于,所述潜在空间是高斯分布潜在空间,并且所述概率编码器用于对所述潜在空间中的所述概率分布的均值和方差应用边界。

3.根据权利要求2所述的装置,其特征在于,所述概率编码器用于根据所述传输信道的高斯分布模型的方差值,应用所述潜在空间中的所述概率分布的最小方差。

4.根据权利要求1至3中任一项所述的装置,其特征在于,所述潜在空间是伯努利分布潜在空间,所述概率编码器用于根据所述传输信道的伯努利分布模型的位翻转概率,应用所述潜在空间中的所述概率分布的最大位翻转概率。

5.根据权利要求1至4中任一项所述的装置,其特征在于,所述概率编码器使用编码器深度神经网络dnn实现,所述概率编码器使用非线性激活函数对所述潜在空间中的所述概率分布的所述分布参数应用约束。

6.根据权利要求5所述的装置,其特征在于,所述潜在空间是高斯分布潜在空间,所述非线性激活函数对所述潜在空间中的每个概率分布的均值μ和方差值σ2应用以下约束:

7.根据权利要求6所述的装置,其特征在于,所述编码器dnn是使用先验分布和库尔贝克-莱布勒kl发散损失项训练的,所述先验分布和所述kl发散损失项是所述装置与所述接收ed之间的所述传输信道的所述高斯分布模型的方差值的函数。

8.根据权利要求1至7中任一项所述的装置,其特征在于:

9.根据权利要求1至8中任一项所述的装置,其特征在于,所述发送器用于:

10.根据权利要求9所述的装置,其特征在于,所述第二子集与所述第一子集不重叠。

11.根据权利要求9或10所述的装置,其特征在于,所述发送器用于连续发送不同的传输特征的集合,其中,所述不同的传输特征的集合提供关于所述潜在空间中所述概率分布的不同子集的信息,直到从所述接收ed接收到确认消息或者已经进行了预定次数的传输。

12.根据权利要求1至11中任一项所述的装置,其特征在于,所述发送器用于发送所述传输特征,所述传输特征提供关于所述潜在空间中所述概率分布中的相应概率分布的信息,而不对所述传输特征应用信道编码。

13.根据权利要求1至12中任一项所述的装置,其特征在于,所述概率编码器用于对所述潜在空间中的所述概率分布的分布参数应用约束,使得每个所述传输特征具有匹配或超过所述传输信道的熵的熵。

14.一种用于基于特征的通信的方法,其特征在于,所述方法包括:

1...

【专利技术属性】
技术研发人员:亚当·克里斯蒂安·卡瓦塔西葛屹群哈什·奥罗拉
申请(专利权)人:华为技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1