当前位置: 首页 > 专利查询>广西大学专利>正文

基于深度Q学习的认知无线传感器网络频谱接入方法技术

技术编号:22005051 阅读:49 留言:0更新日期:2019-08-31 06:46
本发明专利技术公开了一种基于深度Q学习的认知无线传感器网络频谱接入方法,包括:步骤一、构建Q神经网络:以t‑2时隙的所有信道的状态值为输入层,以t‑1时隙的所有信道的q值为输出层,选择训练样本以更新Q神经网络的权重参数;获取t‑1时隙以前的经验样本并计算优先级,根据优先级累计求和二叉树排列,抽样得到训练样本;步骤二、以t‑1时隙的所有信道的状态值为输入层,输入至Q神经网络,得到t时隙的所有信道的q值,选取最大的q值对应的信道;步骤三、对该信道能量感知,若状态值为“闲”则接入,若状态值为“忙”则不接入。本发明专利技术具有能量消耗低、收敛速度快、避免经验样本多样性丧失、避免产生过拟合现象、预测准确性高的有益效果。

Spectrum Access Method for Cognitive Wireless Sensor Networks Based on Deep Q Learning

【技术实现步骤摘要】
基于深度Q学习的认知无线传感器网络频谱接入方法
本专利技术涉及认知无线传感器网络领域。更具体地说,本专利技术涉及一种基于深度Q学习的认知无线传感器网络频谱接入方法。
技术介绍
相较于传统的移动通信主要解决人与人通信问题,第五代移动通信5G更加关注物与物、人与物的通信。随着5G技术的发展,以智慧城市、智慧工厂、智慧家居等为代表的物联网场景与移动通信深度融合,预计接入5G网络的设备将达到千亿数量级以上。无线传感器网络(WSN)作为物联网感知层的重要组成网络,其网络节点接入移动网络目前通常只能使用的2.4G频段附近的免费频段,设备用户数量的海量式增长与有限的频谱资源的矛盾日益凸显。第五代移动通信对频谱的利用率提出了更高的要求。5G的核心技术标准要求其频谱效率相比于IMT-A提升3倍以上。而认知无线电技术(CR)在频谱利用率方面有巨大的改善作用,首次提出就引起了人们的广泛关注,这对于支持更高的数据速率以及容纳海量用户至关重要。因此,认知无线传感器网络(CWSN)将认知无线电技术与WSN结合,允许大量的传感器节点作为次级用户(SU),在不干扰拥有授权频谱的主用户(PU)的正常通信的情况下,伺机本文档来自技高网...

【技术保护点】
1.基于深度Q学习的认知无线传感器网络频谱接入方法,其特征在于,包括:步骤一、构建Q神经网络:以经验样本中t‑2时隙的所有信道的状态值为输入层,以t‑1时隙的所有信道的q值为输出层,选择训练样本以更新Q神经网络的权重参数,其中,状态值为信道处于“忙”或“闲”的状态的分值,q值表示信道的状态的预测分值;其中,选择训练样本的具体方法为:获取t‑1时隙以前的经验样本,并计算优先级,根据经验样本的优先级进行累计求和二叉树排列,然后抽样得到训练样本;每个经验样本记录上一时隙的所有信道的状态值、下一时隙的所有信道的回报值、下一时隙的所有信道的q值;回报值,为对下一时隙选取的信道进行能量感知,若状态值为“闲...

【技术特征摘要】
1.基于深度Q学习的认知无线传感器网络频谱接入方法,其特征在于,包括:步骤一、构建Q神经网络:以经验样本中t-2时隙的所有信道的状态值为输入层,以t-1时隙的所有信道的q值为输出层,选择训练样本以更新Q神经网络的权重参数,其中,状态值为信道处于“忙”或“闲”的状态的分值,q值表示信道的状态的预测分值;其中,选择训练样本的具体方法为:获取t-1时隙以前的经验样本,并计算优先级,根据经验样本的优先级进行累计求和二叉树排列,然后抽样得到训练样本;每个经验样本记录上一时隙的所有信道的状态值、下一时隙的所有信道的回报值、下一时隙的所有信道的q值;回报值,为对下一时隙选取的信道进行能量感知,若状态值为“闲”,则为吞吐量,若状态值为“忙”,则为0;优先级的计算方法为:优先级为经验样本的时序误差的绝对值与修正常数的和,时序误差为目标q值与经验样本的最大q值的差值,其中,修正常数为正数;目标q值的计算方法为:设置循环周期T,如果经验样本对应的时隙是T的最后一个时隙,则目标q值为该经验样本的回报值;如果经验样本对应的时隙不是T的最后一个时隙,则目标q值为经验样本的回报值与γ倍的时隙q值的和,时隙q值为以经验样本的状态值为输入值,输入至前一个循环周期的最后一个时隙的Q神经网络的其中一个信道的q值,该信道为经验样本中的最大q值对应的信道;步骤二、以t-1时隙的经验样本中的所有信道的状态值为输入层,输入至Q神经网络,得到t时隙的所有信道的q值,选取最大的q值对应的信道;步骤三、对选取的信道进行能量感知,若状态值为“闲”,则接入,若状态值为“忙”,则不接入。2.如权利要求1所述的基于深度Q学习的认知无线传感器网络频谱接入方法,其特征在于,抽样的具体方法为:根据需要抽取的样本的数量m,将所有经验样本的最顶层的优先级和N,均匀分成m个区间,在每个区间均随机选出一个数字e,从最顶层的优先级和开始,与该优先级和的左边的儿子节点的优先级和进行比较,如果选出的数字e小于该儿子节点的优先级和,则沿该儿子节点向下一层比较;如果选出的数字e不小于该儿子节点的优先级和,则用该数字e减掉该儿子节点的优先级和后,沿右边的儿子节点向下一层比较;直到得到最底层的优先级,该优先...

【专利技术属性】
技术研发人员:覃团发盘小娜胡永乐沈湘平官倩宁罗剑涛李金泽任君玉陈海强
申请(专利权)人:广西大学润建股份有限公司
类型:发明
国别省市:广西,45

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1