一种可重构的深度置信网络实现系统技术方案

本发明专利技术公开了可重构的深度置信网络实现系统，该系统包括：控制单元用于控制深度置信网络算法的运算流程；数据暂存单元用于存储计算所需的输入层信息、权重、偏置及输出层结果；受限玻尔兹曼机用于计算深度置信网络中各层结点的激活概率，以决定其激活状态；参数更新单元用于更新深度置信网络中各层结点的权重及偏置，其仅在训练算法中被激活。有益效果：该实现系统通过复用受限玻尔兹曼机及控制算法状态跳转可支持训练和推理两种算法，降低了算法的硬件资源开销，并保证了算法性能，适用于各种人工智能场景。

A Reconfigurable Deep Confidence Network Implementation System

【技术实现步骤摘要】
一种可重构的深度置信网络实现系统
本专利技术涉及人工智能算法领域，尤其涉及一种可重构的深度置信网络实现系统。
技术介绍
随着机器学习的进步和深度学习的出现，一些工具和图形表示被逐渐用来关联大量的数据。深度置信网络(DeepBeliefNetworks,DBN)在2006年被Hinton等人提出，其本质上是一种具有生成能力的图形表示网络，即它生成当前示例的所有可能值。作为概率统计学与机器学习和神经网络的融合，DBN由多个带有数值的层组成，其中层之间存在关系，而数值之间没有。深层置信网络主要目标是帮助系统将数据分类到不同的类别，广泛地应用于模式识别、特征提取等应用场景中。因此，研究适用于各种应用场景，灵活可配的深度置信网络实现系统具有极强的理论意义与应用价值。DBN可以被看成简单的无监督网络的组成，如受限玻尔兹曼机(RestrictedBoltzmannMachine,RBM)。作为DBN的重要组成部分，RBM只有两层神经元，一层叫做显层(visiblelayer)，由显元(visibleunits)组成，用于输入训练数据。另一层叫做隐层(hiddenlayer)，相应地，由隐元(hid本文档来自技高网...

【技术保护点】
1.一种可重构的深度置信网络实现系统，其特征在于包括：数据暂存单元，存储计算所需的输入层信息、权重、偏置及输出层结果；受限玻尔兹曼机，计算深度置信网络中各层结点的激活概率，以决定其激活概率及激活状态；参数更新单元，更新深度置信网络中各层结点的权重及偏置；控制单元，读取配置信息，通过内部的有限状态机控制深度置信网络算法的运算流程，通过复用受限玻尔兹曼机、选通参数更新单元以实现训练和推理两种算法。

【技术特征摘要】
1.一种可重构的深度置信网络实现系统，其特征在于包括：数据暂存单元，存储计算所需的输入层信息、权重、偏置及输出层结果；受限玻尔兹曼机，计算深度置信网络中各层结点的激活概率，以决定其激活概率及激活状态；参数更新单元，更新深度置信网络中各层结点的权重及偏置；控制单元，读取配置信息，通过内部的有限状态机控制深度置信网络算法的运算流程，通过复用受限玻尔兹曼机、选通参数更新单元以实现训练和推理两种算法。2.根据权利要求1所述的可重构的深度置信网络实现系统，其特征在于：该系统的计算流程包括如下步骤：步骤1)初始化：读取存储在数据暂存单元中的深度置信网络输入层信息及网络配置信息，并将配置信息传输至控制单元，并将当前访问层数置为1；步骤2)数据传输：控制器根据当前访问层数将对应的输入层信息、权重及偏置传输至数据暂存单元；步骤3)调用受限玻尔兹曼机：受限玻尔兹曼机读取数据暂存单元中存储的信息，计算出深度置信网络当前层所对应的输出层中各神经元的激活概率及激活状态，并存入数据暂存单元中；步骤4)判决：根据当前执行的算法判决下一步操作，若执行训练算法，判断当前层的训练是否完成，未完成则返回步骤2)，已完成则执行步骤5)；若执行推理算法，判断当前层是否为最后一层，如果为最后一层则将输出层的激活状态输出作为最终结果，算法结束，否则返回步骤2)；步骤5)参数更新：调用参数更新单元，根据数据暂存单元中存储的信息对权重、偏置进行更新并传输回数据暂存单元中，然后判断当前层是否为最后一层，为最后一层则训练结束，否则返回步骤2)。3.根据权利要求1所述的可重构的深度置信网络实现系统，其特征在于：所述配置信息包括网络层数、各层结点个数、执行的算法类型、当前访问层数及当前层训练状态。4.根据权利要求1所述的可重构的深度置信网络实现系统，其特征在于：该系统可根据配置信息进行重构，执行训练或推理算法，所执...

【专利技术属性】
技术研发人员：李丽，宋文清，傅玉祥，何国强，李伟，
申请(专利权)人：南京大学，
类型：发明
国别省市：江苏,32