用于液体状态机的神经网络架构自动搜索方法、系统及介质技术方案

本发明专利技术公开了一种用于液体状态机的神经网络架构自动搜索方法、系统及介质，本发明专利技术包括将输入的代理数据集转换为脉冲模式，随机生成初始的父LSM架构；通过SNN模拟器根据脉冲模式的代理数据集、父LSM架构进行SNN模拟，提取液体对数据集识别后的状态并将其送入机器学习分类器进行训练和测试，通过机器学习分类器获取液体的分类精度；判断NAS探索次数是否已经达到预设阈值，如果尚未达到预设阈值，则针对当前的父LSM架构进行NAS探索获取子LSM架构作为新的父LSM架构重新迭代；否则结束并退出。本发明专利技术能够自动探索面向数据集的LSM的架构和参数设计空间，能够生成高精度、低复杂度的面向数据集的最优LSM模型。

【技术实现步骤摘要】
用于液体状态机的神经网络架构自动搜索方法、系统及介质
本专利技术涉及液体状态机（LSM）技术，具体涉及一种用于液体状态机的神经网络架构自动搜索方法、系统及介质。
技术介绍
脉冲神经网络（SNN）是公认的第三代人工神经网络，旨在通过模仿大脑的计算和学习方法来实现人工智能。与一般的深度神经网络相比，SNN具有更高的计算能力，并且在生物学上似乎更为合理，因为它们可以模拟生物神经元之间的时间信息传递。液体状态机（LSM）作为SNN的一种变体，由于其固有的时空信息处理能力，简单的结构以及较低的训练复杂度而获得了广泛的关注。LSM主要由具有编码神经元的输入层，称为液体的循环脉冲神经网络和一组从液体中提取液体状态的读出神经元组成，典型的基于LSM的学习模型主要由三个部分组成：编码层，液体层和读出层。与传统的机器学习神经网络不同，仅从液体到读出神经元的连接权重需要训练。尽管LSM具有简单的结构，但它已在各种应用中显示出了很高的计算能力，例如语音识别，图像分类和单词识别等领域。传统的LSM模型通常基于固定的架构或预定义的参数，而这些参数可能会忽略本文档来自技高网...

【技术保护点】
1.一种用于液体状态机的神经网络架构自动搜索方法，其特征在于，该方法包括：/n1）输入用于评估LSM模型的精度的代理数据集，并将输入的代理数据集转换为脉冲模式，随机生成初始的父LSM架构；/n2）通过SNN模拟器根据脉冲模式的代理数据集、父LSM架构进行SNN模拟，从SNN模拟器的输出中提取液体对数据集识别后的状态并将其送入机器学习分类器进行训练和测试，通过机器学习分类器获取液体的分类精度；/n3）判断NAS探索次数是否已经达到预设阈值，如果尚未达到预设阈值，则针对当前的父LSM架构进行NAS探索获取子LSM架构作为新的父LSM架构，跳转执行步骤2）；否则结束并退出。/n

【技术特征摘要】
1.一种用于液体状态机的神经网络架构自动搜索方法，其特征在于，该方法包括：
1）输入用于评估LSM模型的精度的代理数据集，并将输入的代理数据集转换为脉冲模式，随机生成初始的父LSM架构；
2）通过SNN模拟器根据脉冲模式的代理数据集、父LSM架构进行SNN模拟，从SNN模拟器的输出中提取液体对数据集识别后的状态并将其送入机器学习分类器进行训练和测试，通过机器学习分类器获取液体的分类精度；
3）判断NAS探索次数是否已经达到预设阈值，如果尚未达到预设阈值，则针对当前的父LSM架构进行NAS探索获取子LSM架构作为新的父LSM架构，跳转执行步骤2）；否则结束并退出。


2.根据权利要求1所述的用于液体状态机的神经网络架构自动搜索方法，其特征在于，步骤1）中初始的父LSM架构为M层N个液体的液体状态机结构，且每一个液体中包含多个存在有向连接的神经元，所述神经元包括兴奋神经元和至少一个抑制神经元，且该初始的父LSM架构中神经元总数为Ntotal，每种液体的神经元初始化数量为Ntotal/N，且每个液体的连接概率和兴奋性神经元比率初始化与单个LSM相同。


3.根据权利要求1所述的用于液体状态机的神经网络架构自动搜索方法，其特征在于，步骤2）中的机器学习分类器为感知器，该感知器的输入为液体对数据集识别后的状态，输出为神经元数量等于需要区分的类的数量。


4.根据权利要求1所述的用于液体状态机的神经网络架构自动搜索方法，其特征在于，步骤3）中进行NAS探索的详细步骤包括：
3.1）针对当前的父LSM架构寻找最佳的LSM架构；
3.2）针对得到的最佳的LSM架构优化每个液体神经元数量；
3.3）针对优化每个液体神经元数量后的最佳的LSM架构，对每个液体内的液体的最优内部参数进行探索优化，从而得到子LSM架构。


5.根据权利要求4所述的用于液体状态机的神经网络架构自动搜索方法，其特征在于，步骤3.1）的详细步骤包括：
3.1.1）初始化模拟退火算法的温度T；
3.1.2）在保持父LSM架构中每个液体的神经元数量以及内部参数始终保持不变的前提下，随机干扰当前的父LSM架构生成子LSM架构；
3.1.3）检测父LSM架构、子LSM架构之间的性能指标，若子LSM架构的性能指标优于父LSM架构则将子LSM架构作为新的父LSM架构，否则保持父LSM架构不变；
3.1.4）判断迭代次数是否等于预设阈值，如等于预设阈值，则跳转下一步；否则跳转执行步骤3.1.2）继续进行迭代；
3.1.5）更新模拟退火算法的温度T的值为更小的值，若更新后模拟退火算法的温度T小于预设阈值，则判定模拟退火算法退火完毕，将当前的父LSM架构确定为最佳的LSM架构，跳转执行步骤3.2）；否则跳转执行步骤3.1.2）继续进...

【专利技术属性】
技术研发人员：王蕾，田烁，曲连华，胡凯，康子扬，郭莎莎，励楠，张剑锋，张英，徐炜遐，
申请(专利权)人：中国人民解放军国防科技大学，
类型：发明
国别省市：湖南;43