基于局部注意力机制的旅行商问题生成式求解方法技术

本发明专利技术涉及神经组合优化技术领域，具体涉及一种基于局部注意力机制的旅行商问题生成式求解方法，包括搭建基于局部注意力机制的旅行商问题生成式求解模型；基于可变情节长度和改进的策略算法对所述旅行商问题生成式求解模型进行训练，得到最优模型；将城市节点集合输入所述最优模型后使用带有基于旅行商问题数据的改进遮蔽操作的局部注意力机制进行注意力权重以及注意力输出计算，得到决策结果，本发明专利技术利用旅行商问题数据在逻辑上的排列顺序，改进了原本Transformer中使用的遮蔽方法，实现了一种局部注意力机制，降低了模型的训练成本，从而适用于对旅行商数据的处理，解决了深度学习数据处理方法对于旅行商数据不适用的问题。的问题。的问题。

【技术实现步骤摘要】
基于局部注意力机制的旅行商问题生成式求解方法


[0001]本专利技术涉及神经组合优化
，尤其涉及一种基于局部注意力机制的旅行商问题生成式求解方法。

技术介绍

[0002]旅行商问题(Traveling Salesman Problem,TSP)是数学领域中的一个经典问题。
[0003]局部注意力机制是指：只计算输入的查询对于与查询最相关的那部分的键的注意力权重，而不是将查询与所有位置的键计算兼容性函数，从而在保留权重准确性的同时减少了计算注意力权重所需要的大量计算和需要被保存在内存中的参数的数量。而如何提取与查询最相关的键就是想要利用局部性特征所需要解决的问题。
[0004]在图像数据中，局部通常被定义为像素的一个小邻域，在文本数据中，局部通常被定义为字符的上下文。而在旅行商问题数据中，由于问题只提供了节点的无序集合，导致节点数据在张量中的位置分布情况与节点的实际位置分布情况并不相关，这使得许多常用的深度学习(Deep Learning,DL)数据处理方法对于旅行商问题数据并不适用。
专利技术内容
[000本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于局部注意力机制的旅行商问题生成式求解方法，其特征在于，包括以下步骤：搭建基于局部注意力机制的旅行商问题生成式求解模型；基于可变情节长度和改进的策略算法对所述旅行商问题生成式求解模型进行训练，得到最优模型；将城市节点集合输入所述最优模型后使用带有基于旅行商问题数据的改进遮蔽操作的局部注意力机制进行注意力权重以及注意力输出计算，得到决策结果。2.如权利要求1所述的基于局部注意力机制的旅行商问题生成式求解方法，其特征在于，所述旅行商问题生成式求解模型包括编码器和解码器。3.如权利要求2所述的基于局部注意力机制的旅行商问题生成式求解方法，其特征在于，所述基于可变情节长度和改进的策略算法对所述旅行商问题生成式求解模型进行训练，得到最优模型，包括：对REINFORCE算法进行改进，得到改进的策略算法；构建可变情节长度；基于所述可变情节长度和所述改进的策略算法对所述旅行商问题生成式求解模型进行训...

【专利技术属性】
技术研发人员：李攸俊，李笠，
申请(专利权)人：桂林电子科技大学，
类型：发明
国别省市：