基于高效局部注意力的小样本HRRP目标识别网络

王国庆1,张云龙2,但 波1,薛 伟2

(1.海军航空大学,山东烟台 264001;2.哈尔滨工程大学烟台研究院,山东烟台 264000)

摘 要:雷达高分辨距离像(High Resolution Range Profiles,HRRP)能够反映被测物体的结构信息,并且由于其易于获取的特性,近年来成为雷达自动目标识别(Radar Automatic Target Recognition,RATR)领域重要的研究方向。本文针对雷达HRRP序列数据提出了一种通过格拉姆角场(Gramian Augular Field,GAF)方法将其转换成二维图像处理的方法,此方法能够在保留原有信息的基础上增加一个维度的特征,便于神经网络进行特征提取;并且针对小样本数据集问题,提出了一种基于迁移学习的带有高效局部注意力(Efficient Local Attention,ELA)机制的卷积神经网络架构,此架构冻结神经网络前5层卷积层的参数,对注意力模块以及全连接层进行单独训练,使模型具有更快的收敛速度和更高的识别精度。通过在5类舰船数据集上的测试发现,迁移学习方法比从头训练模型的训练时间减少了6%,准确率提升了11.62%。

关键词:高分辨距离像;雷达自动目标识别;小样本学习;格拉姆角场;高效局部注意力

0 引 言

雷达自动目标识别一直是雷达领域中的重要问题,对于军事、安防和民用领域都具有重要意义。其基本原理是利用雷达系统向目标发送脉冲信号,接收目标反射回来的信号并对其进行处理分析以确定目标的特征并进行分类。雷达目标识别的关键在于从复杂的雷达反射信号中提取出有效的特征,由于HRRP回波信号易于获取,并且能够很好地反映目标的结构信息,因此,基于HRRP的雷达自动目标识别得到了非常广泛的关注[1]

在HRRP目标识别领域,国外的研究起步较早,最早可以追溯到20世纪70年代,当时,已经研究尝试通过分析图像中的舰船长度和宽度等基本特征,实现对舰船类型的初步识别。随着技术的不断演进,近年来国外在HRRP数据获取以及相关特征数据库建设方面开展了大量工作,初步建立了适用于复杂环境下全姿态舰船目标特征数据库。相比之下,国内在该方向上的研究起步略晚,并且主要由高校和科研院所承担。具有代表性的如中国船舶重工集团第701研究所通过采集实测数据构建的涵盖多类军民船舶目标的HRRP数据库,这成为推动国内该领域研究发展的重要基础。

传统的雷达目标识别方法通常依赖于手工设计的特征提取器和分类器。文献[2]将支持向量机(Support Vector Machine, SVM)引入到HRRP分类中,训练出了一种具有良好泛化能力的分类器。文献[3]针对实测HRRP舰船分类时的小样本不均衡问题,提出了一种使用主成分分析(Principal Components Analysis,PCA)算法进行特征提取的方法,并使用过采样算法及误差迭代加权方法改进了SVM分类器。通过对高维HRRP数据进行PCA降维,将原始数据映射到一个特征子空间上,减少了高维数据中的冗余信息,之后对特征子空间加权,增强了特征的可分性。在分类部分使用了改进的SVM分类器,进一步削弱了噪声的影响。同样,针对测试样本信噪比低的情况,文献[4]提出了一种基于高斯的噪声稳健修改方法,通过显著提升目标和雷达之间的识别距离,使得自适应高斯分类器(Adaptive Gaussian Classifier, AGC)和截断过程隐马尔可夫模型(Truncated Stick-Breaking Hidden Markov Model,TSB-HMM)都能识别低信噪比的HRRP样本。文献[5]基于多散射中心模型,提出了一种可以有效降低HRRP平移敏感性的方法,通过此方法对HRRP数据进行预处理之后,以目标小纵横比的形式表示特征提取之后的平均HRRP,通过SVM作为分类器进行实验,验证了此方法的有效性。然而,这些方法往往受限于特征表示的局限性和复杂目标的变化性,难以提取较深层次的特征,很难满足实际应用中对于高准确性和鲁棒性的要求。

伴随着深度学习技术的不断进步,将其引入雷达目标识别领域已逐渐成为研究的热点之一。针对传统识别方法中依赖人工特征提取、难以捕捉深层信息的局限性,文献[6]提出了一种基于卷积神经网络的方法,用于处理HRRP数据,从而实现对目标的自动化、深层次提取,提升了识别的准确性和效率。深度学习通过构建多层次的神经网络,能够从原始数据中学习到高层次的特征表示,从而实现对目标的自动识别和分类。文献[7]提出了一种结合卷积神经网络和注意力机制的分类网络,其中的注意力机制是通过双向门控循环单元实现的,用于加权局部特征。文献[8]提出了一种基于一维卷积神经网络的分类算法,并且在网络的主体中使用了一种纺锤形状的残差结构,不仅能够提取深层次的特征,而且能够有效地防止梯度消失和梯度爆炸问题,在HRRP数据处理阶段,针对HRRP数据的平移敏感性,使用了一种重心平移方法,将样本的重心平移到中心位置,方便后续的处理。

本文提出了一种基于高效局部注意力机制的卷积神经网络模型,并且运用迁移学习的方法,针对小样本HRRP数据,使用格拉姆角场方法,将序列数据转换成图像,通过神经网络自动完成图像特征的提取和目标的分类,经过在仿真数据集上的实验验证,获得了不错的识别效果。

1 小样本雷达HRRP自动识别模型

1.1 本文方法

本文所提出的基于高效局部注意力机制的小样本HRRP目标识别网络ELAlexNet,整体架构如图1所示。模型的主体基于卷积神经网络,将使用格拉姆角场方法转换得到的图像数据作为网络的输入,用于5类舰船的分类任务。在网络主体部分,由于本文所使用的深度卷积神经网络是在ImageNet数据集上经过预训练的AlexNet模型[9],因此针对本文所涉及到的舰船分类任务,在训练过程中需要对AlexNet特征提取层权重进行冻结处理,只对高效局部注意力模块和AlexNet分类层进行训练。

图1 本文提出的HRRP识别模型整体架构

1.2 格拉姆角场

由于雷达的高分辨距离像是序列数据,在使用深度学习方法进行特征提取时较为复杂,因为深度学习在处理图像问题时表现出很好的效果,所以本文提出了一种使用格拉姆角场将序列数据转换成二维图像的处理方法,事实证明,这种方法在基于HRRP的雷达目标识别方面取得了很好的结果[10]

格拉姆角场是一种将时间序列数据转化为图像形式的有效手段,其基本思想来源于线性代数中的格拉姆矩阵概念。该方法通过构建格拉姆矩阵来计算一组向量之间的线性关系,从而实现将一维序列数据映射到二维图像的过程,并且在此过程中保留了序列数据中某些元素之间的依赖性[11]

首先对于给定的序列X ={x1,x2,…,xn} 进行缩放,通过公式(1)将数据缩放到[ ]-1,1之间,将规范化后的值记为,再通过公式(2)将数据映射到极坐标中。

经过归一化处理和极坐标转换后,利用三角函数和角公式cos(φ 1 + φ2 )或差角公式cos(φ 1 - φ2)定义点与点之间的相关性,从而得到格拉姆和角场(Gramian Augular Summation Field,GASF)矩阵,公式(3)和格拉姆差角场(Gramian Augular Difference Field,GADF)矩阵,公式(4)。

式中重新定义了带惩罚项的内积[12],通过此方式来减少噪声的干扰。

格拉姆角场原理如图2所示,其中图2(a)为原始序列数据,图2(b)为经过缩放后的归一化数据,图2(c)为转换为极坐标的数据,图2(d)为经过格拉姆矩阵转换成的图像数据。相比于原始的序列数据,GAF增加了一个维度的信息,通过这种方式,不仅将原始的序列数据转换成了可供计算机视觉算法处理的二维图像,并且保留着原始序列的特征信息。

图2 格拉姆角场原理图

1.3 深度卷积神经网络模型AlexNet

AlexNet是由Alex Krizhevsky、Ilya Sutskever和Geoffrey Hinton在2012年ImageNet图像分类竞赛中提出的一种经典的卷积神经网络[13]。它在ImageNet大规模视觉挑战赛中取得了革命性的成果,显著提高了图像分类的准确率,并成为深度学习领域的重要里程碑。

AlexNet的网络结构总共有8层,如图3所示,其中包含5个卷积层和3个全连接层。最前端的输入层的输入是尺寸为3×224×224的RGB图像,接着在第1、第2、第5层卷积层之后都衔接着一个最大池化层,通过池化操作不仅降低了特征向量的维度,提高了计算效率,还保留了关键特征信息,提升了模型的鲁棒性。前两个全连接层使用ReLU激活函数,在提升训练速度的同时减少了梯度消失问题。最后一个全连接层中使用SoftMax激活函数将网络的输出转化成一个维度为5的概率值,用于预测图像的类别。

图3 AlexNet网络结构

AlexNet是首个真正意义上的深度卷积神经网络,通过层级化的特征提取,使得网络能够在不同层次上自动学习从简单到复杂的各种图像特征,从而显著提升图像分类精度。不仅如此,AlexNet首次采用ReLU激活函数,取代了传统的Sigmoid和tanh激活函数。ReLU不仅加速了计算过程,还有效地解决了梯度消失问题。同时为了防止过拟合,AlexNet还采用了Dropout技术,通过在训练过程中随机丢弃一部分神经元及其连接,有效地减少了模型对某些特定神经元的依赖,从而增强了模型的泛化能力。

1.4 高效局部注意力模块

由于图像的空间维度包含关键的位置信息,现有的卷积神经网络无法有效利用这种空间信息,因此本文引入了一种针对图片空间信息的高效局部注意力机制[14],结构如图4所示。

图4 高效局部注意力模块结构

ELA通过在空间维度采用带状池化来提取水平和垂直方向的特征向量,维持细长的核形状来捕捉远距离的依赖关系,同时避免不相关区域对标签预测的干扰[15]。在每个方向上生成富有信息的目标位置特征,通过独立处理这些方向的特征向量进行注意力预测,最后通过乘积操作将他们进行整合,确保了感兴趣区域的精确位置信息。在ELA机制中融入了1D卷积和组归一化特征增强技术,通过这种方法无需降低维度便可实现准确地区分感兴趣的区域,同时能够进行轻量级的实现。

1.5 迁移学习与模型微调

由于雷达数据的特殊性,目前并未公开大规模并且质量较高的HRRP数据集,因此基于小样本数据的雷达HRRP自动目标识别成为研究的热点,而针对小样本问题,迁移学习是一个不错的方法[16]。迁移学习就是使用在源域通过大量数据进行训练的模型完成针对目标域的任务。在实践中,从头训练深度学习模型是很困难的,因为大型的神经网络模型包含大量的权重数据,从头开始训练需要在开始时对所有的权重进行随机初始化,迭代过程相当复杂,使用迁移学习的方法,不仅节省了从头训练模型的时间,降低了计算成本,而且不需要大量的训练数据,更容易调试,增强了模型的鲁棒性[17]

从预训练的权重训练深度卷积神经网络已经成功应用到不同领域的图像处理任务中,在本文中使用在ImageNet上预训练的AlexNet模型,通过冻结前5层卷积层的权重并在加入注意力机制后使用当前数据集进行训练,对模型进行微调,从而实现了很好的分类效果。

2 实验设计

对于HRRP数据的处理,传统的方法非常依赖专家经验,同时也大大增加了工作难度和计算量,因此本文提出将HRRP数据转换成图像进行处理,并使用迁移学习方法进行分类识别,在本节中,为了验证所提出方法的性能,通过仿真计算,构建了一个包含5类舰船数据的HRRP数据集。并且为了对比迁移学习方法和从头开始训练的神经网络之间的性能差异,本文参照AlexNet网络结构自行构建了卷积神经网络模型,分别使用由GASF和GADF方法构建的数据集从头开始训练,并进行了消融实验。

2.1 HRRP数据集

由于雷达HRRP数据的敏感性,目前并没有公开的大型HRRP数据集,因此本文所使用的数据集是通过3D Max建立了5个舰船模型,利用FEKO进行计算得到舰船目标的HRRP数据。其中FEKO的仿真参数如下:雷达的中心频率为10 GHz,带宽为80 MHz,频率采样点的个数为200,收发极化方式均采用垂直极化,其中方位角的范围为0°~360°,间隔为1°,俯仰角为80°,每个距离单元对应的长度为1.875 m。数据集中共包含5类舰船数据,每类数据包含360组不同的数据,每组数据有200个数据点。经过格拉姆角场方法转换成二维图像后,共得到1 800张图像。数据集按8∶2划分成训练数据集和验证数据集。HRRP原始数据和转换之后的图像数据如图5所示。

图5 数据集中的图像数据

从图5可以看出,经过GASF或GADF转换成的图像中包含了丰富的结构信息,并且比较渔船和辅助船的图像可以发现,图中的纹理特征是不相同的,这也为之后的特征提取和分类奠定了基础。

2.2 实验设置

舰船HRRP目标识别可以看作是一个5类样本分类任务,在训练过程中,使用交叉熵损失函数,优化器选择Adam优化器,初始学习率设置为0.01,并且在学习过程中对学习率进行动态调整,每五轮更新一下学习率,变为原来的0.5倍,数据批大小设置为32。本文的实验全部在带有GPU型号为NVIDIA GeForce GTX 1650的笔记本上完成,训练轮数设置为80。

3 结果分析

在完成深度模型的微调之后,使用验证数据集对模型性能进行评估。为了与从头训练的深度神经网络模型作对比,在本节中进行了消融实验,计算了使用预训练模型和从头训练的深度网络模型的训练时间、准确率;分别使用GASF和GADF数据集进行训练,计算了精确率、召回率、F1分数和准确率;为了能够直观地对特征进行观察分析,对特征进行了降维可视化处理。并且绘制了混淆矩阵。

3.1 消融实验

为了对比注意力模块以及迁移学习方法的有效性,进行可消融实验,通过将从头训练的AlexNet网络作为基线的方法,通过增加ELA注意力和使用预训练模型的方式进行消融实验,实验结果如表1所示。

表1 消融实验结果对比

序号AlexNetELASE从头训练预训练ⅠⅡⅢⅣV√√√√√√√ √√√√√√训练时间/s 2 845.96 3 321.55 2 521.26 2 843.92 3 119.95准确率/%78.64 85.32 93.89 95.67 96.94

在使用AlexNet从头训练时,识别准确率为78.64%,当添加了ELA模块后,识别准确率为85.32%,说明添加注意力后有利于网络获取深层特征信息从而提升网络的性能。当使用迁移学习的方法后,识别准确率为96.94%,相较于从头训练提高了11.62%。并且为了对比本文使用的高效局部注意力机制与其他注意力机制的区别,本文还使用SE注意力模块(Squeeze-and-Excitation Networks)进行了对比实验,虽然在时间上有略微优势,但准确率不如使用ELA模块,说明本文所提出的带有高效局部注意力机制的迁移学习方法针对小样本问题能够有效增强对目标的分类识别性能。

3.2 不同数据类型识别结果对比

在本节中,分别使用了由GASF和GADF转换的数据对本文所提出模型进行训练,并分别计算了使用每种类型数据的精确率、召回率、F1分数和准确率,结果如表2所示。

表2 GASF与GADF识别结果对比 %

类型GASF GADF精确率96.68 97.51召回率96.67 97.50 F1分数96.67 97.50准确率96.67 97.50

从表2的结果可以看出,不管是使用GASF方法还是GADF方法对图像进行转换,上述4种评估指标都非常高,说明这两种方法都很有效。并且两种方法的F1分数都接近各自精确率和召回率,说明模型具有很好的鲁棒性。

3.3 特征分布可视化

为了能够直观地观察本文所提出的分类模型在仿真计算的数据集上的识别性能,在本节中使用t-SNE对模型全连接层的输出进行降维可视化处理[18],得到的结果如图6所示,每种颜色代表了一类舰船数据,共5类。从图中可以看出,各类数据呈现出很好的聚类效果,说明本文所提出的模型能够将这5类舰船数据进行分类,并且具有非常良好的分类性能。尽管标签为1对应的舰船数据与标签为3对应的舰船数据类似,本文所提出的模型仍能将其很好地识别出来,相比于这两类数据,其他三类分类效果更加显著。

图6 5种舰船的特征分布

为了直观地观察本文提出的模型在每个舰船类别上的分类情况,还绘制了混淆矩阵对其进行可视化,结果如图7所示,通过比较发现,本文所提模型对于除辅助船(AV)之外的其他4类舰船分类性能优越,辅助船次之,说明本文所提模型具有一定的稳健性,对于本文所构建的数据集具有很好的分类效果。

图7 混淆矩阵

综合以上结果表明,虽然自行建立的深度神经网络模型与预训练模型参数量相同,但是从头训练涉及到完全随机初始化参数,因此需要的时间比预训练模型要长,并且预训练模型具有更快的收敛速度和更好的收敛精度。

4 结束语

综上所述,为了实现5类舰船的雷达HRRP分类识别任务,本文提出了一种基于迁移学习的框架,将雷达HRRP序列数据经过格拉姆角场方法转换成二维图像,使用带有高效局部注意力机制的深度卷积神经网络ELAlexNet进行分类识别,并通过计算仿真软件创建了一个包含5类舰船数据的小样本HRRP数据集。在实验过程中,我们对比了使用迁移学习的方法以及从头开始训练的深度神经网络方法,结果表明,在面对小样本情况,迁移学习框架下使用的预训练模型比从头训练的深度神经网络模型具有更短的训练时间,更快的收敛速度以及更好的分类识别效果。不仅如此,本文将一维序列数据转换成二维图像处理的方法,通过增加一个维度,在保留原有特征的基础上更加体现了各特征之间的相关性,并将当前发展较为成熟的计算机视觉算法应用到处理雷达HRRP数据上,为未来的工作提供了新的研究思路。

参考文献:

[1]DU Lan,LIU Hongwei,BAO Zheng,et al.Radar Automatic Target Recognition Using Complex High-Resolution Range Profiles[J]. IET Radar, Sonar & Navigation, 2007, 1(1):18-26.

[2]LI Ying,REN Yong,SHAN Xiuming.Radar HRRP Classification with Support Vector Machines[C]//2001 International Conferences on Info-Tech and Info-Net, Beijing,China:IEEE,2001:218-222.

[3]查海刚,齐向阳,范怀涛.基于SVM 的小样本不均衡HRRP 舰船目标分类方法[J].现代电子技术,2024,47(15):109-114.

[4]PAN Mian, DU Lan, WANG Penghui, et al. Noise-Robust Modification Method for Gaussian-Based Models with Application to Radar HRRP Recognition[J]. IEEE Geoscience and Remote Sensing Letters,2012,10(3):558-562.

[5]SHEN Limin,MA Yanzhou.An Algorithm Based on HRRP for Target Recognition[C]//2011 International Conference on Image Analysis and Signal Processing, Wuhan, China:IEEE,2011:71-73.

[6]付哲泉,李相平,李尚生,等.深度学习在雷达目标高分辨距离像识别中的研究综述[J].航空兵器,2020,27(3):37-43.

[7]CHEN Jian, DU Lan, GUO Guanbo, et al. Target-Attentional CNN for Radar Automatic Target Recognition with HRRP[J].Signal Processing,2022(3):108497.

[8]李璐,李泽宇,冯超.基于一维卷积神经网络的HRRP雷达目标分类方法[J].火控雷达技术,2023,52(4):143-147.

[9]邬娜,王健,杨建伟,等.变工况及小样本情况下滚动轴承故障迁移学习方法综述[J].科学技术与工程,2024,24(10):3939-3951.

[10]KARABAYIR O, YUCEDAG O M, KARTAL M Z, et al.Convolutional Neural Networks-Based Ship Target Recognition Using High Resolution Range Profiles[C]//2017 18th International Radar Symposium,Prague,Czech Republic:IEEE,2017:1-9.

[11]LIU Qi, ZHANG Xinyu, LIU Yongxiang, et al. Few-Shot HRRP Target Recognition Based on Gramian Angular Field and Model-Agnostic Meta-Learning[C]//2021 IEEE 6th International Conference on Signal and Image Processing,Nanjing,China:IEEE,2021:6-10.

[12]占可,王寅杰,董路南,等.基于改进格拉姆角场和注意力机制的滚动轴承故障诊断[J].轴承,2024(8):80-85.

[13]KRIZHEVSKY A, SUTSKEVER I, HINTON G E. ImageNet Classification with Deep Convolutional Neural Networks[J].Communications of the ACM,2017,60(6):84-90.

[14]XU Wei, WAN Yi. ELA: Efficient Local Attention for Deep Convolutional Neural Networks[J/OL]. Arxiv,2024.https://doi.org/10.48550/arXiv.2403.01123.

[15]LIU Qi,ZHANG Xinyu,LIU Yongxiang.Hierarchical Sequential Feature Extraction Network for Radar Target Recognition Based on HRRP[C]//2022 7th International Conference on Signal and Image Processing, Suzhou,China:IEEE,2022:167-171.

[16]王圣杰,王铎,梁秋金,等.小样本学习综述[J].空间控制技术与应用,2023,49(5):1-10.

[17]SHAO Siyu, MCALEER S, YAN Ruqiang, et al. Highly Accurate Machine Fault Diagnosis Using Deep Transfer Learning[J]. IEEE Trans on Industrial Informatics,2019,15(4):2446-2455.

[18]MAATEN L V D, HINTON G. Visualizing Data Using t-SNE[J]. Journal of Machine Learning Research, 2008(9):2579-2605.

Few-Shot HRRP Target Recognition Network Based on Efficient Local Attention

WANG Guoqing1, ZHANG Yunlong2, DAN Bo1, XUE Wei2
(1.Naval Aviation University,Yantai 264001,China;2.Yantai Research Institute,Harbin Engineering University,Yantai 264000,China

Abstract: Radar high resolution range profiles(HRRP)can reflect the structural information of the object under test,and due to its easy accessibility,it has become a significant research direction in the field of radar automatic target recognition(RATR)in recent years.In this paper,a method is proposed for radar HRRP sequence data to be converted into two-dimensional image processing by the Gramian angular field(GAF)method, which preserves the original information while adding an additional dimension of features, facilitating feature extraction by neural networks. To address the issue of small-sample datasets,a convolutional neural network architecture based on the transfer learning with an efficient local attention(ELA)mechanism is proposed. This architecture freezes the parameters of the first five convolutional layers of the neural network,and trains the attention module as well as the fully connected layer separately,so that the model has faster convergence speed and higher recognition accuracy.Tests on five types of ship datasets demonstrate that the transfer learning approach reduces the training time by 6% and improves the accuracy by 11.62% compared to models trained from scratch.

Key words: high resolution range profiles(HRRP); radar automatic target recognition(RATR); few-shot learning; Gramian angular field(GAF); efficient local attention

中图分类号:TN957.51

文献标志码:A

文章编号:1672-2337(2025)06-0603-08

引用格式:王国庆,张云龙,但波,等.基于高效局部注意力的小样本HRRP目标识别网络[J].雷达科学与技术,2025,23(6):603-610.

WANG Guoqing,ZHANG Yunlong,DAN Bo,et al.Few-Shot HRRP Target Recognition Network Based on Efficient Local Attention[J].Radar Science and Technology,2025,23(6):603-610.

DOI: 10.3969/j.issn.1672-2337.2025.06.002

收稿日期:2024-12-24;修回日期:2025-04-06

基金项目:国家自然科学基金(No.62388102)

作者简介:

王国庆 男,博士,副教授,主要研究方向为雷达信号采集与处理、目标检测与识别、对海探测试验。

张云龙 男,硕士研究生,主要研究方向为基于多模态特征融合的海上目标识别。

但 波 男,博士,副教授,主要研究方向为机器学习与目标识别。

薛 伟 男,博士,教授,主要研究方向为地下无线通信与定位技术、通信信号检测与识别、水下无线通信探测与定位技术。