0 引言
机载雷达为应对地面慢速运动目标检测的调整，通常采用空时自适应处理(Space Time Adaptive Processing,STAP)作为重要手段[1]，而目标距离环(Cell Under Test,CUT)杂波协方差矩阵(Clutter Covariance Matrix,CCM)的估计是机载STAP的关键步骤[2]。在CCM的估计过程中，要求选择无目标的训练样本，且与CUT的杂波信号保持独立同分布。此外，所提供训练样本数量至少要达到空时维度的两倍，以确保高输出信杂噪比(Signal-Clutter-Noise Ratio,SCNR)。而实际应用场景通常为非均匀杂波环境，尤其对于高维度应用，如多脉冲、大阵列，无法提供足够的均匀训练样本。
为了利用有限样本精确估计CCM，学者们提出了许多算法。降维算法[3]和降秩算法[4]可以有效降低用于CCM估计所需样本数量。文献[5]中的直接数据域STAP算法仅需利用目标距离环数据估计CCM，直接回避了训练样本不足的问题。然而，上述这些算法牺牲了系统自由度，会导致STAP性能降低。近年来，学者们根据杂波自身的稀疏性，提出了稀疏恢复(Sparse Recovery,SR)算法，该类算法可在空时域内获得高分辨率。然而，对于绝大多数稀疏恢复算法，如正交匹配追踪算法(Orthogonal Matching Pursuit,OMP)[6],建立信号模型需利用离散化字典，会导致网格点失配问题，从而严重影响算法性能[7]。为了解决网格点失配问题，文献[8]提出的原子范数最小化(Atomic Norm Minimization,ANM)算法，通过利用CCM的块Toeplitz结构特性支持多维范德蒙分解实现连续域信号建模，但是由于秩最小化问题为NP-hard问题，该算法采用核范数对矩阵的秩进行松弛，然而对于STAP处理时的CCM这类具有多维Toeplitz结构的矩阵，核范数松弛无法保证所估计协方差矩阵的低秩特性[9]。
基于上述分析，本文提出了一种基于截断核范数正则化(Truncated Nuclear Norm Regularization,TNNR)的CCM估计算法，可有效解决非均匀杂波环境下(即有限样本)的STAP处理问题。本文主要创新为利用TNNR确保所估计CCM的低秩特性，同时结合CCM的块Toeplitz结构先验信息。与常规秩最小化算法不同，如核范数松弛算法，其对所有奇异值的和求最小化处理，难以准确近似矩阵的秩，由于CCM的秩仅与非零奇异值有关，本文所采用的TNNR算法仅求解与矩阵的秩不相关的较小的奇异值的和，从而间接控制CCM的秩，确保低秩估计。同时，通过迭代求解思想，将TNNR优化问题转换为凸优化问题实现求解。此外，结合机载雷达的信号模型特征，我们在CCM的估计过程中引入块Toeplitz结构约束，由于块Toeplitz矩阵可支持多维范德蒙分解，从而可确保CCM的估计建立在连续域模型上，可避免了常规稀疏恢复算法由于引入离散化字典导致的网格点失配问题。仿真实验表明本文所提出的算法相比于其他同类算法具有更高估计精度，性能更加出色。
1 机载雷达STAP信号模型
假设机载雷达采用以半波长为间隔布阵的正侧视均匀线阵(ULA)，共有N个阵元，每个阵元在一个相干处理间隔内发射M个脉冲，脉冲重复频率为fr。发射波长为λ，阵元间距d为λ/2。对于目标距离环(CUT)的接收信号x∈CNM可以表示为
x=s+c+n
(1)
式中，s表示运动目标回波信号，c表示杂波信号，n为噪声向量。对于单个反射点的阵列响应，可以表示为空域导向矢量与时域导向矢量的Kronecker积形式。空域导向矢量和时域导向矢量可分别表示为ar(fr)∈CN，ad(fd)∈CM，fr和fd分别表示某个反射点归一化的空间频率和多普勒频率。反射点的空时导向矢量可表示为空域导向矢量与时域导向矢量的Kronecker积，即ad,r= ad(fd)⊗ar(fr)。
由上述所得，目标信号可表示为
s=α0ad(fd0)⊗ar(fr0)∈CNM
(2)
式中，⊗表示Kronecker积，α0表示目标回波信号复幅度，fr0和fd0分别表示运动目标归一化的空间频率和多普勒频率。
对于杂波信号，我们将所选定距离环划分为Nc个杂波片，回波信号响应即可表示为这些杂波片回波信号的总和[10]，即
(3)
式中，αi表示第i个杂波片的回波信号复幅度，fri和fdi分别表示第i个杂波片的归一化的空间频率和多普勒频率。
假设噪声信号n∈CNM是零均值，方差为
的高斯白噪声信号。
当机载雷达采用大规模阵列或使用多脉冲体制时，其CCM维度会很高，从而导致难以为CCM的估计提供充足的均匀样本。因此，本文提出了一种基于TNNR的STAP算法，以确保机载雷达STAP处理在非均匀杂波环境下的性能。
2 基于TNNR的协方差矩阵估计
根据Brennan法则[11-12]，利用Mr=⎣N+ β(N-1)」个空时导向矢量即可表示接收信号中的杂波成分并可张成杂波子空间，即
(4)
式中，β表示杂波脊斜率，Mr表示杂波秩，
表示第mr个空时导向矢量。可得杂波信号在连续的波束多普勒域是稀疏的，假设RC是一个秩为Mr的块Toeplitz矩阵。又由于Mr≪NM，因此RC为低秩矩阵。本文中，我们可利用杂波信号的稀疏性及杂波协方差矩阵的低秩特性进行CCM的估计。
当存在多个不包含目标的均匀训练样本时，我们可以利用这些样本的联合稀疏性来提升CCM的估计准确度。假设这些样本均具有相同的杂波子空间，则这K个训练样本的杂波信号矩阵可表示为
(5)
式中，
表示Euclidean范数。
利用这K个训练样本，CCM可以表示为
RC=
(6)
显然XC可看作Mr个原子的线性组合[12],其中原子集合可表示为
AMMV={ad,r(f,Φ)|f∈[0,1)×[0,1),
Φ2=1}
(7)
式中，ad,r(f,Φ)
[ad(fd)⊗ar(fr)]ΦT。然后，杂波信号矩阵XC的原子l0范数可表示为用AMMV中的原子表示该矩阵所需最少原子个数，
(8)
因此，通过以下的原子范数最小化算法即可提取训练样本信号矩阵X中的杂波成分：
s.t. X-Ξ2≤Kεn
(9)
式中，Ξ表示为XC的估计。然后我们利用调整参数可将优化问题改写为以下形式：
(10)
式中，λ>0为调整参数。式(10)中的优化问题由于包含ΞAMMV,0，是NP-hard问题，无法直接求解。由文献[12],ΞAMMV,0=rank(RC)=Mr,此外，RC具有块Toeplitz矩阵，在优化求解中通过考虑先验结构信息可以有效提高估计精度。同时为了将样本杂波信号矩阵与RC，此处引入新的矩阵Z±0，即
式中，
根据文献[9]和文献[13],经证明可得XCAMMV,0=rank(Z)，其中RC表示一个块Toeplitz矩阵，可支持多维范德蒙分解。我们利用矩阵函数S(T)∈CNM×NM来表示该两级块Toeplitz矩阵[14]，
(12)
(13)
式中，T=[xl1,l2]∈C(2M-1)×(2N-1)，-M<l1<M，-N<l2<N，Tl∈CN×N是由T的第l列构造的Toeplitz矩阵，-M<l<M。由上述可得新的优化问题可以表示为
(14)
然而，上述式(14)中的优化问题包含秩函数，仍然为NP-hard问题。现存优化算法无法直接求解秩最小化问题。通常，我们利用核范数对矩阵的秩进行松弛，以实现将非凸问题转化为凸优化问题，如文献[12]中ANM算法所采用的方法。但理论研究表明核范数，即矩阵奇异值的总和无法高度近似矩阵的秩[15-16]，因为矩阵的秩仅与所有非零奇异值有关，但是核范数无差别对待所有奇异值，对总体进行求和，在实际应用中性能较差，无法高度近似矩阵的秩函数。
为了解决式(14)中的秩最小化问题，我们利用TNNR算法对矩阵Z的秩进行更加精确的近似。根据文献[15],对于秩为r的矩阵B∈CNM×NM，其截断核范数(Truncated Nuclear Norm，TNN)被定义为最小个NM-r个奇异值的和，即
(15)
其中，σi(B)表示矩阵B按递减顺序排列的第i个奇异值。
在使用TNNR时，由于涉及矩阵Z的秩，我们可以利用Brennan法则估计协方差矩阵RC的秩，然后根据rank(RC)=rank(Z)。与基于核范数的方法不同，本文所提出的基于TNNR的算法仅针对NM-Mr个最小奇异值进行处理，而由于矩阵的秩仅与较大的Mr个奇异值相关，因此通过求解中约束较小NM-Mr个奇异值的和近似为零，即可控制所得协方差矩阵的秩[15-16]，从而更加精确的近似CCM的秩。因此，式(14)可重新整理为如下形式：
(16)
其中τ>0，因为Zr是非凸的，我们仍然不能直接求解式(16)。我们引入一个新的矩阵A∈CNM，其满足AAH=INM，其中INM是一个NM×NM的单位阵。
根据VonNeumann的迹的不等式可得
Tr(AZAH)=Tr(ZAHA)≤
(17)
式中，Tr(·)表示矩阵的迹，σi(AHA)表示AHA的第i个奇异值。假设矩阵A的秩为Mr，则rank(AHA)=Kr≤Mr。当i≤Kr时，σi(AHA)>0，且
为矩阵AHAAHA=AHA的第i个特征值，同时也是AAH=INM的特征值。因此可得
(18)
由上述推导可得
(19)
通过将式(19)与式(17)结合，可得
(20)
由于Z为半正定Hermitian矩阵，可用其特征值分解替代奇异值分解。假设Z的特征分解为Z=UΣUH，其中U=(u1,…,uNM)H∈CNM×NM，Σ∈CNM×NM为Z的特征值构成的对角矩阵，那么当
A=(u1,…,uMr)H
(21)
则式(20)可取等号。然后我们可得如下结果：
(22)
因此，Z的TNN可表示为
(23)
根据式(23)，式(16)中的最小化问题可以被重新表达为如下形式：
我们可以通过迭代的方式解决上述优化问题。将文献[12]中ANM算法的结果作为初始值，即Z0=ZANM。在进行第k次迭代时，我们固定Zk然后通过对其进行特征分解求得Ak，然后固定Ak更新Zk+1，即解决如下优化问题：
而上述优化问题为凸优化问题。通过上述迭代更新，当Zk+1-ZkF≤ε时，迭代过程停止，其中·F表示矩阵的Frobenius范数。我们得到最终的Z，从而可得RC。
关于矩阵Z的分解不是唯一[17]，上述求解的RC仅能表征杂波子空间。为了准确获得CCM，我们需要进行如下的校正操作。假设RC的特征分解为
RC=QΛQH
(26)
式中，Q表示RC的特征向量矩阵，Λ表示对角矩阵，其对角线元素对应为RC的特征值。因此，RC可表示为[12]
(27)
式中，diag(·)表示对角阵，Ξ(l)表示估计所得的第l个训练样本。
3 实验和结果分析
假设机载雷达采用正侧视均匀线阵，以半波长布阵，载频为1.5 GHz，阵元个数N=16，相干处理间隔M=16，载机平台高度为5 000 m，载机平台运动速度为125 m/s，脉冲重复频率为2 000 Hz，即杂波脊斜率β=1。波束主瓣指向正侧视方向。杂噪比(Clutter-Noise Ratio,CNR)CNR=30 dB，采用Ward杂波模型，观测方位角范围为
每个距离环被均匀分割为181个杂波片进行杂波建模。所提供的均匀样本个数L=20。
图1显示了基于TNNR的杂波协方差矩阵估计算法与理想协方差矩阵的特征谱。当β=1，根据Brennan法则可准确估计杂波秩，其杂波秩为31，图中显示，基于TNNR的杂波协方差矩阵估计算法的估计结果其特征谱在第31个特征值处有陡峭下降，与理想杂波协方差矩阵趋势一致，即本文所提出的基于TNNR的杂波协方差矩阵估计算法可有效保证所估计矩阵的低秩特性。
图1 杂波协方差矩阵的特征谱
图2展示了当杂波脊斜率为整数(β=1)时，不同STAP算法的SCNR损失对比曲线图。由图中结果可以看出，本文所提出的基于TNNR的杂波协方差矩阵估计算法的STAP性能显著优于OMP、ANM以及样本矩阵求逆(Sample Matrix Inversion,SMI)算法，这是由于基于TNNR的杂波协方差矩阵估计算法不仅可以确保估计的杂波协方差矩阵的低秩特性，同时还结合了杂波协方差矩阵的块Toeplitz结构先验信息，有效提高了小样本下的协方差矩阵估计精度，因此相比其他STAP算法性能更优。
图2 SCNR损失对比曲线图(β=1)
图3和图4显示了当杂波脊斜率为非整数(β=0.79/2.31)时，不同STAP算法的SCNR损失对比曲线图。当杂波脊斜率为非整数时，根据Brennan法则，无法准确估计杂波秩，但是本文提出的基于TNNR的杂波协方差矩阵估计算法的STAP性能仍然显著优于OMP、ANM以及SMI算法。该实验结果表明，即使在杂波秩信息不准确的情况下，基于TNNR的杂波协方差矩阵估计算法仍然具有出色的性能，优于OMP、ANM以及SMI算法。
图5展示了基于TNNR的杂波协方差矩阵估计算法在不同训练样本数量下的SCNR损失对比曲线图。由图中结果可以看出，随着训练样本数量的增加，本文所提出算法的STAP性能会明显提升，当训练样本足够多时(L=200<2NM)，基于TNNR的STAP算法性能接近最优STAP性能，相差小于1 dB。
图3 SCNR损失对比曲线图(β=0.79)
图4 SCNR损失对比曲线图(β=2.31)
图5 训练样本数量不同时的TNNR STAP的
SCNR损失对比曲线图
4 结束语
本文提出了基于TNNR的CCM估计算法以确保机载雷达STAP在非均匀杂波环境下CCM估计的准确性。通过将CCM的低秩特性与块Toeplitz结构相结合，新算法可以很好满足训练样本不足情况下的应用场景。相比于核范数松弛算法，本文所采用的TNNR算法可以更加准确地近似矩阵的秩，从而有效确保所估计CCM的低秩特性。相比同类算法，本文所提出的CCM估计算法在非均匀杂波环境下的STAP估计性能更加出色。
[1] JIA Fengde,SUN Guohao,HE Zishu,et al. Grating-Lobe Clutter Suppression in Uniform Subarray for Airborne Radar STAP[J]. IEEE Sensors Journal,2019,19(16):6956-6965.
[2] LI Ming,SUN Guohao,TONG Jun,et al. Training-Free Moving Target Detection with Uncertain a Priori Knowledge for Airborne Radar[J]. IET Radar,Sonar & Navigation,2020,14(3):372-380.
[3] FENG Weike,ZHANG Yongshun,HE Xingyu. Clutter Rank Estimation for Reduce-Dimension Space-Time Adaptive Processing MIMO Radar[J]. IEEE Sensors Journal,2017,17(2):238-239.
[4] 丁前军,王永良,张永顺. 降秩自适应滤波算法研究[J]. 雷达科学与技术,2005,3(4):232-239.
DING Qianjun,WANG Yongliang,ZHANG Yongshun. Research on Algorithms for Reduced Rank Adaptive Filtering[J].Radar Science and Technology,2005,3(4):232-239.(in Chinese)
[5] SARKAR T K,WANG H,PARK S,et al. A Deterministic Least-Squares Approach to Space-Time Adaptive Processing (STAP)[J]. IEEE Trans on Antennas and Propagation,2001,49(1): 91-103.
[6] ROY S,ACHARYA D P,SAHOO A K. Incremental Gaussian Elimination Approach to Implement OMP for Sparse Signal Measurement[J]. IEEE Trans on Instrumentation and Measurement,2019,69(7):4067-4075.
[7] CHI Yuejie,LU Y M,CHEN Yuxin. Nonconvex Optimization Meets Low-Rank Matrix Factorization: An Overview[J]. IEEE Trans on Signal Processing,2019,67(20):5239-5269.
[8] HUANG Yan,LIAO Guisheng,XIANG Yijian,et al. Low-Rank Approximation via Generalized Reweighted Iterative Nuclear and Frobenius Norms[J]. IEEE Trans on Image Processing,2020,29:2244-2257.
[9] YANG Zai,XIE Lihua,STOICA P P. Vandermonde Decomposition of Multilevel Toeplitz Matrices with Application to Multidimensional Super-Resolution[J]. IEEE Trans on Information Theory,2016,62(6): 3685-3701.
[10] DUAN Keqing,LIU Weijian,DUAN Guangqing,et al. Off-Grid Effects Mitigation Exploiting Knowledge of the Clutter Ridge for Sparse Recovery STAP[J]. IET Radar,Sonar & Navigation,2018,12(5): 557-564.
[11] 孙国皓. 基于协方差矩阵结构特征的机载雷达空时处理[D]. 成都：电子科技大学，2019.
[12] FENG Weike,GUO Yiduo,ZHANG Yongshun,et al. Airborne Radar Space Time Adaptive Processing Based on Atomic Norm Minimization[J]. Signal Processing,2018,148(1):31-40.
[13] YANG Zai,XIE Lihua. Enhancing Sparsity and Re-solution via Reweighted Atomic Norm Minimization[J]. IEEE Trans on Signal Processing,2016,64(4):995-1006.
[14] CHI Yuejie,CHEN Yuxin. Compressive Two-Dimensional Harmonic Retrieval via Atomic Norm Mi-nimization[J]. IEEE Trans on Signal Processing,2015,63(4):1030-1042.
[15] ZHANG Debing,HU Yao,YE Jieping,et al. Matrix Completion by Truncated Nuclear Norm Re-gularization[C]∥2012 IEEE Conference on Computer Vision and Pattern Recognition,Providence,RI,USA:IEEE,2012:2192-2199.
[16] HU Yao,ZHANG Debing,YE Jieping,et al. Fast and Accurate Matrix Completion via Truncated Nuclear Norm Regularization[J]. IEEE Trans on Pattern Analysis and Machine Intelligence,2013,35(9):2117-2130.
[17] LI Ming,SUN Guohao,HE Zishu. Direct Data Domain STAP Based on Atomic Norm Minimization [C]∥2019 IEEE Radar Conference,Boston,MA,USA:IEEE,2019:1-6.
