训练样本不足时的子空间信号检测方法*

杨 星1，王利才，杨 洋3，王鹤磊，刘维建**

(1.解放军94402部队，济南 250022；2.空军预警学院 黄陂士官学校，武汉 430019；3.解放军驻720厂军事代表室，南京 210046)

训练样本不足时的子空间信号检测方法*

杨 星1，王利才2，杨 洋3，王鹤磊2，刘维建**2

(1.解放军94402部队，济南 250022；2.空军预警学院 黄陂士官学校，武汉 430019；3.解放军驻720厂军事代表室，南京 210046)

为了解决训练样本不足时的子空间信号检测问题，提出了两种有效的降秩检测器。基于主分量分析(PCA)的思想，先把常规自适应子空间检测器中采样协方差矩阵(SCM)的求逆运算用噪声特征子空间矩阵与其共轭转置的乘积代替，构造降秩子空间检测器；为进一步提高算法稳健性，把降秩子空间检测器的求逆运算用Moore-Penrose逆代替。仿真结果表明,所提方法在训练样本充足及不足时，均比现有方法具有更好的检测性能。

多通道信号检测；子空间信号检测；自适应信号检测;训练样本不足；降秩方法

1 引 言

信号检测是信号处理的核心问题之一，并且具有广泛的应用，例如雷达、声呐和通信。近年来，学术界对多通道信号自适应检测问题展开了广泛研究，取得了众多成果。美国林肯实验室的Kelly教授[1]于1986年首次提出了基于广义似然比(Generalized Likelihood Ratio Test，GLRT)准则的自适应检测器，记为Kelly的GLRT(Kelly’s GLRT，KGLRT)。Chen[2]和Robey等人[3]分别于1991年和1992年独立地提出了自适应匹配滤波器(Adaptive Matched Filter，AMF)。随后，针对不同的研究问题，各种检测器被不断提出，例如自适应余弦估计器(Adaptive Coherence Estimator，ACE)[4]、De Maio的Rao检测器(DMRao)[5]、自适应波束正交抑制检测器(Adaptive Beamformer Orthogonal Rejection Test，ABORT)[6]、白化ABORT(Whitened ABORT，W-ABORT)[7]、自适应正交抑制检测器(Adaptive Orthogonal Rejection Detector，AORD)[8]等。

上述检测器均针对秩一信号，即信号具有确定的导向矢量。然而，在某些实际情况中，秩一信号很难刻画真实的信号。子空间信号是秩一信号的推广，指的是信号位于已知的子空间，但在该子空间中的坐标未知。与秩一信号相比，子空间信号具有更广泛的应用，例如直升机目标的检测[9]、极化目标的检测[10]等，都与子空间模型吻合。针对子空间信号的检测，文献[11-14]分别把基于秩一信号检测所提出的KGLRT、AMF、ACE和DMRao检测器推广到子空间中。此外，近年来学术界对子空间信号检测的研究方兴未艾，有众多研究成果被提出，例如文献[15-18]及其中的参考文献。

上述研究成果均假设能够获得足够多独立同分布的训练样本。然而，在某些实际环境中往往很难获得充足的训练样本，例如：对于工作在复杂地貌环境中的机载雷达来说，雷达接收数据的统计特性受地形起伏的影响，很难满足独立同分布的特性。此外，随着雷达系统维数的增加，所需要的训练样本个数也不断增加，进一步增加了获得充足训练样本的困难。降秩技术是解决训练样本不足的一种简单而有效的重要技术途径。降秩技术利用有限的训练样本构造采样协方差矩阵(Sample Covariance Matrix，SCM)，然后对SCM进行特征分解，并利用小特征值对应的特征向量构造信号子空间，以降低系统自由度，从而减小对训练样本的依赖。降秩技术广泛应用于信号滤波中，例如互谱(Cross-Spectral Metric，CSM)法[19]、共轭梯度(Conjugate Gradient，CG)法[20]、多级维纳滤波器(Multistage Wiener Filter，MWF)[21-23]等。此外，有少数文献把降秩方法应用到目标检测中。文献[24-25]提出了适用于机载雷达空时自适应处理(Space-Time Adaptive Processing，STAP)技术的检测方法，文献[26]把主分量分析(Principal Component Analysis，PCA)法应用到机载雷达空时自适应检测(Space-Time Adaptive Detection，STAD)中，文献[27]提出了基于Krylov子空间技术的目标检测方法。

值得指出的是，上述降秩滤波和降秩检测方法只针对秩一信号，均不适用于子空间信号的检测。为此，本文针对训练样本不足时的子空间信号检测问题，提出了合理的降秩检测方法，保证了训练样本不足时检测器的检测性能，与传统检测方法相比，提高了检测性能。

2 问题建模及现有检测器

考虑机载雷达的目标检测问题，假设有Na个阵元，每个阵元发射Nb个脉冲，则系统维数为N=NaNb。令x为N×1维向量，表示待检测单元的接收数据。在假设检验H0下，x仅含有噪声n；在假设检验H1下，x包含噪声n和信号s。噪声n包括杂波和热噪声。假设信号可表示为s=Hθ，H为N×p维列满秩矩阵，θ为p×1维向量，表示信号s在由H张成的子空间中的坐标。假设噪声n服从复高斯分布，其均值为0,协方差矩阵为R，记作

n～CNN(0,R) 。

(1)

在实际中，R是未知的，通常需要使用训练样本进行估计。假设存在L个仅包含噪声分量的独立同分布训练样本xl，l=1,2,…,L，xl=nl，且

nl～CNN(0,R)，

(2)

则二元检测问题可表示为

(3)

针对式(3)中的检测问题，当训练样本充足时，文献[11]提出了相应的子空间GLRT(Subspace-based GLRT，SGLRT)检测器，即

(4)

tSAMF=xHS-1H(HHS-1H)-1HHS-1x。

(5)

检测器SGLRT和AMF均只能工作在训练样本充足的情况，即L>N。当训练样本不足，即L

3 降秩子空间检测器

在实际环境中，噪声协方差矩阵R的特征值通常由少数几个大特征值和多个相对小得多的小特征值组成。前者对应杂波特征值，后者对应热噪声特征值。对于机载雷达，杂噪比(Clutter-to-Noise Ratio，CNR)可达到60 dB以上。将R的特征值由大到小排列，即

(6)

(7)

对式(7)取逆操作得

(8)

根据式(6)知，式(8)可近似为

(9)

类似地，若对采样协方差矩阵做特征分解，则得到

(10)

(11)

式(11)采用了主分量分析的思想，这是降秩方法的核心之一。把式(11)代入式(4)和式(5)分别得到降秩检测器

(12)

和

(13)

需要注意的是，式(12)和(13)中的检测器不总是有效，这是由于在某些情况下矩阵乘积HHPnH不满秩。具体地，根据不等式

Rank(AB)≤Min[Rank(A),Rank(B)]

(14)

知，当N-r

(15)

tRR-SAMF=xHPnH(HHPnH)+HHPnx。

(16)

式中：(·)+表示矩阵的Moore-Penrose逆。为叙述方便，分别称式(15)和式(16)中的检测器为降秩SGLRT(Reduced-Rank SGLRT，RR-SGLRT)和降秩SAMF(Reduced-Rank SAMF，RR-SAMF)。

与式(4)和(5)中的常规检测器相比，RR-SGLRT和RR-SAMF可工作于训练样本不足的情况(即L

4 性能评估

本节利用蒙特卡洛仿真对所提降秩检测器进行性能评估，并与常规检测器进行性能比较。假设雷达阵元数为Na=4，每个阵元发射的脉冲数为Nb=3，则系统自由度为N=NaNb=12。假设机载雷达工作在正侧视模式，且杂波脊的空时斜率为1，则容易得到杂波子空间的维数为r=Na+Nb-1=6。为降低运算量，令虚警概率(Probability of False Alarm，PFA)为10-3，检测门限通过105次数据实验得到，检测概率(Probability of Detection，PD)通过104次实验得到。设协方差矩阵R的第(i,j)个元素为0.95|i-j|(i,j=1,2,…,N)。信杂噪比(Signal-to-Clutter-plus-Noise Ratio，SCNR)定义为

SCNR=θHHHR-1H(HHR-1H)-1HHR-1Hθ。

(17)

图1给出了训练样本充足时不同SCNR下各检测器的检测性能。从图中可以看出，在所选的系统参数下，所提的两种降秩子空间检测器比传统检测器具有更高的检测性能。其中，RR-SAMF具有最高的检测概率。特别地，当PD=0.5时，与常规SGLRT相比，RR-SAMF的性能增益约为3 dB。

图1 训练样本充足时各检测器的检测性能(L=20，p=2)Fig.1 Detection performance of the detectors with sufficient training data(L=20 and p=2)

图2给出了训练样本较少时各检测器的检测性能。从图中可以看出，在该系统参数下常规检测器的检测概率急剧降低，甚至失效，而降秩子空间检测器能提供较高的检测概率，其中RR-SAMF仍具有最高的检测概率。但与图1中的结果相比，两种降秩子空间检测器的检测概率略有降低。

图2 训练样本较少时各检测器的检测性能(L=13，p=2)Fig.2 Detection performance of the detectors with insufficient training data(L=13 and p=2)

图3给出了训练样本数进一步降低时两种子空间降秩检测器的检测性能，此时L

图3 训练样本不足时各检测器的检测性能(L=11，p=2)Fig.3 Detection performance of the detectors with insufficient training data(L=11 and p=2)

图4给出了信号子空间变大时两种降秩检测器的检测概率。在该参数设置下检测器仍能检测到目标，但与图3中的结果相比，检测器的检测概率有所降低。这是由于随着信号子空间维数的增加，信号的能量越分散，因此带来了性能损失。

图4 训练样本不足时各检测器的检测性能(L=11，p=4)Fig.4 Detection performance of the detectors with insufficient training data(L=11 and p=4)

5 结 论

针对训练样本不足时的子空间信号检测问题，基于主分量分析和Moore-Penrose逆的思想，本文提出了两种有效的降秩子空间检测器，即RR-SGLRT和RR-SAMF。性能分析表明，与现有检测器相比，新提出的检测器能够提供更高的检测概率，尤其是训练样本严重不足时。特别地，RR-SAM检测器具有最高的检测概率。本文所提出降秩方法为训练样本不足时子空间信号的检测问题提供了可行的解决思路。

[1] KELLY E J. An adaptive detection algorithm[J].IEEE Transactions on Aerospace and Electronic Systems,1986,22(1):115-127.

[2] CHEN W S,REED I S. A new CFAR detection test for radar[J].Digital Signal Processing,1991,1(4):198-214.

[3] ROBEY F C,FUHRMANN D R,KELLY E J,et al.A CFAR adaptive matched filter detector[J].IEEE Transactions on Aerospace and Electronic Systems,1992,28(1):208-216.

[4] KRAUT S,SCHARF L L. The CFAR adaptive subspace detector is a scale-invariant GLRT[J].IEEE Transactions on Signal Processing,1999,47(9):2538-2541.

[5] DE MAIO A. Rao test for adaptive detection in Gaussian interference with unknown covariance matrix[J].IEEE Transactions on Signal Processing,2007,55(7):3577-3584.

[6] PULSONE N B,RADER C M. Adaptive beamformer orthogonal rejection test[J].IEEE Transactions on Signal Processing,2001,49(3):521-529.

[7] BANDIERA F,BESSON O,RICCI G. An ABORT-like detector with improved mismatched signals rejection capabilities[J].IEEE Transactions on Signal Processing,2008,56(1):14-25.

[8] LIU W,LIU J,HU X,et al.Statistical performance analysis of the adaptive orthogonal rejection detector[J].IEEE Signal Processing Letters,2016,23(6):873-877.

[9] GINI F,FARINA A. Matched subspace CFAR detection of hovering helicopters[J].IEEE Transactions on Aerospace and Electronic Systems,1999,35(4):1293-1305.

[10] LEI S,ZHAO Z,NIE Z,et al.Adaptive polarimetric detection method for target in partially homogeneous background[J].Signal Processing,2015,106:301-311.

[11] PASTINA D,LOMBARDO P,BUCCIARELLI T. Adaptive polarimetric target detection with coherent radar—part I:detection against Gaussian background[J].IEEE Transactions on Aerospace and Electronic Systems,2001,37(4):1194-1206.

[12] LIU J,ZHANG Z J,YANG Y. Optimal waveform design for generalized likelihood ratio and adaptive matched filter detectors using a diversely polarized antenna[J].Signal Processing,2012,92(4):1126-1131.

[13] KRAUT S,SCHARF L L. Adaptive subspace detectors[J].IEEE Transactions on Signal Processing,2001,49(1):1-16.

[14] LIU W J,XIE W,LIU J,et al.Adaptive double subspace signal detection in Gaussian background—part I:homogeneous environments[J].IEEE Transactions on Signal Processing,2014,62(9):2345-2357.

[15] REN B,SHI L F,WANG G Y. Polarimetric target detection using statistic of the degree of polarization[J].Progress in Electromagnetics Research M,2016,46:143-152.

[16] LIU W J,WANG Y L,LIU J,et al.Design and performance analysis of adaptive subspace detectors in orthogonal interference and Gaussian noise[J].IEEE Transactions on Aerospace and Electronic Systems,2016,52(5):2068-2079.

[17] LIU W J,LIU J,HUANG L,et al.Robust GLRT approaches to signal detection in the presence of spatial-temporal uncertainty[J].Signal Processing,2015,118(C):272-284.

[18] LIU J,LIU W,CHEN B,et al.Modified Rao test for multichannel adaptive signal detection[J].IEEE Transactions on Signal Processing,2016,64(3):714-725.

[19] GOLDSTEIN J S,REED I S. Theory of partially adaptive radar[J].IEEE Transactions on Aerospace and Electronic Systems,1997,33(4):1309-1325.

[20] CHANG P S,ALAN N W. Analysis of conjugate gradient algorithms for adaptive filtering[J].IEEE Transactions on Signal Processing,2000,48(2):409-418.

[21] GOLDSTEIN J S,REED I S,SCHARF L L. A multistage representation of the Wiener filter based on orthogonal projections[J].IEEE Transactions on Information Theory,1998,44(7):2943-2959.

[22] 李磊,李国林,路翠华. 采用降秩多级维纳滤波器的二维DOA估计快速算法[J].电讯技术,2014,54(3):278-282. LI Lei,LI Guolin,LU Cuihua.Fast algorithm for two-dimensional direction-of-arrival estimation based on MSWF[J].Telecommunication Engineering,2014,54(3):278-282.(in Chinese)

[23] 李堰,宋爱民,刘剑. 多级维纳滤波测向算法的参考信号优化方法[J].电讯技术,2010,50(12):75-80. LI Yan,SONG Aimin,LIU Jian.Reference signal optimization method of multistage Wiener filter direction-finding[J].Telecommunication Engineering,2010,50(12):75-80.(in Chinese)

[24] REED I S,GAU Y L. A fast CFAR detection space-time adaptive processing algorithm[J].IEEE Transactions on Signal Processing,1999,47(4):1151-1154.

[25] GAU Y L,REED I S. An improved reduced-rank CFAR space-time adaptive radar detection algorithm[J].IEEE Transactions on Signal Processing,1998,46(8):2139-2146.

[26] WANG Y,LIU W,XIE W,et al.Reduced-rank space-time adaptive detection for airborne radar[J].Science China:Information Sciences,2014,57(8):1-11.

[27] LIU W,XIE W,LI R,et al.Adaptive detectors in the Krylov subspace[J].SCIENCE CHINA Information Sciences,2014,57(10):1-11.

[28] REED I S,MALLETT J D,BRENNAN L E. Rapid convergence rate in adaptive arrays[J].IEEE Transactions on Aerospace and Electronic Systems,1974,10(6):853-863.

SubspaceSignalDetectionwithLimitedTrainingData

YANG Xing1,WANG Licai2,YANG Yang3,WANG Helei2,LIU Weijian2

(1.Unit 94402 of PLA,Jinan 250022，China;2.Huangpi NCO School,Air Force Early Warning Academy,Wuhan 430019，China; 3.Military Representative Office Stationed at 720 Factory,Nanjing 210046，China)

In order to overcome the difficulty of detecting a subspace signal with insufficient training data,two effective reduced-rank subspace detectors are proposed. According to the theory of principal component analysis(PCA),the sample covariance matrix(SCM),contained in conventional detection statistic,is replaced by the production of the noise eign-subspace and its conjugate transpose. This results in reduced-rank subspace detectors. To further improve the robustness,the matrix inversion operation is substituted by the Moore-Penrose inversion. The comparison with conventional detectors shows that the proposed reduced-rank subspace detectors can provide improved detection performance,no matter the number of the training data is sufficient or not.

multichannel signal detection;subspace signal detection;adaptive signal detection;limited training data;rank reduction

date:2016-11-03；Revised date：2017-03-13

国家自然科学基金资助项目(61501505)

10.3969/j.issn.1001-893x.2017.09.012

杨星，王利才，杨洋,等.训练样本不足时的子空间信号检测方法[J].电讯技术，2017,57(9):1047-1051.[YANG Xing,WANG Licai,YANG Yang,et al.Subspace signal detection with limited training data[J].Telecommunication Engineering,2017,57(9):1047-1051.]

TN957.51

：A

：1001-893X(2017)09-1047-05

杨星(1983—)，女，辽宁沈阳人，2009年于空军雷达学院获硕士学位，现为工程师，主要研究方向为光传输通信、信号处理;

Email：176867772@qq.com

王利才(1974—)，男，山东苍山人，2006年于空军雷达学院获硕士学位，现为工程师，主要研究方向为雷达系统、通信工程;

杨洋(1983—)，男，河北丰润人，2006年于空军雷达学院获学士学位，现为工程师，主要研究方向为装备管理、雷达信号处理;

王鹤磊(1971—)，男，河北辛集人，1998年于空军雷达学院获硕士学位，现为讲师，主要研究方向为军事装备学;

刘维建(1982—)，男，山东莱芜人，2014年于国防科学技术大学获博士学位，现为讲师，主要研究方向为空时自适应检测、阵列信号处理、抗干扰技术。

Email：liuvjian@163.com

2016-11-03；

：2017-03-13

**通信作者：liuvjian@163.com Corresponding author：liuvjian@163.com