1 引言

合成孔径雷达(Synthetic Aperture Radar, SAR)全天时全天候的优势使其在军用和民用领域中都有着非常广泛的应用。近年来，以卷积神经网络(Convolutional Neural Networks, CNN)^[1]为代表的监督学习方法在自然图像理解，如图像分类^[2,3]、目标检测^[4]、以及自然语言处理^[5,6]等领域中取得了显著成功。在SAR图像解译领域，学者们也对CNN应用于SAR图像分类和识别进行了初步尝试^[7–13]，在MSTAR数据集和地物分类数据集上^[12]的测试结果显示CNN能够显著提高SAR目标识别和地物分类的准确率，表明CNN对SAR图像解译同样具有很大潜力。为了解决MSTAR数据规模小和避免过拟合问题，文献[7,10]基于自编码方法进行网络的预训练，文献[11,13]对MSTAR原始数据进行变换来增加样本数量，文献[9]将CNN作为一种特征提取器来提取MSTAR图像深度特征，并结合SVM进行MSTAR车辆目标识别。最近，文献[13]提出了一种全卷积神经网络(A-ConvNets)对MSTAR车辆目标进行识别，识别率达到了99%以上，取得了目前在MSTAR数据集上最好的效果。

虽然CNN在SAR图像分类中取得了较好的效果，但是这种监督学习方法需要大规模、正确标注的训练样本^[14]。然而SAR特殊的成像机理(相干成像、主动式、微波波段等)使得图像存在严重的相干斑噪声、几何畸变与结构缺失现象，图像非直观性强、理解难度大，即使经验丰富的判读专家也需要借助丰富的先验信息才能对SAR图像进行准确判读；对于非合作目标，先验信息的缺乏极易导致图像错标。SAR图像中这种观测样本与其标注不一致的现象造成SAR图像解译中的含噪标记问题。在SAR图像分类中，直接使用含噪标记样本进行监督学习，必然会使得分类性能下降、模型复杂度上升和过拟合问题^[15]。目前，含噪标记条件下的图像分类问题在计算机视觉和机器学习领域也逐渐引起重视，主要的解决方法是通过改进损失函数的正则化约束项来提高分类器对噪声标记的鲁棒性^[15,16]，而且这些方法基于人工设计的特征，且特征提取与分类器训练分阶段进行，并不具备特征学习的能力，使得分类性能和对噪声标记的鲁棒性进一步降低。而近年来兴起的CNN等深度模型由于参数多，虽然具有更强特征学习和表达能力，但更容易受到噪声标记的影响。

目前，针对这种SAR图像解译中广泛存在的含噪标记问题还鲜有研究。为解决该问题，克服含噪标记条件下SAR图像的分类识别性能和泛化性能下降问题，本文提出了一种基于概率转移模型的卷积神经网络(Probability Transition CNN, PTCNN)方法，该方法在CNN模型基础上，基于含噪标记与正确标记之间的概率转移模型，建立了噪声标记转移层，构建了一种新的卷积网络模型，其一方面能充分利用CNN较强的图像表征能力，另一方面可潜在地对错误标记进行校正，从而增强了含噪标记条件下CNN模型的鲁棒性，降低了经典CNN方法对训练样本标注质量的要求。本文分别在构建的16类SAR图像地物数据集和美国MSTAR数据集上进行实验，分析了不同噪声比例条件下SAR图像分类性能，并与经典CNN方法和支持向量机(Supported Vector Machine, SVM)算法进行对比，实验结果表明相比于传统模型，本文提出的PTCNN模型具备较好的抗噪性，在含噪标记条件下能够保持较好的分类性能，从而有效降低了SAR图像标注质量对分类器性能的影响。

2 网络模型

针对含噪标记条件下的SAR图像分类问题，本文PTCNN网络结构如图1所示，该模型主要分为两部分：(1)深度特征提取部分；(2)概率转移模型部分。深度特征提取部分采用经典的CNN模型提取训练样本x的深度特征(图中C1, C2, C3, C4, C5均表示卷积层，S1, S2表示降采样层，Fc6, Fc7, Fc8表示全连接层)，概率转移模型通过softmax分类器对深度特征进行分类，提取训练样本真值标注y的后验概率 $P\left( {y|x} \right)$ 。含噪标记问题中随机变量之间的相互依赖关系如图2所示，由贝叶斯原理可得含噪标记 $\tilde y$ 的后验概率 $P\left( {\tilde y|x} \right)$ 。

2.1 深度特征提取

CNN是一种典型的有监督深度学习方法，其最初是受灵长动物视觉神经机制的启发而设计的一种具有深度学习能力的人工神经网络。CNN直接将原始图像作为网络输入，有效避免了传统算法中的特征提取和数据重建过程，提高了算法效率。但是，CNN并不是一个黑盒子，其内部通过一系列数学运算实现图像表征。

具有局部连接和权值共享特性的卷积层是CNN的核心组成部分，该层每个神经元的输入与前一层的局部感受野(Receptive Field)连接，提取图像局部特征。其中，同一特征图中的神经元提取前一层特征图中不同位置的局部特征，而对单一神经元来说其提取的特征是前一层若干不同特征图中相同位置的局部特征。

为了使神经网络具有非线性拟合能力，需要将卷积等线性运算得到的结果通过一个非线性的激活函数。激活函数为CNN网络引入非线性特征，使其具有非线性拟合能力。激活函数不仅影响数据的映射方式，而且不同的激活函数因梯度不同还会影响反向传播过程。因此，反向传播算法要求激活函数具有连续、可微、单调非递减的性质。常用的激活函数有Sigmoid激活函数、tanh激活函数和ReLU激活函数。

降采样层以采样区域的大小为步长来扫描图像。该网络层在有效减少模型参数的同时保留了图像的结构信息。常用的降采样方法有最大值降采样、均值降采样等。

CNN训练过程中由于有标记样本规模小、网络参数多，模型训练容易过拟合。Dropout层在每次迭代训练过程中随机舍弃一些神经元，仅利用剩下的神经元参与训练，有效减少了模型参数，能够防止过拟合现象发生。

2.2 概率转移模型

本文根据SAR图像样本库构建与标注过程中变量之间的实际依赖关系，建立如图2所示的SAR图像含噪标记模型，图中y_n, ${\tilde y_n}$ 分别表示观测样本x_n对应的真值标注和含噪标注， ${{{θ}}_{\rm{c}}}$ , ${{{θ}}_{\rm{s}}}$ 和Q分别为深度特征提取参数集、softmax分类器参数集和概率转移矩阵，本文假设含噪标记数据集中共有N个训练样本。

对于有噪声标记的SAR图像数据集D= $\left\{ {\left( {{x_1},{{\tilde y}_1}} \right),} \right.\left. {\left( {{x_2},{{\tilde y}_2}} \right), \cdots ,\left( {{x_N},{{\tilde y}_N}} \right)} \right\}$ ，其中观测样本集为 $X{\rm{ = }}$ $\left\{ {{x_n},n = 1,2, \cdots ,N} \right\}$ ，相应的含噪标注集为 $\tilde Y = \left\{ {{{\tilde y}_n},n = 1,2, \cdots ,N} \right\}$ ，真值标注集 $Y \ = \ \left\{ {{y_n},} \right.$ $\left. {n = 1,2, \cdots ,N} \right\}$ 。假设数据集共有K类，则 ${y_n},{\tilde y_n} \in \left\{ {{\rm{0,1,}} \cdots ,K - 1} \right\}$ 。在模型训练过程中，如果网络输入的观测样本表示为 ${x_n} \in X$ ，输入数据在前向传播过程中通过CNN逐层非线性映射到区分性较强的深度特征空间为：

${{{f}}_n} = {\rm{CNN}}\left( {{x_n};{{{θ}}_{\rm{c}}}} \right)$

(1)

这里， ${{{θ}}_{\rm{c}}}$ 表示CNN特征提取参数集(包括所有权重和偏置)。

然后通过softmax分类器获得输入数据真值标注的后验概率 $P\left( {{y_n}|{x_n}} \right)$ ，将其写成矩阵形式为：

${P_n} = \left[ {\begin{array}{*{20}{c}} {P\left( {{y_n} = 0|{x_n},{\theta _{\rm{s}}}} \right)}\\ {P\left( {{y_n} = 1|{x_n},{\theta _{\rm{s}}}} \right)}\\ \vdots \\ {P\left( {{y_n} = K - 1|{x_n},{\theta _{\rm{s}}}} \right)} \end{array}} \right] = \frac{1}{{\sum\limits_{j = 0}^{K - 1} {{e^{\theta _j^{\rm{T}}{f_n}}}} }}\left[ {\begin{array}{*{20}{c}} {{e^{\theta _0^{\rm{T}}{f_n}}}}\\ {{e^{\theta _1^{\rm{T}}{f_n}}}}\\ \vdots \\ {{e^{\theta _{K - 1}^{\rm{T}}{f_n}}}} \end{array}} \right]$

(2)

其中， ${{{θ}}_{\rm{s}}}{\rm{ = }}\left\{ {{{{θ}}_0},{{{θ}}_1}, \cdots ,{{{θ}}_{K - 1}}} \right\}$ 表示softmax分类器参数集合，且 ${{{θ}}_i} \subset {{\mathbb{R}}^K},i = 0,1, \cdots ,K - 1$ 。

根据贝叶斯原理，得到含噪标记 ${\tilde y_n}$ 的后验概率 $P\left( {{{\tilde y}_n}|{x_n}} \right)$ 为：

$\begin{aligned}P\left( {{{\tilde y}_n}\! =\! j|{x_n}} \right)\! & =\! \sum\limits_i {P\left( {{{\tilde y}_n} \!= \!j|{y_n} = i} \right)P\left( {{y_n} \!= \!i|{x_n}} \right)}\! \\ & =\sum\limits_i {{q_{ji}}P\left( {{y_n} = i|{x_n}} \right)} \end{aligned}$

(3)

其中， $i,j \in \left\{ {{\rm{0,1,}} \cdots ,K - 1} \right\}$ 。

将式(3)表示为矩阵形式

${{\tilde{ {P}}}_n}{\rm{ = }}{{Q}}{{{P}}_n}$

(4)

这里 ${{\tilde{ {P}}}_n} = \left[ {P\left( {{{\tilde y}_n} = 0|{x_n}} \right),P\left( {{{\tilde y}_n} = 1|{x_n}} \right) ,\cdots ,} \right.$ $P\left( {{{\tilde y}_n} = } \right.$ ${\left. {\left. {K - 1|{x_n}} \right)} \right]^{\rm{T}}} \in {{\mathbb{R}}^{K \times 1}}$ ，概率转移矩阵为：

${{Q}} = \left\{ {{q_{ji}}} \right\} = \left( {\begin{array}{*{20}{c}}{P\left( {{{\tilde y}_n} = 1|{y_n} = 1} \right)} & \cdots & {P\left( {{{\tilde y}_n} = K|{y_n} = 1} \right)}\\ \vdots & \ddots & \vdots \\{P\left( {{{\tilde y}_n} = 1|{y_n} = K} \right)} & \cdots & {P\left( {{{\tilde y}_n} = K|{y_n} = K} \right)}\end{array}} \right) \in {{\mathbb{R}}^{K \times K}}$

(5)

最后，通过最小化含噪标记条件下的正则化损失函数

$L\left( {Ω} \right) = - \frac{1}{N}\sum\limits_{n = 1}^N {\log P\left( {{{\tilde y}_n}|{x_n};{Ω} } \right)} + \lambda {\left\| {Ω} \right\|^2}$

(6)

来训练整个网络，其中网络学习参数 ${Ω} {\rm{ = }}\left\{ {{{{θ}}_{\rm{c}}},{{{θ}}_{\rm{s}}},{Q}} \right\}$ ， $\lambda $ 为正则化参数(也称作权重衰减因子)。式(6)中增加正则化项 $\lambda {\left\| \varOmega \right\|^2}$ 一方面是为了避免过拟合；另一方面是为了避免可能产生Q=I的退化解，这里I为K阶单位矩阵。Q=I会导致网络将错误标记误认为是真值标记，因此将无法实现对错误标记的校正。这是因为如果假设观测样本的真值标注和含噪标注的测试混淆矩阵分别为C和 ${\tilde{ {C}}}$ ，则C和 ${\tilde{ {C}}}$ 满足如下关系：

${\tilde{ {C}}} = {{QC}}$

(7)

如果Q=I，则有 ${{C}}{\rm{ = }}{\tilde { {C}}}$ (退化解)，而理想情况下C=I, ${{Q}}{\rm{ = }}{\tilde{ {C}}} \ne {{I}}$ 。

2.3 训练方法

对于网络参数 ${Ω} {\rm{ = }}\left\{ {{{{θ}}_{\rm{c}}},{{{θ}}_{\rm{s}}},{{Q}}} \right\}$ 的学习，本文利用Caffe^[17]深度学习框架，采用神经网络经典的后向传播(Backward Propagation, BP)^[18]和随机梯度下降(Stochastic Gradient Descent, SGD)^[19]法最小化损失函数公式(6)。测试结果输出为测试样本的真实标记概率 $P\left( {y|x} \right)$ ，提取的输出结果中概率最大值项所对应的类别标记即为本文PTCNN模型预测的输入数据的标注(如图1所示)。实验硬件环境为实验室高性能计算平台，其中包括6个NVIDIA Tesla GPU计算节点，服务器内存188 G。

3 实验与结果分析 3.1 实验数据 3.1.1 SAR图像地物数据集

本文实验数据来源于中国武汉地区和上海交通大学闵行校区的两景TerraSAR-X卫星影像，其成像参数如表1所示。

针对这两景TerraSAR-X影像，本文构建了一个包含16类地物类型(港口、稀疏建筑区、池塘、桥梁、湿地、舰船、小溪、公路、运动场、沙滩、密集建筑区、河流、森林、道路、绿化带、水体)共5336个正确标记样本的样本库。

本文SAR图像地物样本库构建借助德国宇航局的半自动化人机交互软件平台^[20]并结合实地调绘完成。经过多视和上采样处理后的两景影像地距向像元尺寸在0.7 m～0.8 m之间，方位向像元尺寸均在0.6 m～0.7 m之间，因此将两景图像统一标注是合理的。高分辨率SAR图像中200×200的样本尺寸(本数据集中每个切片对应实际地表范围约为150 m×130 m)能够比较全面地反映图像的类别信息^[21,22]，使得切片具有比较明显的语义含义。表2所示为SAR地物样本库训练集和测试集，其中每类地物类型总量的60%用于训练，其余40%用于测试。

3.1.2 MSTAR数据集

该部分实验数据来源为美国MSTAR计划公布的地面静止军事目标的聚束式SAR实测数据^[23]。MSTAR数据集包含了军用和民用的多种静止军事车辆目标，目标方位角覆盖了0°～360°。本文用MSTAR数据中的10类目标并截取中间88×88大小的切片作为训练和测试样本^[13]，其中训练集和测试集分别用15°方位角和17°方位角下的SAR样本切片，训练数据集和测试数据集如表3所示。

3.2 实验设置 3.2.1 类别噪声仿真

为了验证PTCNN模型的有效性，本文利用构建的16类正确标记TerraSAR-X地物数据集和MSTAR数据集仿真两组含噪标记样本库。含噪标记仿真方法为：从每组训练集的每类样本中随机抽取一定比例(本文噪声比例分别选取10%, 20%, 30%, 40%, 50%)，将相应类别标记设置为噪声标记，其中标记噪声服从式(8)所示的均匀分布。

$Q = \left( {\begin{array}{*{20}{c}}{{P_{\rm{e}}}} & {\frac{{1 - {P_{\rm{e}}}}}{{K - 1}}} & \cdots & {\frac{{1 - {P_{\rm{e}}}}}{{K - 1}}}\\{\frac{{1 - {P_{\rm{e}}}}}{{K - 1}}} & {{P_{\rm{e}}}} & \cdots & {\frac{{1 - {P_{\rm{e}}}}}{{K - 1}}}\\ \vdots & \vdots & \ddots & \vdots \\{\frac{{1 - {P_{\rm{e}}}}}{{K - 1}}} & {\frac{{1 - {P_{\rm{e}}}}}{{K - 1}}} & \cdots & {{P_{\rm{e}}}}\end{array}} \right)$

(8)

其中，P_e表示训练集中每类样本正确标注的比例，则相应的含噪标记比例为1–P_e。

3.2.2 参数初始化

本文将CNN作为一种特殊的特征学习方法，通过逐层线性或非线性映射从原始数据中提取图像的深度特征。图3(a)和图3(b)分别为16类地物要素和MSTAR数据集车辆目标的深度特征提取模块网络结构。图3(a)中“Conv1”、“Conv2”、“Conv3”、“Conv4”、“Conv5”层权值初始化为方差0.01的高斯分布，“Conv1”、“Conv3”层偏置设置为常数0, “Conv2”、“Conv4”、“Conv5”层偏置设置为常数1，“Norm1”、“Norm2”层局部窗口大小为5×5，缩放因子 $\alpha {\rm{ = }}0.0001$ , 指数项 $\beta {\rm{ = }}0.75$ ，“Fc6”, “Fc7”层权值初始化为方差0.05的高斯分布，偏置设置为常数1, “Fc8”层权值初始化为方差0.01的高斯分布，偏置初始化为常数0。图3(b)中网络结构参数初始化参照文献[13]。

3.2.3 对比算法

为了说明本文方法能够一定程度上解决含噪标记条件下的SAR图像分类问题，降低错误标注对分类器性能的影响，提高分类模型对噪声标记的鲁棒性，本文将PTCNN与经典CNN方法和基于传统特征的SVM算法进行对比。两组数据集中经典CNN方法与PTCNN方法的区别都是仅仅缺少噪声标记转移层。

而由于SVM算法分类性能与特征选择密切相关，对于地物数据集，本文采用基于Gabor特征的SVM分类算法^[20]，这里提取的Gabor特征为48维(由4个方向、6个尺度下特征图的均值和标准差依次组成)，SVM分类器采用RBF核函数，通过网格搜索法得到最佳误差项惩罚参数C=8000.0，最佳核函数系数 $\gamma {\rm{ = }}0.0538$ ^[16]。

对于MSTAR数据集，采用基于PCA特征的SVM算法^[24]，PCA特征采用图像原始幅度信息，特征维数通过网格搜索寻优法取35维。SVM分类器参数采用5次多项式核函数，通过网格搜索法得到最佳误差项惩罚参数C=1，最佳多项式系数 $\gamma {\rm{ = }}0.1$ ，最佳常数项值r=0^[16]。

3.2.4 评价指标

评价指标采用每种方法在每种噪声比例下的分类准确率、混淆矩阵。

3.3 实验结果与分析 3.3.1 地物数据集实验

高分辨率TerraSAR-X影像丰富的地物类型和庞大的数据量为本实验提供了充足的数据源，地物样本数据库通过PTCNN模型，采用迭代优化策略更新模型参数。模型训练采用基于动量(momentum)法的SGD算法，初始学习率为0.001，每迭代400次学习率更新一次，衰减率为0.1，动量设置为0.9，最大迭代次数设置为4000使损失函数收敛。

不同噪声比例下的地物分类准确率如表4所示。从表中可以看出，无论噪声比例如何变化，PTCNN的分类准确率都优于其他两种方法，且经典CNN模型分类准确率优于基于Gabor特征的SVM分类算法。因此，在SAR图像地物要素分类性能方面：PTCNN>经典CNN>Gabor+SVM。

图4(a)显示了3种方法的地物分类准确率随噪声比例的变化曲线。从图中可以看出，本文PTCNN网络在不同噪声比例下地物分类准确率保持在98.80%左右，基本不随噪声比例变化而变化，经典CNN网络和基于Gabor特征的SVM算法分类准确率随着噪声比例的增加下降较明显，其中SVM算法准确率最低且随噪声比例增加下降速度最快。所以在抗噪性能方面：PTCNN>经典CNN>Gabor+SVM。

图4(b)为3种方法对车辆目标的分类准确率随噪声比例的变化曲线，从图中可以看出，经过20000次迭代更新，PTCNN模型在不同噪声比例下准确率最高，且随噪声比例的变化幅度较小，验证了PTCNN模型对噪声的敏感性较低，体现出其较好的抗噪性能。而基于PCA特征的SVM算法比经典CNN算法随噪声比例变化更缓慢，说明前者比后者抗噪性能好。说明PTCNN模型的抗噪性能最好，SVM算法次之，经典CNN模型抗噪性能最差。

图5(a)、图5(b)、图5(c)分别是训练样本噪声比例为30%时3种算法测试结果的混淆矩阵，明显可以看出PTCNN模型的测试准确率最高，只有极个别样本被错分，经典CNN模型次之，基于Gabor特征的SVM算法测试准确率最低。

图5给出了含噪标记条件下SAR图像训练样本的PTCNN特征、CNN特征和Gabor特征，采用t-SNE (t-distributed Stochastic Neighbor Embedding)方法分别将其特征分布映射到2维空间中并可视化(3种方法在不同噪声比例下的特征分布如图6所示，图中不同颜色表示不同的含噪标记，不同聚类表示预测的不同标记)。从图6第1列图6(a1)～图6(f1)可以看出不同标记噪声比例下的错标样本都被重新归类，特征分布基本不随噪声比例变化而变化，从视觉上直观地验证了PTCNN模型较好的抗噪性能和分类性能。同样地，从图6中第2列图6(a2)～图6(f2)可以看出经典CNN特征受噪声影响较大，且特征的可区分性随标记噪声比例的增加越来越差。图6第3列图6(a3)～图6(f3)可以看出传统Gabor特征可区分性比深度特征差，且对噪声比较敏感。

3.3.2 MSTAR数据集实验

MSTAR数据集对车辆目标分类的过程中，参数衰减系数设置为0.004，网络学习率采用步进式策略，基础学习率设为0.001，每迭代500次学习速率更新1次，各层权重与偏置更新策略采用基于动量(momentum)法的SGD算法，动量设置为0.9，最大迭代次数设置为20000次，直至目标函数收敛。不同噪声比例下MSTAR车辆目标分类准确率如表5所示，同样可以看出，不同噪声比例下PTCNN模型对车辆目标的分类准确率优于经典CNN模型，而经典CNN模型分类性能又优于基于PCA特征的SVM算法。

4 结论

SAR图像由于其特殊的成像机理使得图像目视解译困难，直接获取大规模、高质量标注的训练样本非常困难。本文针对含噪标记条件下的SAR图像分类问题，提出了一种基于概率转移模型的卷积神经网络方法(PTCNN)，首先提取训练样本的CNN特征，然后基于错误标记与正确标记之间的转移概率模型，建立噪声标记转移层，从而构建了一种新的含噪标记条件下的卷积网络模型。对比实验采用基于传统特征的概率转移模型、采用经典CNN模型和SVM算法，分析不同比例噪声对SAR图像分类性能的影响，对比验证了PTCNN模型相比经典CNN模型，能够利用含噪标记样本训练出分类性能较好的模型，并且能够潜在校正含噪标记，减小了含噪标记对模型训练的影响，从而降低了SAR图像分类任务对训练样本标注质量的要求，具有一定的研究价值与应用前景。