基于多深度置信网络融合的航空电子设备故障预测*

梁天辰

(中国西南电子技术研究所，成都 610036)

0 引 言

随着航空电子设备在各类飞机平台的大量部署，设备对整机的重要性和运行安全性影响不断提高[1]。由于航空环境应力对失效退化影响复杂多变，电子设备内部器件间不断交联影响，导致其故障往往具有明显的随机性和关联性[2]。针对航空电子设备故障的随机关联问题，故障预测方法通过预置传感器获取到易损关键器件的历史数据，根据具体方法对器件历史数据进行挖掘建模，结合飞行中设备内器件的实时数据预测设备的整体退化降级状态。推进故障预测方法在航空电子设备的应用，将退化趋势与维修决策的制定相结合，可有效降低设备维修成本，提高设备运行安全，避免维修决策失误带来的灾难性后果。

目前，故障预测方法主要包括基于失效模型的预测方法和基于数据驱动的方法[3]。基于失效模型的预测方法是根据专家经验，对元件故障机理、材料性质和外部负载等要素进行研究分析，以此建立准确的数学模型表征失效趋势。申海东[4]基于热网络转换方法，设计建立了热阻与温度之间的数学模型，反应晶体管的性能退化。Tang等人[5]使用截断正态分布建模方法来估计退化状态，并考虑测量不确定度和估计漂移参数的分布，以获得精确且封闭形式的锂离子电池剩余寿命分布。虽然以上方法通过实验验证了故障预测的准确性，但在实际应用中存在以下问题：一是预测模型的建立非常依赖于建模工程师的专业知识和工程经验，建模过程需要消耗大量人力且通用性较差；二是当预测对象失效特性复杂，实时负载环境与历史环境存在明显差异，准确的失效模型难以建立。

深度学习作为人工智能的重要分支已经在机械、医学和图像识别等领域取得突破性进展。多深度置信网络(Multi-deep Belief Network，DBN)是一种基于数据驱动的无监督深度学习模型，通过多级受限玻尔兹曼机(Restricted Boltzmann Machine,RBM)自动捕获原始数据中高质量的特征，实现性能降级趋势的高非线性拟合。DBN模型的优势在于可忽略设备内部器件的机理差异和数据分布差异，基于各器件的输出数据直接完成预测模型构建，特征提取能力相较于浅层学习模型有明显优势。但传统的深度置信网络构建只考虑历史数据的内在特性，且单一DBN的特征提取能力不足以修正实际场景与历史场景间数据分布差异带来的预测偏差。

针对航空电子设备的复杂工况和现有方法性能的不足，本文提出了基于多深度置信网络模型融合的智能预测方法。该方法首先采用迁移学习策略和Dropout机制对设备的关键器件数据进学习，构建多个符合实际场景的深度置信网络，提升多个模型特征提取的差异性；然后根据改进的遗传算法确认融合权重，将DBN模型组集成为完整的预测框架，避免传统深度置信网络构建对历史数据的过学习和特征提取能力不足问题；最后根据完整预测框架得到各易损器件的故障预测结果，结合预设的故障门限得出各器件的剩余寿命，取最小剩余寿命作为设备的剩余寿命预计值。

1 深度置信网络迁移训练

在航空电子设备的预测任务中，实时监测获取的数据量有限且符合目标域的概率分布，而其他工况下的历史数据符合源域的概率分布，与实时监测数据分布不同却存在内在联系，因此本文对DBN模型进行Dropout策略和跨域迁移训练，实现模型在应用场景的适应性修正。

1.1 受限玻尔兹曼机

如图1所示，受限玻尔兹曼机是DBN模型的组成单元，通过输入输出数据的差值最小化实现RBM的特征学习。

图1 RBM结构图

图1中，vm、am表示可见层m节点的状态和偏置，hn、bn表示隐含层n节点的状态和偏置，(v,h)对应的能量函数定义如下式：

(1)

式中:θ={wij,ai,bj}，wij表示节点间的连接权重。

由式(1)可以定义(v,h)的联合概率分布和似然函数为

(2)

(3)

当可见层状态v确定时，隐含层节点j的激活概率为

(4)

当隐含层状态h确定时，隐含层节点i的激活概率为

(5)

(6)

为了使RBM能最大程度地拟合可见层输入的数据，需要以对数似然函数的最大值为目标，对RBM模型的参数θ={wij,ai,bj}进行求解。对数似然函数偏导数如下：

(7)

(8)

(9)

式中：V表示可见层的确定输入，v表示可见层节点的状态。

在给定可见层状态v后，先根据公式(4)计算出P(h|v)确定隐含层状态h,再根据式(5)计算出P(v|h)确定可见层状态v′，当v′和v值误差小于预期，则认为隐含层已经捕获原始数据中的信息映射结构；若误差大于预期，则根据对比散度算法[6]修正对应参数。对比散度算法对结构参数的修正量如下：

(10)

(11)

(12)

式中：η表示模型学习率，v(0)表示可见层初始状态，v(k)表示可见层k步吉布斯抽样后的状态。

1.2 深度置信网络

深度置信网络是由一系列特征提取结构(受限玻尔兹曼机或自动编码器)堆叠而成的概率生成模型，通过调节每相邻两层神经元节点间的连接权值，学习输入层和隐藏层间的联合概率分布，拟合对应数据间蕴含的特征信息。图2定义了一个具有l层隐藏层深度置信网络，虚线为Dropout策略下失效的神经元，输入数据x为有时序关系的数据值。网络的构造流程主要分为无监督权值初始化和有监督全局精调两部分。

图2 深度置信网络结构图

传统DBN有监督全局精调是在初始化权值的基础上，根据反向传播算法对DBN中每一个神经元权重进行修正。在有限样本下，该策略构造的DBN模型泛化性和鲁棒性不足，模型间的差异性较小，不利于多模型的融合，因此本文将Dropout机制引入DBN构造。在误差计算之前，DBN模型中的隐藏神经元按Dropout率随机置为失效，有效神经元前馈链接成新的网络。根据梯度下降算法将新网络的前馈误差传递到新网络的每一个有效神经元，修改层间的连接权重。由于每次训练过程的新网络中有效神经元上下层连接关系都不相同，训练后的神经元不再依赖固定的连接关系，促使网络变得更独立和随机。

1.3 跨域迁移训练

DBN模型的迁移训练流程如下：

Step1 从数据库中调出预测目标的历史数据进行归一化操作并构建训练样本集，对实时监测数据进行归一化操作并构建迁移样本集。

Step2 根据模型结构参数和超参数完成DBN模型的构建设置。

Step3 DBN模型使用训练样本集进行无监督权值初始化，得到RBM的连接参数并替换DBN的结构权重。

Step4 DBN模型使用训练样本集进行含Dropout的全局精调，循环迭代新的DBN网络直到误差收敛。

Step5 采用迁移样本集对训练后的DBN模型进行Dropout策略的全局精调，直到达到预设均方误差值，完成模型迁移训练。

2 多模型融合的预测框架

考虑到机载场景的复杂应力环境和单一DBN模型特征学习能力不足间的矛盾，本文提出一种多模型融合的预测框架，如图3所示。

图3 预测框架图

2.1 模型融合算法

模型融合算法是通过对适应函数全局最优解的搜索，整合差异性预测模型间的特征挖掘优势，消除由环境负载差异带来的预测结果偏差并完成模型修正，实现故障预测精度的提升。本文采用一种改进遗传算法确定多个深度置信网络预测的融合权重，算法的运行流程图如图4所示。

图4 改进遗传算法流程图

(1)优化目标

模型融合算法以多模型融合预测结果与实时数据的误差最小为优化目标，衡量每轮迭代后的融合效果。其适应度函数的数学表达式如下：

ε=minfitness，

(13)

(14)

式中：t表示第t个样本，datareal表示标签值，dataprel表示模型1的预测值，w1表示模型1的融合权重。

(2)精英保留操作

在遗传操作开始时将父代中适应度计算结果最优的染色体中的一段基因直接遗传到子代的染色体中，这段基因占总基因数的比例为P，选取的基因个数为P×N,N代表一个染色体中基因总数。该操作可以有效避免融合权重的优秀表征在遗传操作中丧失。

(3)自适应交叉操作

自适应交叉在传统交叉的基础上依据不同染色的适应度大小对交叉概率进行调整，适应度小的染色体交叉概率小，适应度大的染色体采用大的交叉概率。自适应交叉的计算公式如下：

Pc=k(fmax-f′)/(fmax-fave) 。

(15)

式中：k表示初始交叉概率，fmax表示适应度最大值，fave表示适应度平均值，f′表示当前染色体适应度。

2.2 多模型融合流程

为了兼顾多个模型学习的特征信息，所提方法的整体流程如下：

Step1 对目标预测库的历史数据进行归一化处理，按照每个样本为预测步长N+1构造模型训练样本集；对实时监测数据进行同样的归一化处理，按照1∶1的数据比例构造迁移训练样本集和模型融合样本集。

Step2 根据模型训练样本集、迁移训练样本集和迁移训练算法构建迁移后的DBN模型组。

Step3 迁移后的DBN模型组以迁移训练样本集的最后一个样本为基础对未来的退化趋势进行预测，得到迁移预测结果。

Step4 根据模型融合算法、迁移预测结果和模型融合样本集，对融合权重进行全局寻优，确定模型组的融合权重，集成得到完整的预测模型。

Step5 将模型融合样本集的最后一个样本输入完整的预测模型，不断迭代直到预测值超过原定阈值，输出预测目标的故障预测结果。

3 实验验证

锂离子电池系统作为飞机的启动电源和备用电源已经部署于波音和空客等多个航空公司的诸多机型[7]，因此本文以锂离子电池作为电源模块的关键性器件验证所提方法。实验数据采用美国航空航天局的4组锂离子电池数据[8]，电池额定容量为2 A·h，实验温度为25 ℃。4组锂离子电池先以1.5 A的充电电流充电，直到电压达到4.2 V；然后前三组以2 A的放电电流放电，直到电池电压分别降至2.7 V、2.5 V和2.2 V，第四组和第二组的操作相同；通过重复充放电循环操作加速电池老化直到电池故障，实验数据展示如图5所示。

图5 实验数据展示图

实验以前三组电池数据作为历史数据，以第四组数据中第1～33个循环数据作为迁移训练数据，第34～66个循环数据作为模型融合数据，第67～132个循环数据作为预测分析数据。预测采用三步预测，即根据最初数据组{x1,x2,x3}预测x4，再根据预测到的x4组成新的数据组{x2,x3,x4}预测x5，随后依次预测直到故障阈值。

为了验证本文方法融合策略对预测性能提升，以及深度学习模型与浅层模型特征提取能力的差异，实验设置三种对比方法：

(1)本文方法：DBN模型隐藏层设置为[50 50 50]、[75 75 75]、[100 100 100]，最大学习周期数为300，迁移学习迭代次数200,动量系数0.95，学习率0.05，Dropout率为0.5，初始交叉概率为0.7，保留概率为0.3。

(2)单一DBN模型，结构参数和超参数与本文方法一致。

(3)支持向量回归[8](Support Vector Regression,SVR)，核函数采用径向基函数，惩罚系数为1，核函数参数gamma为0.7。

三种方法的预测结果如图6～8所示。

图6 本文方法预测结果

图7 单一深度置信网络预测结果

图8 支持向量回归预测结果

表1给出了三种方法预测结果的统计分析，其中均方根误差、最大相对误差和平均相对误差是对预测误差的直观分析数据，相关度则是预测曲线和实际曲线的互相关计算结果，代表两者的一致性程度。工业中普遍采用30%额定容量作为故障门限，故障门限值为1.4 A·h，本文方法得出的电源模块剩余寿命为32循环周期，真实剩余寿命为31循环周期，设备剩余寿命预测误差为3.23%。

表1 预测结果统计分析表

比较分析实验结果可以得出以下结论：

(1)本文提出的多模型融合预测框架通过融合多个具有差异性模型将特征提取效果最大化，相比单一DBN模型拥有更好的预测性能，预测精度提高了一个数量级。

(2)基于深度置信网络的迁移学习方法解决了原始域和目标域的差异问题，且作为深度学习模型相较于浅层学习模型有着更好的学习捕获特征的能力。

4 结束语

本文分析了航空电子设备故障预测的工程需求，针对数据偏差和退化特征提取能力不足问题提出了结合Dropout策略和迁移训练的DBN模型构建方法，修正了外部环境差异带来的数据分布偏差，并通过改进遗传算法实现了DBN模型组预测性能的集成。实验表明本文方法对航空电子设备的故障演化有更准确的预测效果，剩余寿命预测误差在4%以内，可以为相关设备视情维修的维修决策制定提供参考依据。未来将进一步研究深度学习模型在小样本变工况场景下的特征提取策略。