基于TCN和高斯过程残差建模学习的净负荷概率预测方法

摘 要：提出一种基于时间卷积神经网络（TCN）和高斯过程（GP）的净负荷预测方法，可提供精确的点预测和概率预测结果。首先，TCN被用来提取大量的历史数据中净负荷的变化规律，TCN优秀的时间序列建模能力可发现净负荷预测任务输入输出之间的复杂映射关系。然后，为高斯过程设计一个复合核函数对TCN的预测残差进行建模学习，该过程可在TCN预测的基础上进一步提升点预测的精度，同时也可利用高斯过程的不确定性量化能力对净负荷预测的不确定性进行量化。最后，通过在真实净负荷数据集上和大量先进的模型进行比较，验证该文提出方法的有效性。

关键词：预测模型；光伏出力；概率密度函数；残差神经网络；时间卷积神经网络

中图分类号：TM743 " " " " " " " " 文献标志码：A

0 引 言

在碳达峰、碳中和战略目标的指导下，大量分布式光伏从用户侧入网，可再生能源的使用一定程度上缓解了能源短缺的困境，但其发电的间歇性和不确定性也给电力系统带来了挑战［1］。准确的净负荷预测可降低电力系统运营商的管理、运营和维护成本［2］。因此，电力系统的规划和运行中需考虑净负荷的影响。

传统负荷预测可分为点预测方法和概率预测方法两类。点预测方法中支持向量机（support vector regression，SVR）［3-4］、长短期记忆（long short-term memory，LSTM）［5-6］、卷积神经网络（convolutional neural network，CNN）［7-8］捕捉了负荷需求的不确定性；概率预测方法中分位数回归（quantile regression，QR）［9-10］、标准高斯过程（standard Gaussian process，SGP）［11］等量化了负荷需求的不确定性。

净负荷预测是负荷预测问题的一个新兴分支，包含了可再生能源出力和负荷需求两方面的不确定性。文献［12］提出基于自注意力编码器和深度神经网络的净负荷预测模型；文献［13］利用支持向量机提高了光伏预测精度；文献［14］通过经验模态分解和深度信念网络进行了用户侧的净负荷预测；文献［15］将历史数据经变分模态分解，得到更具规律性的模态作为自适应进化极限学习机的输入分别进行预测。这些方法借助来自消费者的大量历史数据捕获用电模式的随机不确定性，并建立从历史信息到未来负荷的映射。可看出，大多数净负荷预测的文献均尝试寻找一个普遍的负荷预测最佳方法。但能应用在各种场景下的最佳单一预测模型是不存在的［16］，对于不同的负荷模式和光伏条件，预测模型的构建可能会有所不同。深度神经网络等参数化模型具有偶然不确定性（数据不确定性）和认知不确定性（模型不确定性）［17］，这些不确定性会导致预测结果并不可靠。特别是在净负荷预测领域，净负荷本身具有多重不确定性，当采用深度神经网络等参数化模型时很难直接找到能准确构建净负荷预测模型的有效特征和最优参数。所以，具有认知不确定性的单一参数模型并不能很好地胜任净负荷预测问题。此外，当前净负荷预测的研究主要针对于点预测。但由于可再生能源的普及和市场竞争的增加，越来越需要概率预测方法量化净负荷预测的不确定性［18］。

因而，如何降低净负荷预测结果的多重不确定性，并对其进行量化是本文研究的重要课题。高斯过程回归（Gaussian process regression，GPR）是一种基于贝叶斯理论的非参数化方法［19］，区别于参数化模型对样本数量的需求，高斯过程回归更适用于小样本的回归分析。利用高斯过程回归建立预测残差模型并修正预测模型的结果能提高原始模型的准确性，应对模型的认知不确定性，有效提升系统的鲁棒性，保证系统安全规划和运行。此外，GPR通过预测区间来量化净负荷的随机不确定性，处理不确定因素的干扰。这对电力系统的规划和运行具有重要价值。

本文的主要贡献总结如下：

1）提出一种基于时间卷积神经网络（temporal conrolutional network，TCN）和高斯过程（Gaussian process，GP）残差建模学习（residual modeling learning，RML）的净负荷概率预测方法。首先，通过TCN网络发现净负荷预测输入输出之间的映射关系。然后，通过GP对预测误差进行建模，以捕捉预训练网络的预测行为。所采用的复合核使得所提方法在TCN网络的基础上实现更准确的点预测。

2）贝叶斯特性使得基于TCN和高斯过程残差建模学习的净负荷概率预测方法能有效量化净负荷的预测不确定性，也使得该模型区别于现有的确定性净负荷预测方法。现有的确定性净负荷预测方法在处理高不确定性问题时可能会出现较大偏差。

1 TCN和高斯过程残差建模学习方法

为降低并量化净负荷预测的多重不确定性，本文提出一种基于TCN和高斯过程残差建模学习的概率负荷预测方法，并提供点预测和概率预测结果。所提方法的示意图如图1所示。首先，利用TCN学习从特征到未来净负荷的映射。然后，利用RML修正TCN输出的点预测结果并对这个结果的不确定性进行量化得到概率预测结果。

1.1 模型输入与输出

本节中采用模型的输入变量记为[xi]，包括历史负荷数据、气象数据和时间信息；模型的输出变量为未来的负荷数据记为[yi]。[xi]和[yi]共同构成数据集[T=xi，yini=1]，其中[n]表示训练样本的数量。通过学习[yi]与[xi]之间的映射可得到点预测结果。然而，负荷的历史数据包含了发电和需求两方面的不确定性，点预测结果可能存在较大的预测误差。在不改变预测模型和网络结构的基础上，本文提出一种基于神经网络和贝叶斯理论的预测方法，对映射函数的分布进行估计，用以衡量预测结果的不确定性。在训练中，考虑一个大样本训练数据集[T=xi， yini=1]和一个小样本训练数据集[Tr=xi， yiRi=n]。对大样本训练集采用TCN进行训练，学习一个初始的点预测模型，利用小样本训练数据集[Tr]构建残差建模学习模型对点预测模型进行修正。实现细节将在下文中具体展开。

1.2 TCN

TCN是用于时间序列问题的卷积神经网络模型，该网络在时序网络中引入了卷积运算，在时序问题上获得了很好的预测精度。时序卷积网络的核心是扩张因果卷积，该结构由一系列精心设计的一维卷积层堆叠而成，这些层在保持输入输出长度一致的同时，融合了扩张与因果性的原则。为应对深度网络训练中常见的梯度消失问题，并预防模型性能的退化，该网络创新性地采用了残差连接技术，有效提升了训练过程的稳定性，并加速了网络的收敛进程。具体到因果卷积层，其工作机制是确保输出序列中每一个元素（例如第[i]个元素）仅依赖于其之前（即索引从0到[i]-1）的输入序列元素，严格遵循仅利用历史数据、不引入未来信息的原则。为实现输入输出长度的精确匹配，网络在输入张量的起始端进行了零填充处理，这一策略在不存在扩张因子的情况下，所需填充的零元素数量恰好等于卷积核的尺寸减去1，从而保证了数据处理的连续性和效率。

综上所述，时序卷积网络凭借其独特的扩张因果卷积设计和残差连接机制，成为处理时间序列数据的有效工具。其不仅能有效捕捉数据中的时间依赖性，还通过优化训练过程，为处理复杂时序任务提供了强有力的支持。

因果卷积中上层网络感受野的大小有限，因而引入扩张卷积实现类似于池化或跨步卷积的功能，这一步骤可扩大感受野。通常随着网络深度的增大，扩张因子d也随之增大。一维扩张因果卷积定义如下：

[F（s）=i=0β-1f（i）xs-di] （1）

式中：[x]——输入序列；[f]——过滤器；[d]——扩张系数；[β]——卷积核大小；[s-di]——保证模型只对过去的输入做卷积操作，与未来输入无关。

残差单元通过其独特的结构配置——扩张因果卷积、权重归一化、ReLU激活以及Dropout正则化，构建了一个既能捕捉长期依赖又具备强大泛化能力的深度学习组件，非常适用于处理复杂序列数据的任务。

1.3 具有RML复合核的高斯过程

[X，y]表示训练数据集[Tr=xi，yiRi=n]，[X∗，y∗]表示测试数据集[Ts=Xi，yiSi=R]，其中[X]和y是训练数据集的输入和输出，[X∗]和[y∗]是测试数据集的输入和输出，可得到：

[y=f（X）+ε] （2）

[y∗=fX∗+ε] （3）

式中：[ε～N0，σ2n]——高斯白噪声；[f（⋅）]——高斯映射。

高斯过程是一种非参数概率模型，被定义为随机变量的集合，其中任何有限的子集都具有联合高斯分布［20］。可将GP定义为：

[fx～GPm（x），kx，x'] （4）

式中：均值函数[m（x）]——输入[x]处的预期值，[mx=Efx]；协方差函数[kx，x']——不同输入点[x]和[x']处函数值之间的依赖关系：

[kx，x'=Efx-mxfx'-mx'] （5）

函数[k]通常被称为高斯过程的内核。使用径向基函数（radial basis function，RBF）作为核函数时被定义为：

[kx，x'=σ2exp-x-x'2/2l2] （6）

式中：[σ2]和l——超参数。

[X∗]是测试集输入，每一行都有一个新的输入点[x∗i]，[i=1，…，n]，[X∗]中所有输入之间的协方差矩阵[KX*， X*]为：

[KX*， X*=kx*1，x*1kx*1，x*2…kx*1，x*nkx*2，x*1kx*2，x*2…kx*2，x*n…………kx*n，x*1kx*n，x*2…kx*n，x*n] （7）

通常选择先验均值函数[m（x）=0]来简化式（4），然后可通过从多元正态分布中抽样获得输入[X∗]处预测值的映射[f*～N0，KX*，X*]，其中[f∗=fx∗1，…，fx∗nT]。

已知训练数据[X，y]，根据定义，先前的y和[f∗]遵循联合（多元）正态分布。那么可通过式（8）得到联合先验分布：

[yf∗～N0，K（X， X）+σ2εIKX， X∗KX∗， XKX∗， X∗] （8）

式中：[X]——训练数据输入矩阵；[K（X， X）]——训练数据之间的协方差矩阵；[KX∗， X∗]——测试数据之间的协方差矩阵；[KX∗， X]——测试数据与训练数据之间的协方差矩阵；[KX， X∗]——训练数据与测试数据之间的协方差矩阵；I——单位矩阵； [σ2ε]——假设的观察噪声水平（即ε的方差）。

与典型的高斯过程对输入和输出之间的关系进行建模不同，残差建模学习旨在对标签和预测值之间的残差进行建模。训练数据实际值[yi]和TCN预测值[yi]之间的残差可写为：

[ri=yi-yi， i=1，2，…，n] （9）

令[Y]和[R]分别表示时序卷积网络输出的点预测结果向量以及所有的残差。训练一个具有复合核的高斯过程，假设[R～N0，Kc（（X，Y），（X，Y））+σ2nI]，其中[Kc（（X，Y），（X，Y））]表示所有数据点的协方差矩阵。训练集中所有数据点的协方差矩阵[Kc]基于以下复合核[kc]：

[kcxi，yi，xj，yj=kin xi，xj+kout yi，yj， "i=1， 2， …， n]

（10）

假设RBF同时用于输入有关的核[kin ⋅]，输出有关的核[kout ⋅]。那么复合核可表示为：

[kcxi，yi，xj，yj=σ2in exp-xi-xj2/2l2in + " " " " " " " " " " " " " " " " " "σ2out exp-yi-yj2/2l2out ] （11）

式中：[σin 、σout 、lin 、lout ]——在学习过程中需要优化的参数，这些参数参照式（12）通过最大化对数边际似然函数来更新。

[lnp（R∣X，Y）=-12RTKc+σ2nI-1R-12lnKc+σ2nI-n2lg2π] （12）

新输入点[x∗i]的残差分布为：

[r∗∣X，Y，r，x∗，y∗～Nr∗，varr∗] （13）

[r∗=kT*Kc（（X，Y），（X，Y））+σ2nI-1R] （14）

[varr*=kcx*，y*，x*，y*-kT*Kc（（X，Y），（X，Y））+σ2nI-1k*] （15）

然后利用计算出的残差对时序卷积网络的点预测结果进行修正。修正后的预测结果为：

[y′*～Ny*+r*，varr*] （16）

时序卷积网络对时序输入进行特征提取是解决时序问题的有效模型，相比于循环神经网络，该模型不需要面对梯度消失和梯度爆炸问题，且共享卷积核使得模型占用的内存较低。在点预测的基础上，利用残差建模学习方法对预测结果的不确定性进行量化。此外，残差建模学习还能提高确定性预测结果的准确性。所提方法的详细训练过程如下：

2 仿真验证

本文使用东南某省配电网智能电表数据集验证所提模型的有效性，该数据集包含300户居民区精准光伏智能电表的负荷需求和光伏发电数据，采样周期为0.5 h，时间跨度为2021年7月1日—2022年6月30日。数据集中90%的数据用做训练集，10%用做测试集。对于所提方法，训练数据集将分为95%的数据作为[T]，5%的数据作为[Tr]。本文中的净负荷预测任务是提前12 h预测。[T]中的训练样本用于训练原始预测模型，而[Tr]中的样本用于修正原始模型的性能。所选特征包括以下变量：1）时间信息，包含有关一天中的小时、一周中的一天和一年中的月份的信息，本文采用独热编码方法对时间信息进行编码；2）历史负荷和光伏数据，包含过去两天同一时间步长的负荷数据；3）将接近预测时间（12 h以内）的数据作为特征[H]，将距离预测时间较远（12 h以外）的数据作为特征[S]。

2.1 评价指标与模型配置

点预测和概率预测用来衡量模型预测性能的评价指标不同。

2.1.1 点预测

在评估模型预测精度的过程中，采用平均绝对误差（mean absolute error， MAE）以及均方根误差（root mean square error， RMSE）这两项关键指标来衡量预测值与真实值之间的差异。这两种度量方式不仅有助于量化模型的预测误差，还为模型的性能优化提供了明确的方向。

[ＥMAE=1Ni=1Nyi-yi] （17）

[ＥRMSE=1Ni=1Nyi-yi2] （18）

式中：[yi]——第[i]个样本的实际值；[yi]——第[i]个样本的预测值；[N]——测试数据集中的样本数量；[ＥMAE]——预测误差的平均大小；[ＥRMSE]——将均方根误差开平方，保持了与目标变量相同的度量单位。MAE和RMSE对异常值和离群点具有良好的鲁棒性。相比之下，平均绝对误差在实际值为0时结果会不稳定。

2.1.2 概率预测

为了在评估中考虑清晰度和分辨率，必须评估预测的每个分位数，弹球损失（Pinball）能对每个分位数进行综合评估。此外，当处理具有类似准确覆盖水平的多种方法时，倾向于选择产生最窄区间的模型。温克勒区间分数（Winkler）可联合评覆盖率和区间宽度。因此，本文采用Pinball和Winkler来量化基于TCN和高斯过程残差建模学习的净负荷概率预测性能，Pinball和Winkler都可综合评估概率预测的区间可靠性和区间宽度。具体计算表达式为：

[EPinball =（1-q）yi，q-yi， "yilt;yi，qqyi-yi，q， "yi≥yi，q] （19）

式中：[EPinball ]——模型的弹球损失；[yi，q]——第[q]个分位数的负荷预测值。

对于[（1-α）×100%]预测区间，[Winkler]指标定义为：

[EWinkler=Ut，α-Lt，α+2Lt，α-yt/α， "ytlt;Lt，αUt，α-Lt，α， "Lt，α≤yt≤Ut，αUt，α-Lt，α+2yt-Ut，α/α， "ytgt;Ut，α] （20）

式中：[EWinkler]——模型的温克勒区间分数；[Lt，α]——[100（1-α）%]预测区间在时间[t]的下限；[Ut，α]——[100（1-α）%]预测区间在时间[t]的上限。

为了更好地展示TCN和高斯过程残差建模学习模型净负荷预测性能，选择4个点预测模型和2个预测模型与之比较。在点预测上选择一个机器学习模型SVR［3］和3个深度学习模型LSTM［6］、CNN［8］、TCN作为基线模型与所提模型进行比较。上述网络模型中SVR模型的核函数采用径向基函数。LSTM模型隐藏层神经元数量为512，使用ADAM优化器来训练。CNN模型的卷积层数为3。TCN卷积核为1×5，扩张因子d为8。对于概率预测方法，选择QR［9］和SGP［11］作为基线模型，其中QR是通过梯度提升回归方法实现的。SVR是非参数模型，具有较强的统计建模能力和较好的鲁棒性；LSTM适用于处理序列数据，能捕捉长期依赖关系；CNN和TCN则特别适合处理具有局部相关性的序列数据。通过与这些模型进行比较，可更好地了解所提模型的特点、适用性和改进之处。QR通过估计多个分位数来对概率分布进行建模，提供了对负荷分布不同区域的预测能力。SGP在负荷概率预测中利用稀疏高斯过程模型来处理数据的稀疏性，提高建模效率和预测性能。这些模型是在负荷预测领域中具有良好表现和广泛应用的模型。将所提模型与这些经典模型进行比较，可更准确地评估所提模型的性能和改进效果。所有程序都使用Python实现，并在配置RTX A5000显卡，16核Intel® Xeon® Platinum 8350C CPU的计算机上执行。

2.2 直接预测与间接预测

净负荷为负荷需求减去光伏出力，因此预测分为直接预测和间接预测两种。直接预测即利用历史净负荷数据直接预测未来净负荷；间接预测即先预测未来光伏产出和未来电力消耗，然后再相减得到未来净负荷。本节利用直接预测和间接预测的方式分别对净负荷进行预测，在5个模型上进行验证，如表1所示。

从表1可看出，直接预测和间接预测对模型性能的影响不大。考虑到间接预测的建模复杂度更高、调参难度大以及时间成本高的问题，该模型基于TCN和高斯过程残差建模学习采用直接预测的方式对净负荷进行预测。

2.3 点预测结果

为证明参数化方法的模型不确定性，说明所提模型的优越性，本节进行重复实验和比较试验。表2列出了不同模型在相同实验条件下4次重复实验预测结果的MAE和RMSE。QR的结果是分位数设置为50%时的预测值。

从表2可看出，除SVR之外的基于深度学习的方法在重复实验中表现出不同的性能。在上述神经网络方法中，TCN是在MAE和RMAE指标上性能最好的模型，这可能是由于TCN模型具有更强的表示能力，可更准确地提取净负荷的模式。CNN、LSTM和TCN在重复训练实验中评估指标的波动比QR更剧烈，这是因为基于深度学习的方法是参数化的，很难找到最优参数集，随机参数初始化和dropout也会使得训练初期性能不同。这也表明模型训练中的多重不确定性会影响预测模型的结果，不同的任务最佳的模型可能不同。因此，本文未探索最佳的TCN模型结构和训练方法，而是利用基于RML的方法进一步学习最新的净负荷模式并增强原始模型的性能，这种设计保证了模型具有较强的泛化能力。本文提出的模型通过残差建模学习过程显著提高了TCN模型的预测准确性，这使得所提方法能在重复实验中始终优于其他方法。

为进一步分析所提模型的性能，图2绘制了采用不同算法时测试集上的预测曲线和真实曲线，可看到本文所提方法的预测值最贴合实际值，尤其是在曲线的峰谷阶段对实际负荷曲线的拟合度更高。此外，在波谷［50，60］时段光伏出力出现非常规变化，使得净负荷模式发生改变。由于训练数据中缺少这种模式，其他方法无法检测到这种变化。相比之下，所提方法可以反映这种变化。本文所提方法结合了深度模型和概率模型的优势，提高了净负荷点预测精度。

2.4 概率预测结果

为量化所提方法在概率净负荷预测方面的表现，在表2中以QR和SGP作为基线模型列出测试集上的Pinball、Winkler评价指标，以此综合评估所提模型净负荷概率预测的区间可靠性和区间宽度。

从表3可看出，与现有方法相比所提模型在Pinball和Winkler分数上表现更好，可提供更好的概率预测结果。通过复合核函数对原始模型的结果与实际值之间的残差进行建模并用RML来修改原始模型的结果以及捕获结果的不确定性，使得所提方法能够结合非参数和参数模型的优点。可看出，所提模型可捕捉短期净负荷预测任务的不确定性。

所提方法的Pinball性能为5.98，比SGP 方法的性能高8.03%。当[α=0.1]时，所提方法的Winkler为2067，与SGP和QR方法相比，性能分别提高9.85%和10.56%。结果表明，所提方法的预测结果更为准确且可靠。

图3显示了在测试数据集中不同方法的预测值、真实值和95%、90%、80%、70%置信区间。如图3b和图3c所示，SGP和QR方法的95%置信区间并不能覆盖全部实际净负荷，这说明它们对净负荷预测的可靠性不足。相较于其他方法，所提模型创新性地运用了TCN来提取关键特征，并据此

构建概率预测模型，其生成的置信区间有效囊括了实测值的主要范围，彰显了极高的预测可靠性。具体而言，该模型所预测的区间不仅实现了对真实值的高置信覆盖，还显著缩小了预测区间的宽度，其预测的精确性与细节刻画能力超越了传统概率预测手段，特别是在电力负荷波动的极端点（如波峰与波谷）处表现尤为突出。这一特性对于电力系统的稳定运行与优化调度具有至关重要的意义，为决策者提供了更为精准可靠的预测依据。这可能是由于原始预测模型在净负荷的波峰波谷有更好的表现。在这种情况下，所提方法可保持TCN的性能优势，并为净负荷提供有效的不确定性量化结果。

图4a和图4b显示了波峰和波谷的预测结果。可看出，普通的机器学习方法（如CNN、LSTM和SVR）不能提供准确的点预测结果和有用的不确定性信息。与其他方法相比，所提方法的预测结果更接近实际净负荷。SGP方法对净负荷的峰值和谷值的概率密度曲线表现得不那么陡峭。这可能是由于SGP在波峰和波谷时特征提取能力不够。相比之下，所提方法在原有预测模型的基础上量化了净负荷的不确定性，这使得所提模型能获得更可靠的预测区间。

3 结 论

针对短期净负荷预测问题，本文提出一种基于TCN和高斯过程残差建模学习的概率净负荷预测模型。通过在真实数据集上与其他点预测和概率预测方法的比较，结果表明：1）所提模型可取得比基线模型更好的点预测结果，尤其是在净负荷的峰谷阶段；2）所提方法比基线方法具有更好的不确定性量化能力，它具有更有效的预测区间；3）所提方法可在不改变原有模型结构和训练过程的情况下提高原有预测模型的性能，表明所该方法在一定程度上可解决认知不确定性问题并优化预测模型。

［参考文献］

［1］ 马钊， 张恒旭， 赵浩然， 等. 双碳目标下配用电系统的新使命和新挑战［J］. 中国电机工程学报， 2022， 42（19）： 6931-6945.

MA Z， ZHANG H X， ZHAO H R， et al. New mission and challenge of power distribution and consumption system under dual-carbon target［J］. Proceedings of the CSEE， 2022， 42（19）： 6931-6945.

［2］ ALIPOUR M， AGHAEI J， NOROUZI M， et al. A novel electrical net-load forecasting model based on deep neural networks and wavelet transform integration［J］. Energy， 2020， 205： 118106.

［3］ 赵登福， 庞文晨， 张讲社， 等. 基于贝叶斯理论和在线学习支持向量机的短期负荷预测［J］. 中国电机工程学报， 2005， 25（13）： 8-13.

ZHAO D F， PANG W C， ZHANG J S， et al. Based on Bayesian theory and online learning svm for short term load forecasting［J］. Proceedings of the CSEE， 2005， 25（13）： 8-13.

［4］ LEE J Y， CHO Y. National-scale electricity peak load forecasting： traditional， machine learning， or hybrid model？［J］. Energy， 2022， 239： 122366.

［5］ 肖白， 高文瑞， 李道明， 等. 基于3σ-CEEMDAN-LSTM的空间负荷预测方法［J］. 电力自动化设备， 2023， 43（3）： 159-165.

XIAO B， GAO W R， LI D M， et al. Spatial load forecasting "method "based "on "3σ-CEEMDAN-LSTM［J］. Electric power automation equipment， 2023， 43（3）： 159-165.

［6］ 欧阳静， 杨吕， 尹康， 等. 基于ALIF-LSTM多任务学习的综合能源系统短期负荷预测［J］. 太阳能学报， 2022， 43（9）： 499-507.

OUYANG J， YANG L， YIN K， et al. Short-term load forecasting method for integrated energy system based on ALIF-LSTM and multi-task learning［J］. Acta energiae solaris sinica， 2022， 43（9）： 499-507.

［7］ 邹智， 吴铁洲， 张晓星， 等. 基于贝叶斯优化CNN-BiGRU混合神经网络的短期负荷预测［J］. 高电压技术， 2022， 48（10）： 3935-3945.

ZOU Z， WU T Z， ZHANG X X， et al. Short-term load forecast based on Bayesian optimized CNN-BiGRU hybrid neural networks［J］. High voltage engineering， 2022， 48（10）： 3935-3945.

［8］ 陆继翔， 张琪培， 杨志宏， 等. 基于CNN-LSTM混合神经网络模型的短期负荷预测方法［J］. 电力系统自动化， 2019， 43（8）： 131-137.

LU J X， ZHANG Q P， YANG Z H， et al. Short-term load forecasting method based on CNN-LSTM hybrid neural network model［J］. Automation of electric power systems， 2019， 43（8）： 131-137.

［9］ BRACALE A， CARAMIA P， DE FALCO P， et al. Multivariate quantile regression for short-term probabilistic load forecasting［J］. IEEE transactions on power systems， 2020， 35（1）： 628-638.

［10］ MUNKHAMMAR J， VAN DER MEER D， WIDÉN J. Very short term load forecasting of residential electricity consumption using the Markov-chain mixture distribution （MCM） model［J］. Applied energy， 2021， 282： 116180.

［11］ WEN H L， MA J H， GU J， et al. Sparse variational Gaussian process based day-ahead probabilistic wind power forecasting［J］. IEEE transactions on sustainable energy， 2022， 13（2）： 957-970.

［12］ 王炜， 冯斌， 黄刚， 等. 基于自注意力编码器和深度神经网络的短期净负荷预测［J］. 中国电机工程学报， 2023， 43（23）： 9072-9084.

WANG W， FENG B， HUANG G， et al. Short-term net load forecasting based on self-attention encoder and deep neural network［J］. Proceedings of the CSEE， 2023， 43（23）： 9072-9084.

［13］ SUN M Y， ZHANG T Q， WANG Y， et al. Using Bayesian deep learning to capture uncertainty for residential net load forecasting［J］. "IEEE "transactions "on "power "systems， 2020， 35（1）： 188-201.

［14］ 刘友波， 吴浩， 刘挺坚， 等. 集成经验模态分解与深度学习的用户侧净负荷预测算法［J］. 电力系统自动化， 2021， 45（24）： 57-64.

LIU Y B， WU H， LIU T J， et al. User-side net load forecasting method integrating empirical mode decomposition "and "deep "learning［J］. "Automation "of electric power systems， 2021， 45（24）： 57-64.

［15］ 王晓东， 张一龙， 刘颖明， 等. 基于双时间尺度净负荷预测的储能调峰控制策略［J］. 太阳能学报， 2021， 42（7）： 58-64.

WANG X D， ZHANG Y L， LIU Y M， et al. Double time scale power prediction based peaking shaving control strategy of energy storage system［J］. Acta energiae solaris sinica， 2021， 42（7）： 58-64.

［16］ TAGASOVSKA N， LOPEZ-PAZ D. Single-model uncertainties "for "deep "learning［EB/OL］. "2018： "DOI：10.48550/arXiv.1811.00908.

［17］ 余建明， 庞传军. 考虑数据和模型不确定性的短期风电功率概率预测［J］. 电网技术， 2022， 46（5）： 1926-1933.

YU J M， PANG C J. Short-term wind power probabilistic prediction considering data and model uncertainties［J］. Power system technology， 2022， 46（5）： 1926-1933.

［18］ 赵长飞. 新能源电力系统概率预测-决策一体化研究［D］. 杭州： 浙江大学， 2022.

ZHAO C F. Integrated probabilistic forecasting and decision for power system with renewables［D］. Hangzhou： Zhejiang University， 2022.

［19］ 王萍， 范凌峰， 程泽. 基于健康特征参数的锂离子电池SOH和RUL联合估计方法［J］. 中国电机工程学报， 2022， 42（4）： 1523-1534.

WANG P， FAN L F， CHENG Z. A joint state of health and remaining useful life estimation approach for lithium-ion " batteries " based " on " health " factor " parameter［J］. Proceedings of the CSEE， 2022， 42（4）： 1523-1534.

［20］ RASMUSSEN C E， WILLIAMS C K I. Gaussian processes for machine learning［M］. Cambridge， MA： MIT Press， 2006.

PROBABILISTIC NET LOAD FORECASTING BASED ON TCN AND GAUSSIAN PROCESS-ENABLED RESIDUAL MODELING

LEARNING APPROACH

Zhao Hongshan，Wu Yuchen，Pan Sichao，Wen Kaiyun

（Key Laboratory of Distributed Energy Storage and Microgrid of Hebei Province（North China Electric Power University）， Baoding 071003， China）

Abstract：Net load forecasting is of great importance for grid operation and management with high penetration of renewable energy. This paper proposes a net load prediction method based on temporal convolutional network （TCN） and Gaussian process （GP）， which can provide accurate point prediction and probabilistic prediction results. First， TCN is used to extract the variation pattern of net load from a large amount of historical data， and the excellent time series modeling capability of TCN can discover the complex mapping relationship between the input and output of the net load forecasting task. Then， a composite kernel function is designed for the Gaussian process to correct the prediction residuals of TCN， which can further improve the accuracy of point prediction based on TCN prediction， and also quantify the uncertainty of net load prediction by using the uncertainty quantification ability of Gaussian process. Finally， experiments are conducted on real net load datasets， and the effectiveness of the proposed method is illustrated by comparing it with a large number of state-of-the-art models.

Keywords：prediction models； photovoltaic output； probability density function； residual neural networks； temporal convolutional network（TCN）