UnetTSF：一个性能更好的线性复杂度时间序列预测模型

一. 本文简介

最在时间序列预测领域，基于Transformer的模型取得了显著的进展，并且表现出很好的结果，成为超越传统的线性模型的新基准模型。本文提出了一种名为UnetTSF的U-Net时间序列预测模型，它采用了UNet架构。与以往的方法不同，本文采用了FPN技术从时间序列数据中提取特征，而不是将数据分解成趋势和季节项。同时，我们设计了一种适用于时间序列数据的融合结构。实验部分在8个开源数据集上进行了测试，结果显示，在32个测试项目中，有31个项目达到了最佳结果。相比于最佳线性模型DLiner，UnetTSF的均方误差平均减少了10.1%，平均绝对误差平均减少了9.1%。与复杂的基于Transformer的PatchTST模型相比，在32个测试项目中，UnetTSF在均方误差上获得了9个最优结果，在平均绝对误差上获得了15个最优结果。这表明UnetTSF模型在时间序列预测中具有很好的性能。、

二. 背景知识

时间序列线性模型

时间序列线性模型是一种复杂度较低的预测模型，包括ARMA、NLinear和DLlinear等模型。它们通过线性处理输入数据来进行预测，其中DLlinear模型将时间序列数据分解为季节项和趋势项，并分别预测它们，然后将两者相加得到最终的预测结果。

Transformer模型

Transformer模型是一种在自然语言处理和图像等领域取得突破性进展的模型，近年来也被广泛应用于长期时间序列预测。不同的Transformer模型采用不同的技术来提取关键特征，如卷积自注意力层、自相关和金字塔注意力模块等。这些模型的特点是具有较低的复杂度，并在预测性能上表现出色。

时间序列分解

时间序列分解是将时间序列数据分解为长期趋势、季节波动、周期性波动和无规律波动等组成部分的过程。通过分解可以更好地理解时间序列的特征，并更准确地进行预测。一些模型如Autoformer和FEDformer利用分解技术来提取趋势和季节项，从而提高预测的准确性。

U-Net

U-Net是一种在医学图像处理中广泛应用的网络架构，也被用于时间序列预测。它具有简洁、稳定和高效的特点，能够提取有效的特征并进行预测。U-Net的编码器模块可以压缩输入数据，提取关键特征，而解码器模块可以通过渐进融合操作来去噪和保留有效特征，从而提高预测的准确性。

三. 本文贡献

本文介绍了一种名为UnetTSF的时间序列预测模型，它是在DLiner和Transformer模型的基础上进行了改进。传统的Transformer模型在训练和推断时需要消耗大量的资源，并且速度较慢。为了解决这些问题，研究人员引入了U-Net结构，并提出了一种称为UnetTSF的新模型。UnetTSF模型有三个主要贡献。

1. 首先，它引入了一种称为时间序列FPN方法的新方法，用于描述时间序列数据。这种方法通过使用池化函数在不同深度上提取趋势信息，并将这些信息组合成一个数据组。相比于传统的二进制分解方法，FPN方法使用了更小的池化核，计算复杂度更低，并且更有效地提取浅层和深层特征。
2. 其次，UnetTSF模型结合了U-Net网络的多级预测特性和时间序列数据集。通过多步融合，将较高深度的趋势特征整合到较低级别的特征中。这种渐进融合方法可以更好地利用趋势项的深度特征，避免深度特征对预测结果的过大影响。
3. 最后，研究人员进行了大量的实验来验证UnetTSF模型的效果。实验结果表明，UnetTSF在模型参数数量和计算复杂度方面比DLiner模型有明显的优势。在32个多变量时间序列预测测试中，UnetTSF的预测结果在mae和mse指标上均优于DLiner，并且mse平均减少了10.1%，mae减少了9.1%。与另一种模型PatchTST相比，UnetTSF在mse和mae指标上也取得了更好的结果。

四. 本文方法

时间序列预测问题是指根据过去的历史数据来预测未来的数据。UnetTSF是一种用于时间序列预测的模型，它使用了U-Net和时间序列FPN架构，以及适用于时间数据的多步融合模块。

UnetTSF模型由两部分组成：时间序列FPN和融合模块。左侧的时间序列FPN负责从输入数据中提取特征，右侧的融合模块将上层特征和局部特征融合起来得到最终的特征。这个模型使用全连接层和池化层来构建。

时间序列FPN模块通过数据分解提取时间序列数据的特征。它将数据分解为季节、周期、趋势和波动项，然后使用多级提取方法来获取这些特征。例如，将数据分为4个层级，使用平均池化函数提取趋势特征。

融合模块利用时间序列FPN模块提取到的多尺度时间特征。它使用多个全连接层来预测未来的数据。每个全连接层的输出长度与输入数据的长度相同。融合模块将上一层的特征和当前层的特征拼接在一起，然后通过全连接层输出最终特征。

五. 实验分析

在单变量时间序列预测方面，UnetTSF在ETT数据集上的评估结果显示，它在mse和mae指标上取得了很好的表现。与其他模型相比，UnetTSF在mse上平均降低了11.0%，最大降低了54%；在mae上平均降低了5.5%，最大降低了35%。与DLiner相比，UnetTSF在mse和mae指标上的性能优势更为显著，与PatchTST相比，在mse指标上有7个领先项和6个相同项，只有3个项比PatchTST差；在mae指标上有10个领先项、1个相同项和4个项比PatchTST差。在多变量时间序列预测方面，UnetTSF在8个数据集上的表现同样出色。在32个测试中，UnetTSF在mse和mae指标上取得了最佳结果的次数较多。与DLiner相比，UnetTSF在mse上平均减少了10.1%，在mae上减少了9.1%。在某些数据集上，如天气数据集，UnetTSF取得了所有最优结果，相比PatchTST和DLiner，mse和mae指标都有显著改善。


UnetTSF在模型效率方面也表现良好。与其他模型相比，UnetTSF具有较低的计算复杂度和合理的参数数量。尤其是与PatchTST相比，UnetTSF在计算复杂度上有明显的优势，而参数数量和内存使用方面与DLiner和PatchTST相当。

六. 总结展望

UnetTSF是一种创新的长时间序列预测模型，通过引入FPN描述结构和Unet网络，它在单变量和多变量时间序列预测任务中取得了优异的性能。与传统方法相比，UnetTSF具有线性复杂度，使其在实际应用中更加高效和可行。它可以在各种领域中应用，如金融、交通、天气预测等。通过准确预测时间序列数据，UnetTSF可以帮助企业和组织做出更明智的决策，优化资源分配，提高效率。同时，UnetTSF的线性复杂度使其在大规模数据集和实时预测场景下具有优势。