基于深度学习的时空预测模型

2023/01/09

1. 引言

何为时空预测？下面是一些例子：

现有某城市过去一段时间的路网运行状况数据，预测未来时刻的路网运行状况。
现有某城市过去一段时间各空气监测点的数据，预测未来时刻这些监测点的空气质量值。

通过上述例子可以看出，时空预测就是用过去一段时间的空间数据，去预测未来一段时间的空间数据。这些数据也称时空数据，下图是一些常见的三种时空数据结构：

下面以交通领域为例，介绍三种时空数据。

时空栅格数据：将地图等分称个网格，每个网格代表对应城市区域的交通流特征参数。
时空图数据：将地图按道路的连接结构转化为拓扑图，每个结点代表对应道路的交通流特征参数。
时空轨迹数据：按一定时间频率采集车辆的位置得到的数据。

结合上述时空数据的描述，时空预测问题可形式化定义为：

其中，代表时刻的空间数据，代表预测模型。

时空数据有三个特性，分别为时间相关性、空间相关性、时空相关性，我认为下图对这种三种性质的解释最清晰。

棕色箭头描述了空间相关性，如道路的交通流与其相邻道路的交通流有相关。
蓝色箭头描述了时间相关性，如道路的交通流与其过去时刻的交通流有相关。
绿色箭头描述了时空相关性，如道路与其相邻道路过去时刻的交通流有相关。

2. 技术框架

上一节我们介绍了时空预测的基本概念，接下来介绍基于深度学习的时空预测网络的技术思路，基本框架如下图所示：

主要思路一般可分为三步：

提取时间特征。
提取空间特征。
融合时间和空间特征，送入到最后的全连接层。

其中，用于提取时空数据中的时间特征的技术有：

循环神经网络
- RNN、LSTM、GRU
卷积神经网络
- TCN

其中，用于提取时空数据中的空间特征的技术有：

图神经网络（针对时空图数据）
- ChebNet、GraphSAGE、GCN、GAT
卷积神经网络（针对时空栅格数据）
- CNN、VGG、Inception、ResNet

3. 经典的时空预测网络

3.1 ST-ResNet

一个经典的时空预测网络，面向时空栅格数据。它利用堆叠残差网络块的方式提取交通栅格数据的特征，网络整体结构如下图：

网络结构的整体表达式如下：

、、分别为残差网络对三种时间跨度的空间特征提取，为这三种特征融合后的结果。
为全连接网络对外部因素（天气、节假日等）的特征提取。
为最终的预测结果，它融合了时空特征和外部因素的特征。
需要注意的是，该网络没有用RNN、TCN等专门的时间特征提取网络，只是简单的将不同时刻的空间特征进行拼接，最后统一送入到最后的全连接层。

3.2 T-GCN

另一个经典的时空预测网络，面向时空图数据。该网络用图卷积神经网络（GCN）提取空间特征，用门控循环神经网络（GRU）提取时间特征，最后将两者进行融合，网络整体结构如下：

该网络的结构整体上与GRU相似，主要是在输入端增加了一个GCN组件，用于提取各个时刻的空间特征。网络核心表达式如下：

其中，为图卷积操作，用于提取时刻拓扑图的空间特征，其详细表达式为：

事实上，GCN的代码实现非常简单，因此本文不再进一步深入，有兴趣可自行了解。

4. 参考资料

[1] Song C, Lin Y, Guo S, et al. Spatial-temporal synchronous graph convolutional networks: A new framework for spatial-temporal network data forecasting[C]//Proceedings of the AAAI conference on artificial intelligence. 2020, 34(01): 914-921.

[2] Zhang J, Zheng Y, Qi D. Deep spatio-temporal residual networks for citywide crowd flows prediction[C]//Proceedings of the AAAI conference on artificial intelligence. 2017, 31(1).

[3] Zhao L, Song Y, Zhang C, et al. T-gcn: A temporal graph convolutional network for traffic prediction[J]. IEEE transactions on intelligent transportation systems, 2019, 21(9): 3848-3858.

目录