研究现状
现有研究大多通过分别考虑空间相关性和时间相关性或在滑动时间窗口内对这种时空相关性进行建模，而未能对直接的时空相关性进行建模。受最近图领域Transformer成功的启发，该模型提出利用局部多头自关注，在自适应时空图上直接建立跨时空相关性模型。
挑战点
以前的研究者通过将图结构引入时空数据预测模型已经取得了显著进展，但由于时空相关性的复杂性，当前模型仍然面临诸多挑战。
-
首先，在空间图中，一个节点对另一个节点的影响可能会跨越多个时间步。这种时空相关性不仅概括了空间相关性和时间相关性，同时更接近于隐藏在时空图结构数据中的真实因果效应。然而，大多数现有研究是分别处理空间维度和时间维度，并采用不同的模块和机制进行建模，之后再融合结果，或者在有限的时间窗口内建模时空注意力。这种分解方式和时间窗口方法在建模长期时间序列中的直接跨时空效应时可能效果欠佳。
-
其次，已有研究通常使用基于距离测度或其他地理连接方式构建的预定义图结构，这基于这样一个假设：所使用的图结构可以捕捉节点之间的真实依赖关系。然而，这种基于地理位置的连接方式可能并不等同于真实的交通相关性。例如，即使两个十字路口在地理上是相连的，但如果连接道路上没有车辆流动，那么它们之间的交通流量可能并无直接关系。一些研究已经关注到这个问题，并提出了自适应图以探索隐藏的相关性。
-
第三，即使图结构能够捕捉节点之间的真实依赖关系，空间相关性仍然可能在不同时间步中动态变化。例如，在两个相连的十字路口，早高峰和晚高峰的车流方向可能完全相反，这是由于通勤者在家与公司之间往返。因此，我们不能在所有时间步都采用相同的节点更新机制，因为节点相关性也可能受到时间动态的影响。近年来，Transformer 架构在语言建模和计算机视觉领域取得了卓越的性能，所以本文提出使用自注意力机制来建模图中的动态时空相关性。
创新点
该论文提出了一种新颖的自适应图时空变换网络（ASTTN），它堆叠了多个时空注意层，在输入图上应用自注意机制，然后由线性层进行预测。
-
为了解决上述挑战，在本研究提出ASTTN，以对交通网络中每个位置的交通流量进行联合预测。该论文在时空图上执行多头自注意力机制，并设计了 ST-attention 块 来处理图结构化数据。
-
与先前使用空间和时间分开建模的方法不同，ASTTN 采用堆叠的 ST-attention 模块，在不将时空相关性分解为空间和时间两个独立域的情况下，联合建模时空相关性。为了降低时间复杂度，该论文将时空图的构建限定在空间域内的一跳邻居。此外，我们进一步引入自适应空间图建模以探索真实的相关性，从而提高注意力机制的效率。
-
我们在真实高速公路交通数据集上进行了广泛的实验，结果表明，与基线模型相比，该模型在预测性能上具有竞争力。
方法论
问题的提出
我们将道路网络表示为一个加权图 𝐺 = (V, E, 𝐴)，其中：
-
V 是节点集合，且 |V| = 𝑁，表示图中包含 𝑁 个节点；
-
E 是边集合，且 |E| = 𝐸，表示图中包含 𝐸 条边；
-
𝐴 ∈ R^(𝑁 ×𝑁) 是邻接矩阵，描述节点之间的空间距离。
在每个时间步 𝑡，图 𝐺 具有一个特征矩阵 𝑋𝑡 ∈ R^(𝑁 ×𝐷)，该矩阵会随时间 𝑡 动态变化。
给定一个图 𝐺 以及历史 𝑇 个时间步的特征矩阵，交通预测的目标是学习一个函数 𝑓，能够预测未来 𝑇′ 个时间步的特征矩阵。
局部时空注意力机制
处理时空数据需要在空间和时间域上建模其相关性。将相同时间步（或位置）内节点之间的注意力称为空间注意力（spatial-attention）或时间注意力（temporal-attention），而对于同时具有不同时间步和不同位置的节点对之间的注意力，我们称之为时空注意力（st-attention）。