近年来，自动驾驶车辆轨迹预测问题吸引了学者们的广泛关注. 通过预测未来的行驶轨迹并生成一条安全的未来轨迹作为行驶参考，自动驾驶车辆可以在行驶中对周围道路状况做出及时响应^[1]. 早期的车辆轨迹预测主要基于车辆恒速模型（constant velocity, CV）和卡尔曼滤波（Kalman filter, KF）方法^[2]，但这些方法无法有效利用车辆历史状态及考虑车辆之间交互的问题. 由于当前交通状况的不确定性以及车辆之间交互的复杂性，精确预测车辆未来轨迹依然是研究难点与热点^[1].

近期以长短期记忆网络（long short-term memory，LSTM）为核心的非注意力机制模型开始应用于车辆轨迹预测，该模型能够有效利用车辆过去状态，提高车辆轨迹预测的精度^[3-4]. 然而，该模型的LSTM无法有效地处理各辆车之间的相互作用，从而不能充分提取多辆车之间历史轨迹的交互信息^[5-10]. 为此，有学者将LSTM与卷积神经网络^[11-13]（convolutional neural network，CNN）与生成对抗网络^[14]（generative adversarial networks, GAN）方法结合，但这些方法将周围车辆视作同等重要，忽略了周围车辆对轨迹预测车辆交互影响的差异性.

为了处理车辆轨迹预测中各辆车交互影响的差异性，近年来注意力机制被广泛使用^[15-22]，如Lin等^[16]在Deo 等^[11]的基础上，提出基于网格的时空注意力机制；Chen等^[19]提出动态时空注意力网络架构，通过分层捕捉时间和社会关系表示车辆之间的动态变化. 然而，这些注意力机制模型无法有效处理预测轨迹的多模态特性，导致预测的轨迹与真实的轨迹相差较大^[23]. 为此，有研究者将Transformer模型^[24]中的多头注意力（multi-head attention, MHA）运用于车辆轨迹预测. 例如，Messaoud等^[23]在编码层和解码层之间嵌入多头注意力机制模块，能充分提取车辆之间的交互信息；Li等^[1]分别从时间和空间维度设计多头注意力机制模型，并将两者串联以提取车辆轨迹的时空特征. 尽管Transformer模型提高了车辆轨迹预测的精度，但大部分模型只考虑了单维度的多模态问题，难以提取所有特征信息实现特征融合，导致轨迹预测精度提高有限.

考虑自动驾驶车辆轨迹预测问题，本研究提出基于时空融合的多头注意力（temporal-spatial multi-head attention，TSMHA）车辆轨迹预测模型. 首先设计时间多头注意力模块以有效提取时间关联性，预测车辆在未来不同时刻的行驶可能性；再结合MHA与图注意力机制设计空间多头注意力模块，融合交通场景中车辆的拓扑关系，提取车辆之间的交互关系. 在此基础上，采用门控特征融合模型（gate fusion model, GFM）将时空注意力模块得到的差异化特征信息进行融合，其目的是消除不同特征之间产生的冗余信息，进而在循环模块采用LSTM循环生成目标车辆未来预测轨迹. 最后考虑高速公路、城市十字路口和环岛交通场景，使用NGSIM和INTERACTION公开数据集验证本研究所提出的轨迹预测方法的有效性.

考虑在t时刻一定道路范围内的N辆车，集合 $ \left\{ {S_i^t} \right\}_{i = 1}^N $表示这些车辆， $ S_i^t = \left\{ {s_i^t,l_i^t,\theta _i^t,v_i^t,a_i^t} \right\} $， $ \left\{ {s_i^t,l_i^t} \right\} $为车辆i在Frenet坐标系的位置， $ \theta _i^t $、 $ v_i^t $和 $ a_i^t $分别为车辆i的转向角、速度以及加速度. 由于本研究涉及曲线路段的轨迹预测，将笛卡尔坐标系转换为Frenet坐标系以便后续实验处理. 本研究的模型总架构如图1所示，其中为了总模型架构的简洁性，嵌入层未在图1中显示. 车辆i的信息 $ S_i^t $经过LSTM处理后，被分别传输至时间注意力模块和空间注意力模块，之后再将各自的结果输入门控特征融合，最后循环生成未来预测轨迹.

在时间维度上，由于当前时刻车辆自身的状态与过去时刻的状态高度相关，设计时间多头注意力模块，用于提取每辆车在时间维度的关联性. 首先将场景中第i辆车 $ S_i^t $依次传输至嵌入层（embedding layer）与LSTM层，以便时间多头注意力模块进一步处理，表达式为

(1) $ {\boldsymbol{e}}_i^t = \varphi (S_i^t;{{\boldsymbol{W}}_{{\text{emb}}}}) , $

(2) $ {\boldsymbol{h}}_i^t = {\text{LSTM}}({\boldsymbol{h}}_i^{t - 1},{\boldsymbol{e}}_i^t;{{\boldsymbol{W}}_{\text{e}}}) . $

式中： $ \varphi $表示激活函数为Relu的全连接（fully connected）层， $ {\boldsymbol{e}}_i^t $和 $ {\boldsymbol{h}}_i^t $分别为嵌入层输出结果与LSTM的隐藏层，W_emb、W_e为嵌入层和LSTM的可学习权重. 再将所有t = 1, 2 $, \cdots , $ T_obs时刻的隐藏层聚合为 $ {\boldsymbol{H}}_i^t = \left[ {{\boldsymbol{h}}_i^1,{\boldsymbol{h}}_i^2,\cdots ,{\boldsymbol{h}}_i^{{T_{{\text{obs}}}}}} \right],{\boldsymbol{H}}_i^t \in {{{\bf{R}}}^{{T_{{\text{obs}}}} \times d}} $. 接下来将第i辆车的 $ {\boldsymbol{H}}_i^t $传输至时间多头注意力模块. 为了与空间注意力机制对应， $ {\boldsymbol{H}}_i^t $上标t被省略. 上述过程的表达式如下：

(3) $ {{\boldsymbol{Q}}_i} = {{\boldsymbol{H}}_i} \times {{\boldsymbol{W}}_{{\text{qt}}}};{\text{ }}{{\boldsymbol{W}}_{{\text{qt}}}} \in {{\bf{R}}^{d \times {d_{\text{k}}}}}. $

(4) $ {{\boldsymbol{K}}_i} = {{\boldsymbol{H}}_i} \times {{\boldsymbol{W}}_{{\text{kt}}}};{\text{ }}{{\boldsymbol{W}}_{{\text{kt}}}} \in {{{\bf{R}}}^{d \times {d_{\text{k}}}}}. $

(5) $ {{\boldsymbol{V}}_i} = {{\boldsymbol{H}}_i} \times {{\boldsymbol{W}}_{{\text{vt}}}};{\text{ }}{{\boldsymbol{W}}_{{\text{vt}}}} \in {{\bf{R}}^{d \times {d_{\text{v}}}}}. $

式中：Q_i、K_i和V_i分别表示query矩阵、key矩阵和value矩阵，W_qt、W_kt和W_vt为时间注意力中对应矩阵的可学习矩阵. 计算第h个注意力头的车辆i在当前时刻对观测时刻的注意力值：

(6) $ {\text{At}}{{\text{t}}^h}({{\boldsymbol{Q}}_i},{{\boldsymbol{K}}_i},{{\boldsymbol{V}}_i}) = \frac{{{\text{softmax}}\;({{\boldsymbol{Q}}_i}{{({{\boldsymbol{K}}_i})}^{\rm{T}}})}}{{\sqrt {{d_{\text{k}}}} }}{{\boldsymbol{V}}_i} .$

与比例点积做法不同，本研究将维度d等分h份，d/h = d_v = d_k，多头注意力机制将式(6)平行计算h次，再将结果拼接并加权得到H_tep，表达式为

(7) $ {{\boldsymbol{C}}_n}{\rm{ = Con}}({\bf{hea}}{{\bf{d}}_1},{\bf{hea}}{{\bf{d}}_2},\cdots,{\bf{hea}}{{\bf{d}}_h}) \in {{\bf{R}}^{{T_{{\rm{obs}}}} \times d}}, $

(8) $ {{\boldsymbol{H}}_{{\rm{tep}}}} = \left[ {{{\boldsymbol{C}}_1},{{\boldsymbol{C}}_2},\cdots,{{\boldsymbol{C}}_n},\cdots,{{\boldsymbol{C}}_N}} \right] .$

式中：head_h = Att^h(Q_i, K_i, V_i)；Con为concat操作，用于合并h个注意力头的信息. 时间多头注意力机制的目的为模拟目标车辆在同一时刻采用多种可能的驾驶策略. 将各注意力头得出的结果进行连接并得出合适的权重，能够使目标车辆考虑到多种可能的情况，再从中选择出最合适的路线作为目标车辆未来时刻的轨迹运动参考.

在研究目标车辆与周围车辆的空间交互时，仅使用欧氏距离来研究车辆之间的相互作用是不全面的，可能会忽略真正须注意的车辆^[1]. 因此，本研究将图注意力机制（graphic attention network）与MHA结合，形成图多头注意力（graphic MHA），以提取 $ {\boldsymbol{H}}_i^t $在空间维度的交互行为. 具体步骤如下：先将所获得的 $ {\boldsymbol{H}}_i^t $进行拼接得到 $\left[ {\boldsymbol{H}}_1^t,{\boldsymbol{H}}_2^t,\cdots , {\boldsymbol{H}}_N^t \right] \in {{\bf{R}}^{N \times {T_{{\text{obs}}}} \times d}}$，再以时间维度将其分割为 $\left[ {{\boldsymbol{\varTheta }}_i^1,{\boldsymbol{\varTheta }}_i^2,\cdots ,{\boldsymbol{\varTheta }}_i^{{T_{{\rm{obs}}}}}} \right] \in {{\bf{R}}^{N \times {T_{{\text{obs}}}} \times d}}$，以便处理在 t 时刻所有车辆之间的交互关系，最后计算空间注意力权重，表达式如下：

(9) $ {{\boldsymbol{Q}}^t} = {{\boldsymbol{\varTheta }}^t} \times {{\boldsymbol{W}}_{{\text{qs}}}};{\text{ }}{{\boldsymbol{W}}_{{\text{qs}}}} \in {{\boldsymbol{R}}^{d \times {d_{\text{k}}}}}. $

(10) $ {{\boldsymbol{K}}^t} = {{\boldsymbol{\varTheta }}^t} \times {{\boldsymbol{W}}_{{\text{ks}}}};{\text{ }}{{\boldsymbol{W}}_{{\text{ks}}}} \in {{\bf{R}}^{d \times {d_{\text{k}}}}} .$

(11) $ {{\boldsymbol{V}}^t} = {{\boldsymbol{\varTheta }}^t} \times {{\boldsymbol{W}}_{{\text{vs}}}};{\text{ }}{{\boldsymbol{W}}_{{\text{vs}}}} \in {{\bf{R}}^{d \times {d_{\text{v}}}}} .$

式中：W_qs、W_ks和W_vs表示空间注意力中对应矩阵的可学习矩阵. 为了与时间注意力机制对应， $ {\boldsymbol{\varTheta }}_i^t $下标i被省略. 接下来计算在t时刻的注意力值Att^h(Q^t, K^t, V^t)，表达式为

(12) $ {\text{At}}{{\text{t}}^h}({{{\boldsymbol{Q}}}^t},{{{\boldsymbol{K}}}^t},{{{\boldsymbol{V}}}^t}) = \frac{{{{\rm{softmax}}}\; ({{{\boldsymbol{Q}}}^t}{{({{{\boldsymbol{K}}}^t})}^{\rm{T}}})}}{{\sqrt {{d_{\text{k}}}} }}{{{\boldsymbol{V}}}^t} .$

通过与1.2节类似的做法，将多头注意力平行运算h次并且串联，表达式为

(13) $ {{\boldsymbol{C}}_i}{\rm{ = Co}}{{\rm{n}}_i}({\bf{hea}}{{\bf{d}}_1},{\bf{hea}}{{\bf{d}}_2},\cdots,{\bf{hea}}{{\bf{d}}_h}) \in {{\bf{R}}^{N \times d}}, $

(14) $ {{\boldsymbol{H}}_{{\rm{spa}}}} = \left[ {{{\boldsymbol{C}}_1},{{\boldsymbol{C}}_2},\cdots,{{\boldsymbol{C}}_i},\cdots,{{\boldsymbol{C}}_{{T_{{\rm{obs}}}}}}} \right] .$

此处的Con_i作用是将所有车辆（n = 1, 2 $, \cdots , $ N）的空间交互行为在时刻i进行串联. 图多头注意力在考虑车辆欧氏距离的同时，也处理了车辆之间复杂的场景拓扑关系，因此图多头注意力机制能够清晰地反映目标车辆与周围车辆、周围车辆之间的逻辑关系，有助于空间要素的查询.

$ {{\boldsymbol{H}}_{{\text{tep}}}} \in {{\bf{R}}^{N \times {T_{{\text{obs}}}} \times d}} $仅包含了车辆i在所有观测时间内的时间关联性， $ {{\boldsymbol{H}}_{{\text{spa}}}} \in {{\bf{R}}^{N \times {T_{{\text{obs}}}} \times d}} $仅包含了在t时刻的车辆空间交互关系. 为了能够提取互补特征，并除去特征数据中的冗余，以得到同时具有时间关联性和空间交互性的特征信息，提出门控特征融合模型，将H_tep与H_spa进行特征融合，以准确提取时空特征.

特征融合的示意图如图2所示， ${{\boldsymbol{H}}_{{\text{tep}}}} = \left[ {\boldsymbol{h}}_{{\text{tep}}}^1,{\boldsymbol{h}}_{{\text{tep}}}^2,\cdots , {\boldsymbol{h}}_{{\text{tep}}}^{{T_{{\text{obs}}}}} \right]$， $ {{\boldsymbol{H}}_{{\text{spa}}}} = \left[ {{\boldsymbol{h}}_{{\text{spa}}}^1,{\boldsymbol{h}}_{{\text{spa}}}^2,\cdots, {\boldsymbol{h}}_{{\text{spa}}}^{{T_{{\text{obs}}}}}} \right] $. 将h_tep和h_spa按照时间维度进行融合，表达式为

(15) $ \begin{split} {{\boldsymbol{F}}_{\rm{f}}^t} =\;&{{\boldsymbol{h}}_{{\text{spa}}}^t} \otimes {\text{Gate}}\left[ {{{\boldsymbol{h}}_{{\text{tep}}}^t} \oplus {{\boldsymbol{h}}_{{\text{spa}}}^t}} \right] \oplus \\ \;&{{\boldsymbol{h}}_{{\text{tep}}}^t} \otimes {\text{Gate}}\left[ {({{\boldsymbol{h}}_{{\text{tep}}}^t} \oplus {{\boldsymbol{h}}_{{\text{spa}}}^t}} \right] , \end{split} $

(16) $ {\boldsymbol{F}^t} = {\text{Gate}}\left( {{{\boldsymbol{F}}_{\rm{f}}^t} \oplus {\boldsymbol{F}}^{t - 1}} \right). $

式中： $\otimes $为按元素相乘， $\oplus $为concat操作. Gate(·)函数表达式如下：

(17) $ {\text{Gate}}({\boldsymbol{x}}){\text{ = }}\sigma \left\{ {{\text{ML}}{{\text{P}}_{\text{G}}}\left[ {{\text{Leakyrelu(}}{\boldsymbol{x}}{\text{)}}} \right]} \right\}. $

式中：MLP_G(x)为多层感知机（multilayer perceptron，MLP），MLP_G(x)的具体作用是将输入变量与输出按照 $ {\boldsymbol{x}} \in {{\bf{R}}^{a \times 2b}} \to {\text{ML}}{{\text{P}}_{\text{G}}}({\boldsymbol{x}}) \in {{\bf{R}}^{a \times b}} $方式进行维度变换，实现特征按元素相乘时维度一致；σ与Leakyrelu分别为sigmoid和Leaky Relu激活函数.

在融合结束后，将 $ \left[ {{\boldsymbol{F}}^1,{\boldsymbol{F}}^2,\cdots , {\boldsymbol{F}}^{T_{{\text{obs}}}}} \right] $分割成 $ \left[ {{{\boldsymbol{N}}_{1,t}},{{\boldsymbol{N}}_{2,t}},\cdots , {{\boldsymbol{N}}_{n,t}},\cdots , {{\boldsymbol{N}}_{N,t}}} \right] $，再将 $ {{\boldsymbol{N}}_{n,t}} \in {{\bf{R}}^{{T_{{\text{obs}}}} \times d}} $传至LSTM_d,n(·)以生成未来行驶轨迹，表达式为

(18) $ {{\boldsymbol{h}}_{n,t}} = {\text{LST}}{{\text{M}}_{{\text{d}},n}}({{\boldsymbol{h}}_{n,t - 1}},{{\boldsymbol{N}}_{n,t}};{{\boldsymbol{W}}_{\text{d}}}) . $

式中：W_d为图1中循环模块的LSTM可学习参数. 将 $ \left[ {{{\boldsymbol{h}}_{1,{T_{{\text{obs}}}}}},{{\boldsymbol{h}}_{2,{T_{{\text{obs}}}}}},\cdots ,{{\boldsymbol{h}}_{n,{T_{{\text{obs}}}}}},\cdots ,{{\boldsymbol{h}}_{N,{T_{{\text{obs}}}}}}} \right] $传至LSTM_d,n(·)获得 $\left[ {{\boldsymbol{h}}_{1,{T_{{\text{obs}}+1}}}},{{\boldsymbol{h}}_{2,{T_{{\text{obs}}+1}}}},\cdots ,{{\boldsymbol{h}}_{n,{T_{{\text{obs}}+1}}}},\cdots , {{\boldsymbol{h}}_{N,{T_{{\text{obs}}+1}}}} \right]$直至t = T_pre. 最后将LSTM_d,n(·)的结果传输至MLP中，循环生成目标车辆的预测轨迹 $ Y_{{\text{pre}}}^t = \left\{ {s_{{\text{pre}}}^t,l_{{\text{pre}}}^t} \right\} $.

本研究目的是最小化预测轨迹 $ Y_{{\text{pre}}}^t $与真实轨迹 $ Y_{{\text{gro}}}^t $之间的差值，因此采用2-范数描述损失函数，表达式为

(19) $ L = \frac{1}{{{T_{{\text{pre}}}} - {T_{{\text{obs}}}}}}\sum\limits_{t = {T_{{\text{obs}}}}}^{{T_{{\text{pre}}}}} {{{\left\| {Y_{{\text{pre}}}^t - Y_{{\text{gro}}}^t} \right\|}^2}}. $

验证所设计的模型在直线道路、十字路口以及环岛道路场景的性能，其中直线道路对应NGSIM中US-101和I-80子数据集，十字路口对应NGSIM中Peachtree Street和Lankershim Boulevard子数据集，环岛对应INTERACTION Roundabout子数据集. 将每种数据集以0.7∶0.1∶0.2的比例分割为训练集、验证集和测试集. 设置采样频率为5 Hz，每条轨迹被分为8 s的片段，其中3 s用于神经网络理解，5 s用于预测未来轨迹. 环岛每条轨迹被分为4 s的片段，其中1 s用于神经网络理解，3 s用于预测未来轨迹. 须注意的是，在计算空间注意力中，数据集中存在着N不一致的问题. 为了便于批量操作，本研究规定，若目标车辆的周围车辆小于10辆，则补足至10辆，多余的车辆为距离目标车辆−9999 （距离无穷远）的虚拟车辆.

在衡量方式上，为了能够更加直观地描述实验现象，将Frenet坐标系转换回笛卡尔坐标系. 在评估方式上，使用均方根误差（root mean square error， RMSE）来评估模型的性能.

在本研究中，周围车辆选取范围为长度L_x（以目标车辆为中心，前后各L_x/2），宽度为L_y（根据不同的道路，L_y选择为3条车道的宽度）的矩形空间范围. 如图3(a)所示，若有车辆的中心位于目标车辆的空间范围内，则被判定为周围车辆. 在城市十字路口场景下，如图3(b)所示，将驶出道路与驶入道路以圆弧相连，以此建立Frenet坐标系，S轴的方向为车辆前进方向，并将笛卡尔坐标系中L_x长度映射在Frenet坐标系的S坐标上. 如图3(c)环岛场景所示，Frenet S坐标为驶入道路与环岛的连线.

本研究所搭建的模型采用pytorch 1.8.1平台实现，网络设置d = 32，d_v = d_k = 8，设置时间MHA和图MHA中的多头为h = 4，堆叠为2层，循环模块中MLP为2层，隐藏层大小分别为16和8，样本批量设置为64，并对模型训练200个周期. 采用学习率为0.001的Adam优化器. 实验的硬件环境为Win10 操作系统，Intel Core i7-10750H CPU @ 2.60 GHz，内存为32 GB，使用NVIDIA GeForce RTX 2070 GPU进行训练过程神经网络加速.

周围车辆的数量影响着模型的预测性能，因此在确定相邻车辆的数量时，须选择最合适的长度L. 本研究分别对L=50、55、60、65、70 m 5种情况进行消融实验. 消融实验采用NGSIM高速公路数据集进行训练与验证，其结果如表1所示.表中，RMSE表示均方根误差，t_e表示预测时域. 可以看出，当L固定为60 m时RMSE最低. 因此在下文的实验中将L设置为 60 m. 同样的，在十字路口或圆环道路曲线路段的场景下，将L = 60 m作为Frenet坐标系变换的基础.

进一步地，为了研究门控特征融合模块对预测性能的影响，同样采用NGSIM高速公路数据集进行消融实验. 将H_tep与H_spa分别单独传输至解码端的模型记为模型1和模型2；H_tep与H_spa按元素相加的模型记为模型3；搭载门控特征融合模块的模型记为模型4. 实验结果如表2所示，模型1、2缺少时间或空间注意力一部分特征，与模型4相比，两者的预测精度分别降低了10.07%与8.14%，说明缺少任何一维的特征都会使预测精度急剧下降；而将同样输入有时空特征的模型3与模型4相比，模型4精度比模型3的提高了5.98%，说明门控特征融合能够有效提取互补时空特征.

将所搭建的模型(TSMHA)与对比模型进行训练与验证. 其中，对比模型如下：Vanilla LSTM (V-LSTM)，V-LSTM 为单输入-单输出模型，未考虑与周围车辆的交互；CS-LSTM^[11]和S-GAN^[12]，两者为考虑车辆交互的深度学习模型；MATF^[25]、STA^[16]、SIT^[1]和PIP^[26]，为注意力机制轨迹预测所提出的最新方法. 对比结果如表3所示.

直线道路实验使用的为高速公路数据集，由结果可知，与SIT、MATF和PIP等模型相比，本研究提出的TSMHA在短预测时域（1~2 s）的RMSE能与最新方法的较接近，并在中长预测时域（3~5 s）能够得到更低的RMSE. 3 s的中预测时域的结果表明，只有SIT、PIP与TSMHA的RMSE小于2.0；在5 s的预测时域下，只有TSMHA将RMSE控制在4.0以下. 在定量分析结果上，与CS-LSTM和SIT相比，TSMHA的RMSE分别降低了8.70%和2.72%.

如图4(a)、(b)所示为高速公路场景下直行与变道的可视化轨迹图. 可以看出，无论是在直行还是变道，本研究提出的TSMHA均能够精确预测观测场景中目标车辆的运动轨迹.

城市道路采用与高速公路相同的对比模型. 将城市道路数据集分别放入对比模型与TSMHA中进行训练与验证，结果如表4所示. 可以看出，TSMHA的1~5 s的平均RMSE相对于CS-LSTM与PIP，分别降低了15.64%与5.81%，说明本研究设计的TSMHA能够适应城市道路场景，并作出高精度的预测. 城市道路的预测精度整体不如高速公路的精确度，主要是因为城市道路路况比高速公路复杂，从而导致车辆之间的交互关系也更为复杂.

Peachtree Street和Lankershim Boulevard子数据集不仅包括十字路口转向数据段，还包括城市道路中的直行与变道情况，如图5(a)~(c)所示分别展示了车辆在城市道路中直行、左转以及右转的轨迹预测. 可以看出，整体上TSMHA能够较好地预测未来轨迹. 如图5(b)所示为车辆左转的场景，TSMHA预测的未来轨迹与真实轨迹相近. 在转向案例的结果分析过程中，会出现一部分预测轨迹不准确的情况. 例如，如图5(c)所示为车辆右转的场景，相对于真实轨迹，预测轨迹速度更快，且预测轨迹距离真实轨迹横向更远. 造成这种现象的原因，除了TSMHA本身预测的误差，可能存在着其他道路使用者干扰车辆正常行驶的情况，例如行人横穿马路.

为了进一步验证本研究的模型具有处理复杂交通路况的能力，在INTERACTION Roundabout子数据集中进行训练与验证. 如表5所示为本模型与其余对比模型在环岛场景下的比较结果. 可以看出，相对于CS-LSTM与PIP，TSMHA的预测精度分别提高了31.4%与13.7%. 对比高速公路数据集和城市道路数据集，TSMHA在环岛数据集的RMSE有所提高，但性能仍然优于对比模型. 如图6所示为车辆驶入环岛与在环岛中行驶的可视化示意图. 可以看出，无论车辆在预测之前是否已进入环岛，TSMHA都能够较好地预测轨迹.

注意力权重能够反映一个元素对其他元素的重要程度. 为了进一步分析本研究所提出模型的性能，将时间注意力和空间注意力的最后一层注意力分布可视化，结果如图7(a)、(b)所示. 图中，整数n为时间步长 ，所对应的时刻为t = T_obs−0.2×n；id表示车辆编号；A_t、A_s分别为时间、空间上的归一化注意力值. 由图7(a)可以看出，距离当前时刻越近，注意力权重越大；距离当前时刻越远，注意力权重越低. 结果说明，未来轨迹取决于当前时刻与过去一段时间内的行驶轨迹. 由图7(b)可以看出，车辆之间距离越近，注意力权重越高. 上述2个结果与真实道路结果一致，说明TSMHA符合真实交通逻辑，并且能够有效地捕获车辆的时间依赖性与车辆之间在空间维度的交互.

本研究针对注意力机制轨迹预测中出现的时空维度处理不足所造成的预测精度较低的问题，提出基于时空融合的多头注意力车辆轨迹预测模型. 在时间维度上，采用时间多头注意力机制解决时间依赖性；在空间维度上，采用图多头注意力机制处理车辆之间的交互关系. 为了进一步地去除特征融合中的冗余信息，设计了门控特征融合模型以获取互补特征，改善时空特征融合的输出结果. 在NGSIM和INTERACTION上进行训练与验证，结果表明，与现有的主流算法相比，所搭建的TSMHA在高速公路、城市十字路口以及环岛上的预测精度显著提高. 随着轨迹预测模型应用场景的扩大以及深入，在后续工作中可以将其他道路参与者引入预测模型，以及引入高架桥、立交桥、隧道等三维道路场景.