随着市场对软件安全需求的提升，针对软件漏洞的检测成为该领域的研究热点^[1]. 近年来，国内外学者提出使用静态测试和动态分析的方法对源代码漏洞进行检测与分析. 动态分析在面对大型复杂软件系统的漏洞时，存在检测率较低的问题. 与动态分析相比，静态测试能够在不实际运行程序的情况下发现源代码中的安全漏洞，解决了动态分析无法完全覆盖所有代码的问题，得到了研究者的高度重视. 静态测试主要包括模式匹配^[2]、规则检查^[3]和基于学习的方法^[4]. 模式匹配和规则检查严重依赖人工，对未定义的漏洞模式缺乏识别能力. 利用基于学习的方法，能够有效避免因人工定义导致的漏洞模式不全的问题，该方法成为静态测试的主要手段之一.

Li等^[5]利用双向长短时记忆网络检测漏洞，但其严重依赖上下文，捕获长距离依赖关系的能力有限. 为了提取更丰富的语法和语义信息，SySeVR扩充了4种漏洞语法规则^[6]. 上述方法只在源代码层面提取漏洞特征，缺乏对底层逻辑的有效提取. Li等^[7]从中间代码表示（IR）中提取特征，构建样本切片和代码语句之间的关联，实现了细粒度检测. 将IR视为纯文本会影响模型对程序底层逻辑的学习，且过短的切片不利于漏洞信息的远距离传播. Wu等^[8-9]分别采用卷积神经网络和图神经网络（graph neural network, GNN）提取特征，取得了更高的准确率，但传统GNN对异质图的泛化能力不足. Wang等^[10-11]采用改进的GNN，通过拼接方式融合异构依赖关系. 拼接会使得依赖层异质性缺失，降低漏洞模式的自适应能力.

针对上述问题，本文提出基于异构图表征的源代码漏洞检测方法（vulnerability detection based on heterogeneous graph, VulHetG）. 生成源代码对应的IR，提取8种指令级别的特征用于代替源代码特征空间构造，解决了源代码底层信息缺失导致的检测率低的问题. 分别在PDG的节点层和依赖层构建基于图注意力网络（graph attention network, GAT）和自注意力的分层聚合机制，考虑每个异构因子的重要性. 通过调整注意力系数来提高关键节点的权重，降低因传统切片引起的长距离依赖损失. 在合成数据集和真实数据集上的实验结果表明，VulHetG在合成数据集上的准确率较5种基线方法分别提高了1%、1.3%、2%、17.5%和26.3%，在真实数据集上的准确率较3种基线方法分别提高了7%、38%和45.5%.

基于规则的检测方法通过预定义的漏洞规则，对源代码文件进行遍历和匹配，找到潜在的漏洞威胁，但此类方法对漏洞规则具有很强的依赖性. 检测工具PMD^[12]涵盖了编码规范、设计原则和安全漏洞等规则，以应对复杂的代码场景. 工具SonarQube^[13]在可靠性、适用性方面进行了提升，不仅提供了多维度的代码质量评估，而且支持多种编程语言的检测任务. 基于学习的检测方法分为基于机器学习和基于深度学习的检测方法. Perl等^[14]将GitHub提交记录映射到已知漏洞，使用支持向量机来标记可能存在漏洞的样本，但该方法在实际检测中存在较高的假阳性率. 相比之下，基于深度学习的方法更有利于深层次特征的提取.

基于深度学习的检测方法通常采用Token或图形的方式对源代码进行表征. μVulDeePecker^[15]在VulDeePecker^[5]的基础上引入代码小工具来细化漏洞特征提取，获得了多类型漏洞检测能力. 相比于Token，图表征对代码结构的表达更加清晰和显式化. Feng等^[16]验证了多种GNN模型，获得了优于Token表征的检测结果，但GNN难以充分提取图表征中的异构信息. 徐泽鑫等^[17]通过解耦、融合的方式获得了高质量特征，并利用距离损失放大漏洞样本的差异性降低了误报率. 程靖云等^[18]以不相交图的形式拼接子图，采用多头图注意力网络（multi-head graph attention network, MHGAT）跨图层传递信息，有效提取了图数据异构特征. 以上方法虽然考虑了图数据异构性，但存在特征分布稀疏问题. Wang等^[10]利用门控图神经网络（gated graph neural network, GGNN），在表示特定依赖的子图之间提取异构特征，Fan等^[11]采用圆形GGNN融合张量中的异构信息. 虽然这2种方法对图数据异构特征的考虑更深入，但缺乏对异构元素的独立提取和重要性评估，导致隐秘的漏洞节点和边在聚合过程中被忽视. 本文针对异构特征提取不充分的问题，提出基于异构图的源代码漏洞检测方法.

VulHetG方法的整体框架如图1所示，分为4个部分：表征构建、特征嵌入、节点层聚合、依赖层聚合与漏洞检测.

如图1（a）所示，本文通过底层虚拟机（low-level virtual machine, LLVM）编译器前端Clang^[19]，生成中间代码LLVM-IR^[20]和AST，利用Pass^[21]提取依赖信息以生成PDG.

为了解决底层信息提取不足的问题，从Mirsky等^[22]提供的C/C++项目中，提取8种指令级特征：节点编号、内置函数、静态赋值、操作指令、条件分支、变量、变量类型、原函数. 以8种指令级特征之一的“操作指令”为例，与源代码信息进行对比，如表1所示.

“操作指令”具有确定数量的特征项，通过指令名称可以精确地描述程序的运行逻辑，例如load、store和alloca清晰地描述了内存的读取、存储和分配. 这8种指令级特征是通过统计所有项目中的LLVM-IR指令并对其分类后得到，它们与程序运行逻辑密切相关，能够覆盖的漏洞范围超过了4种漏洞语法规则^[6].

为了将特征作用到PDG的每个节点中，设计特征嵌入算法，相关定义如下.

定义1　源代码. ${{P}} = \{ {p_1},{p_2},{p_3},\cdots ,{p_n}\} $，其中${p_i}\left( {1 \leqslant i \leqslant n} \right)$表示源代码中的一条语句，由一组令牌序列构成，包括变量标识符、函数标识符、常量、关键字及运算符.

定义2　漏洞语法规则. ${{R}} = \left\{ {{r_k}} \right\}$，$1 \leqslant k \leqslant 4$. 其中${{R}}$表示4种语法规则，${r_1}$表示API/库函数调用，${r_2}$表示指针调用，${r_3}$表示算数表达式，${r_4}$表示数组操作.

定义3 指令级特征. ${{L}} = \left\{ {{l_m}} \right\}$，$1 \leqslant m \leqslant 8$. 其中${{L}}$表示从LLVM-IR中提取的8种指令级特征：节点编号、操作指令、内置函数、静态赋值、条件分支、变量、类型、原函数.

定义4 嵌入后的PDG. 嵌入特征的图数据用${{G}} = \left\{ {{{\boldsymbol{f}}_{\text{T}}},{{\boldsymbol{M}}_{{\text{DDG}}}},{{\boldsymbol{M}}_{{\text{CDG}}}}} \right\}$表示，其中$ {{\boldsymbol{f}}_{\text{T}}} $为特征张量，${{\boldsymbol{M}}_{{\text{DDG}}}}$和${{\boldsymbol{M}}_{{\text{CDG}}}}$为数据依赖和控制依赖的邻接矩阵.

为了将特征作用于PDG的节点，VulHetG将从LLVM-IR提取的8种指令级特征嵌入到PDG节点中，具体嵌入过程如算法1所示.

算法1 特征嵌入算法

输入：源代码${{P}}$、语法规则${{R}}$、指令级特征${{L}}$

输出：${{G}} = \left\{ {{{\boldsymbol{f}}_{\text{T}}},{{\boldsymbol{M}}_{{\text{DDG}}}},{{\boldsymbol{M}}_{{\text{CDG}}}}} \right\}$、集合${{{N}}_{\text{G}}}$

1） 根据${{P}}$生成PDG和LLVM-IR，PDG节点集合为${{N}}$，单个节点${n_i} \in {{N}}$.

2） ${{\boldsymbol{M}}_{{\text{DDG}}}} \leftarrow $提取PDG中的数据依赖关系.

3） ${{\boldsymbol{M}}_{{\text{CDG}}}} \leftarrow $提取PDG中的控制依赖关系.

4） ${{\boldsymbol{f}}_{\text{T}}} \leftarrow \varnothing $，${{{N}}_{\text{G}}} \leftarrow \varnothing $

5） for each ${n_i} \in {{N}}$ do：

6） 　${f_i} \leftarrow \varnothing $

7） 　${\text{I}}{{\text{R}}_i} \leftarrow $LLVM-IR中${n_i}$对应的片段

8） 　for each ${l_m} \in {{L}}$ do：

9）　　 ${f_i} \leftarrow {f_i} \oplus {{\mathrm{Word}}} {\mathrm{2Vec}}\left( {{\text{I}}{{\text{R}}_i} \cap {l_m}} \right)$

10）　 end for

11）　 ${{\boldsymbol{f}}_{\text{T}}} \leftarrow $堆叠$\left( {{{\boldsymbol{f}}_{\text{T}}},{f_{{{\mathrm{i}}}}}} \right)$

12） 　if ${n_i} \in {{R}}$ then

13）　　 ${{{N}}_{\text{G}}} \leftarrow {{{N}}_{\text{G}}} \cap {n_i}$

14）　 end if

15）end for

16）return ${{G}} = \left\{ {{{\boldsymbol{f}}_{\text{T}}},{{\boldsymbol{M}}_{{\text{DDG}}}},{{\boldsymbol{M}}_{{\text{CDG}}}}} \right\}$，${{{N}}_{\text{G}}}$

步骤1）表示准备阶段，根据源代码生成对应的PDG和LLVM-IR.

步骤2）、3）表示生成阶段，提取PDG中不同的依赖关系，构建数据依赖图（data dependency graph, DDG）和控制依赖图（control dependency graph, CDG）对应的邻接矩阵.

步骤4）~11）表示嵌入阶段，先为图数据定义特征空间$ {{\boldsymbol{f}}_{\text{T}}} $和节点候选集${{{N}}_{\text{G}}}$，然后遍历PDG节点，在每个节点对应的LLVM-IR片段${\text{I}}{{\text{R}}_i}$上提取${{L}}$中的特征，共得到8个不同的特征值. 利用Word2Vec算法将每个特征值转化为一维向量，再将它们拼接成1个完整的一维向量作为节点特征${{\boldsymbol{f}}_i}$的填充. 最后，将所有的节点嵌入堆叠成1个二维张量，将它作为图数据特征空间$ {{\boldsymbol{f}}_{\text{T}}} $的填充.

步骤12）~14）为关键节点提取阶段，根据漏洞语法规则${{R}}$，在遍历过程中提取符合语法规则的节点，并纳入候选集${{{N}}_{\text{G}}}$中.

步骤16）为输出阶段，返回嵌入后的图${{G}}$和节点集${{{N}}_{\text{G}}}$.

PDG经过特征嵌入，输出图${{G}}$和节点集${{{N}}_{\text{m}}}$，先将${{G}}$切分为${{{G}}_1}$和${{{G}}_2}$：

(1)$ {{{G}}_1} = \left\{ {{{\boldsymbol{f}}_{\text{T}}},{{\boldsymbol{M}}_{{\text{DDG}}}}} \right\} , $

(2)$ {{{G}}_2} = \left\{ {{{\boldsymbol{f}}_{\text{T}}},{{\boldsymbol{M}}_{{\text{CDG}}}}} \right\} . $

在节点聚合层，${{{G}}_1}$和${{{G}}_2}$的聚合过程相同，这里以${{{G}}_1}$为例进行说明. GAT先依据${{\boldsymbol{M}}_{{\text{DDG}}}}$确定存在依赖关系的节点$i$和$j$，再依据$i$和$j$分别在$ {{\boldsymbol{f}}_{\text{T}}} $中计算两点之间的注意力系数${e_{ij}}$：

(3)$ {e_{ij}} = {\boldsymbol{a}}^{\mathrm{T}}\left( {{\boldsymbol{W}} {{\boldsymbol{h}}_i} \oplus{\boldsymbol{W}} {{\boldsymbol{h}}_j}} \right) . $

式中：${{\boldsymbol{h}}_i}$和${{\boldsymbol{h}}_j}$分别为节点$i$和$j$的特征向量，${\boldsymbol{a}}$和${\boldsymbol{W}}$分别为可学习的系数向量和权重矩阵. 为了提高${{{N}}_{\text{G}}}$中节点在聚合过程中的关注度，对相关的注意力系数进行调整.

(4)$ \tau \left[ j \right] = \left\{ \begin{aligned} &{{{\text{2，}}j \in {{{N}}_{\text{G}}}}} ；\\&{{\text{1，其他.}}}\end{aligned}\right. $

(5)$ {e_{ij}} = \tau \left[ j \right] \cdot {e_{ij}}. $

式中：$ \tau $为调整系数. 在本文的设计中，当节点$j$属于${{{N}}_{\text{G}}}$（符合4种漏洞语法规则的节点集）时，$ \tau = 2 $，即${e_{ij}}$变为原来的2倍，从而在GAT网络聚合邻域信息时，提高对节点$j$的关注度；反之，则保持原来的${e_{ij}}$不变. 该注意力系数调整方法借鉴了可解释性的研究工作^[23]，利用干预学习中的权重调整操作，对重要节点的注意力系数进行倍数扩大来提高重要节点的聚合权重. 式（6）的归一化计算保证了系数调整的合理性：

(6)$ {\alpha _{ij}} = \frac{{\exp \left( {{{\mathrm{LeakyReLU}}} \left( {{e_{ij}}} \right)} \right)}}{{\displaystyle \sum\nolimits_{v \in {{N}}\left( i \right)} {\exp \left( {{{\mathrm{LeakyReLU}}} \left( {{e_{iv}}} \right)} \right)} }}. $

式中：${{N}}\left( i \right)$为节点$i$的所有邻居节点集合；${{\mathrm{LeakyReLU}}} $为非线性激活函数；exp为指数函数，作用是放大注意力系数之间的差异. 在得到节点的${\alpha _{ij}}$后，计算多头注意力的输出结果，得到节点$i$的更新向量表示：

(7)$ {{\boldsymbol{h}}_i}^\prime = {\text{ }}\mathop \parallel \nolimits_{k = 1}^K \sigma \left( {\sum\limits_{j \in N\left( i \right)} {\alpha _{ij}^k{{\boldsymbol{W}}^k}{{\boldsymbol{h}}_i}} } \right) . $

式中：$\sigma $为激活函数，$K$为注意力头个数，$\alpha _{ij}^k$和${{\boldsymbol{W}}^k}$分别为第$k$个注意力头对应的权重和线性变换矩阵，${{\boldsymbol{h}}_i}^\prime $为更新后节点$i$的表示.

经过上述过程，${{G}_1}$中的所有节点向量都得到了更新，最终输出由节点向量构成的二维张量${{\boldsymbol{T}}_{{\text{DDG}}}}$. ${{G}_2}$经过和${{G}_1}$相同的过程，得到张量${{\boldsymbol{T}}_{{\text{CDG}}}}$. ${{G}_1}$和${{G}_2}$的聚合过程同时进行，GAT根据${{\boldsymbol{M}}_{{\text{CDG}}}}$和$ {{\boldsymbol{f}}_{\text{T}}} $计算${{G}_2}$中各点的注意力系数并进行调整.

为了考虑PDG各依赖关系的异构性，VulHetG基于注意力机制构建依赖聚合层. 对于节点层聚合产生的2个图张量${{\boldsymbol{T}}_{{\text{DDG}}}}$和${{\boldsymbol{T}}_{{\text{CDG}}}}$，尺寸均为（$N,D$），其中$N$为节点数，$D$为特征维度. 为了聚合张量${{\boldsymbol{T}}_{{\text{DDG}}}}$和${{\boldsymbol{T}}_{{\text{CDG}}}}$，计算${{\boldsymbol{T}}_{{\text{DDG}}}}$和${{\boldsymbol{T}}_{{\text{CDG}}}}$中的每个元素${{\boldsymbol{t}}_{{d}}}$和${{\boldsymbol{t}}_{{c}}}$间的注意力分数：

(8)$ {{\mathrm{score}}} \left( {{{\boldsymbol{t}}_d},{{\boldsymbol{t}}_c}} \right) = \frac{{{{\boldsymbol{t}}_d} \cdot {{ {{{\boldsymbol{t}}_c}} }^{\text{T}}}}}{{\sqrt D }} . $

式中：${{\boldsymbol{t}}_{{d}}}$和${{\boldsymbol{t}}_c}^{\text{T}}$的点积为注意力分数. 利用注意力权重，对${{\boldsymbol{t}}_{{d}}}$进行更新：

(9)$ {{\boldsymbol{t}}_d}^\prime = \sum\limits_{c = 1}^D {{{\mathrm{softmax}}} \left( {{{\mathrm{score}}} \left( {{{\boldsymbol{t}}_d},{{\boldsymbol{t}}_c}} \right)} \right) \cdot {{\boldsymbol{t}}_c}} . $

将softmax归一化的权重矩阵与对应的元素${{\boldsymbol{t}}_c}$相乘得到加权向量，最终得到元素${{\boldsymbol{t}}_d}$的更新${{\boldsymbol{t}}_d}^\prime $. 对于${{\boldsymbol{T}}_{{\text{CDG}}}}$中的元素${{\boldsymbol{t}}_c}$，以相同的方式更新：

(10)$ {{\boldsymbol{t}}_c}^\prime = \sum\limits_{d = 1}^D {{{\mathrm{softmax}}} \left( {{{\mathrm{score}}} \left( {{{\boldsymbol{t}}_c},{{\boldsymbol{t}}_d}} \right)} \right) \cdot {{\boldsymbol{t}}_d}} . $

据此，${{\boldsymbol{T}}_{{\text{DDG}}}}$和${{\boldsymbol{T}}_{{\text{CDG}}}}$都对各自的元素进行了更新，得到新的张量表示${{\boldsymbol{T}}_{{\text{DDG}}}}^\prime $和${{\boldsymbol{T}}_{{\text{CDG}}}}^\prime $. 通过拼接的方式将二者融合，融入节点层和依赖层异构特征的张量为

(11)$ {\boldsymbol{T}} = {{\boldsymbol{T}}_{{\text{DDG}}}}^\prime \oplus {{\boldsymbol{T}}_{{\text{CDG}}}}^\prime . $

在检测阶段，针对融合张量$ {\boldsymbol{T}}(N,2D) $构建分类任务. 因数据样本包含的节点数不同，导致维度$N$不同，为此计算${\boldsymbol{T}}$的均值，并按顺序裁剪.

(12)$ {{S}} =\left\{\frac{1}{{2D}}\sum\limits_{y = 1}^{2D} {{{{t}}_{xy}}}\right\} {\text{； 1}} \leqslant x \leqslant N .$

(13)$ {\boldsymbol{T'}} = {\boldsymbol{T}}\left[ {{\text{SelectTopN}}\left( {{{S}},n} \right)} \right] .$

式中：${{\boldsymbol{t}}_x}$为${\boldsymbol{T}}$中的向量，${t}_{xy}$为${{\boldsymbol{t}}_x}$中的元素；${{S}}$为由${{\boldsymbol{t}}_x}$各元素的均值构成的集合；${{\mathrm{SelectTopN}}} $操作用来筛选最大的前$n$个元素；$n$为200，表示将每个图的节点数控制为200.

根据异构图表征的特性，设计有效的漏洞检测模型，具体结构如图2所示.

在节点层，调整部分节点的注意力系数，得到权重矩阵${{\boldsymbol{W'}}_i}$和${{\boldsymbol{W}}_i}^{\prime \prime }$（$1 \leqslant i \leqslant n$），其中$n$为网络层数. 为了减小传递误差，采用3个注意力头，利用Dropout正则化技术，减小模型对特定样本的依赖. 在依赖层，计算CDG和DDG各自的注意力权重，将二者加权融合. 漏洞检测模块由全连接层和Softmax激活层构成，融合的张量特征在该阶段被深度提取. 采用交叉熵损失函数计算损失.

实验采用2个合成数据集和2个真实数据集. 合成数据集包括自建数据集和SySeVR数据集，真实数据集包括Devign和REVEAL^[24].

1）自建数据集：从合成漏洞数据库SARD和NVD中提取28 830条C/C++数据样本，共生成15710个PDG样本，包括纯净PDG样本9 887个，10类漏洞PDG样本共5 823个. CWE-ID具有类似树形结构的层次，层次越高表示漏洞场景越广泛. 在第3层挑选发生几率最高的10个CWE-ID进行实验.

2）SySeVR数据集：该数据集基于SARD漏洞库，根据4种漏洞语法规则切片得到. 这4种语法规则分别是AE（算术表达式）、AU（数组使用）、FC（API/库函数调用）、PU（指针操作）. 由于语法规则的广泛适应性，该数据集能够覆盖93.6%以上的漏洞场景.

3）真实数据集：REVEAL是从2个开源项目的历史漏洞中构建的数据集，其对内存管理、输入验证相关的漏洞具有较强的覆盖能力. Devign是从4个开源的C语言项目中构建的数据集，结合多种代码表示，提供了全面的漏洞语义信息.

在合成数据集上，采用准确率Acc、精度P、F₁和召回率R作为评价指标. 在真实项目数据集上，采用误报率FPR和漏报率FNR进行评价.

(14)${\mathrm{ Acc = \frac{{TP+TN}}{{TP+TN+FN+FP}} }}, $

(15)$ P ={\mathrm{ \frac{{TP}}{{TP+FP}} }}, $

(16)$ R = {\mathrm{\frac{{TP}}{{TP+FN}}}} , $

(17)$ {F_1} = 2 \times \frac{{PR}}{{P+R}} , $

(18)$\rm FPR = \frac{{FP}}{{FP+TN}} , $

(19)$ \rm FNR = \frac{{FN}}{{FN+TP}} . $

式中：TP为正样本被正确预测的数量，TN为负样本被正确预测的数量，FP为正样本被错误预测的数量，FN为负样本被错误预测的数量.

为了验证VulHetG对各类型漏洞的检测能力，在包含10类漏洞的数据集上进行实验验证，结果如表2所示.

从表2可以看出，涉及内存管理错误的3类漏洞CWE-476、CWE-119和CWE-404的平均Acc和F₁最高，达到96.6%和96.9%. 原因是VulHetG从中间代码维护了丰富的内存信息，导致模型对错误的内存操作较敏感. 例如，当发生越界访问时，内存操作指令将错误的参数机器码传递给处理器，返回实际分配之外的地址，并在中间代码中以变量符的形式反映出来，有助于模型学习漏洞特征.

CWE-311和CWE-704是由加密和身份验证引发的漏洞，Acc相差约9.2%. 这是因为CWE-704漏洞的发生与跨平台的类型转换有关，而中间代码的llvm.module.flags内置函数具有定义目标平台数据布局的功能，有利于CWE-704漏洞特征的提取.

从整体来看，VulHetG对10类具有代表性的漏洞平均检测Acc和F₁分别达到94.9%和95.1%，这表明VulHetG对涉及内存、输入验证、资源管理和权限管理的常见漏洞普遍具有较高的检测能力.

资源管理错误漏洞CWE-399和缓冲区溢出漏洞CWE-119在引发方式方面具有一定的代表性. 为了验证VulHetG特征提取方式的有效性，通过实验对比了5种基线模型，结果如表3所示. 表中，DT为单个样本的平均检测时间.

从表3可以看出，VulHetG在2类漏洞上的Acc达到94%和96%，高于双通道模型mVulSniffer^[25]. 这可能是因为在中间代码中，变量在每次参与运算时都会附带完整的变量信息，且会用地址指针代替变量作为传参，在多数情况下，模型只需要跨越很短的距离就可以提取依赖关系.

VulHetG模型的检测指标均优于VulDeePecker和SySeVR，这是因为GAT比LSTM和BGRU更适合提取图数据特征. 此外，图表征形式为VulHetG提供了更丰富的结构和依赖信息.

FUNDED和VDoTR比3种基于Token的基线方法检测用时更长，原因是图特征提取更复杂. VulHetG对CWE-399的Acc略低于VDoTR，这是因为张量表征形式的泛化能力更加稳定.

为了验证VulHetG在异构图数据处理中的有效性，在包含4种漏洞语法规则的数据集上对比5种基线方法，实验结果如表4所示.

从表4可以看出，与VulDeePecker、SySeVR和mVulSniffer方法相比，VulHetG的平均检测准确率分别提升了29.6%、19.3%和2.6%，比FUNDED和VDoTR方法的平均检测精度分别提升了1.6%和0.9%. 这是因为FUNDED和VDoTR基于GGNN网络构建模型，相比于GAT加自注意力机制的模型结构，GGNN更侧重于对长距离依赖关系的捕获. 针对某个漏洞模式中的错误节点，自注意力机制会分配更高的注意力权重，从而强化与该节点相关的依赖路径，在不同漏洞模式下的适应能力更强.

VulHetG对AE和FC漏洞的检测能力略高于AU和PU，证明VulHetG对异构特征明显的漏洞具有更强的识别能力. 原因是AE包含数据依赖，FC包含控制依赖，2种数据存在较强的异构性，而AU和PU存在几乎等量的依赖关系，因此异构程度较低. 从每个数据集的横向对比结果来看，VulHetG较门控单元和GNN更适合于异构特征的提取.

为了验证VulHetG在真实项目上的泛化能力，在真实项目数据集REVEAL和Devign上对比了方法μVulDeePecker、SySeVR和mVulSniffer. 其中，μVulDeePecker是粗粒度代码切片方法的代表，SySeVR较μVulDeePecker粒度更细，mVulSniffer方法是将粗、细2种粒度切片结合. 不同于上述3种方法，VulHetG利用注意力系数调整来代替切片操作，实验结果如表5、6所示.

从表5、6可以看出，VulHetG在Devign数据集上的检测准确率达到80.5%，略低于mVulSniffer. 这是因为 mVulSniffer在二次切片时引入函数表达式和条件分支的语法规则，在一定程度上强化了控制流的作用，但对于高度依赖数据流的隐蔽型漏洞，mVulSniffer的提升不如VulHetG明显，例如VulHetG在REVEAL上的Acc和F₁较mVulSniffer分别高了8%和11.5%.

VulHetG的平均准确率达到83.9%，较SySeVR和μVulDeePecker分别高了40%和47.3%. 这是因为采用常规预处理方式难以去除真实代码场景中的冗余信息，导致长短时记忆网络难以提取准确的漏洞语义. 相反，VulHetG的特征构建方式产生的噪声更少，且注意力调整机制保留了长距离依赖关系.

为了验证VulHetG的特征提取方法和模型各部分的有效性，在CWE-119和CWE-399数据集上设计3组消融实验，结果如表7所示.

第1组实验采用不分层的模型策略，利用单层GAT直接聚合PDG节点. 结果显示，与VulHetG相比，不分层的模型的准确率平均下降6.6%. 这是因为单层GAT网络只在节点层传递特征，导致依赖层特征提取不充分. 由于无须对PDG进行分层处理，单个样本的检测时间较VulHetG大幅度减少.

第2组实验将GAT换成GCN，Acc、P和F₁均有所下降. 原因是GCN通过邻接矩阵和特征矩阵的乘积聚合邻域信息，这种类似图上滤波的操作在处理不同类型的图结构时，无法灵活地适应节点之间的关系变化，导致真实场景下复杂的漏洞模式无法被充分学习.

在第3组实验中，将表征形式换成基于源代码嵌入的PDG，Acc平均下降4.4%. 这是因为原有的底层逻辑描述会被源代码信息干扰，其中的自定义变量、不规则的调用方式都会增加模型学习中的噪声，导致检测效果不如原模型.

除现有实验之外，本文在低层次漏洞上进行验证并取得了较好的检测效果，表明VulHetG具备提取细微特征进而发掘0day漏洞的潜力. VulHetG与传统的检测模型一样，都缺少0day漏洞标签、通用的数据集和通用的比较方案^[26-27]，使得模型对0day漏洞的检测效果尚无定论. 另外，VulHetG用于提取特征的数据模态较单一，缺乏对文档、日志、源代码等多模态数据特征的学习，对真实场景的漏洞泛化能力有待提升.

未来将尝试从真实项目中构建通用数据集，并在已有方法的基础上，采用多层注意力机制从多模态数据中提取漏洞特征，通过引入对抗样本辅助训练，获得更强的泛化能力、模型鲁棒性以及0day漏洞检测能力.