[1]
ABONIZIO H Q, DE MORAIS J I, TAVARES G M, et al Language-independent fake news detection: English, Portuguese, and Spanish mutual features
[J]. Future Internet , 2020 , 12 (5 ): 87
DOI:10.3390/fi12050087
[本文引用: 1]
[2]
ISLAM M S, SARKAR T, KHAN S H, et al COVID-19-related infodemic and its impact on public health: a global social media analysis
[J]. The American Journal of Tropical Medicine and Hygiene , 2020 , 103 (4 ): 1621 - 1629
DOI:10.4269/ajtmh.20-0812
[本文引用: 1]
[3]
BIAN T, XIAO X, XU T, et al. Rumor detection on social media with bi-directional graph convolutional networks [C]// Proceedings of the AAAI Conference on Artificial Intelligence . New York: AAAI Press, 2020: 549–556.
[本文引用: 3]
[4]
DOU Y, SHU K, XIA C, et al. User preference-aware fake news detection [C]// Proceedings of the 44th International ACM SIGIR Conference on Research and Development in Information Retrieval . [S.l.]: ACM, 2021: 2051–2055.
[本文引用: 4]
[5]
杨广浩, 万书振, 董方敏, 等 基于时间步局部动态交互的多任务谣言检测方法
[J]. 计算机工程与应用 , 2025 , 61 (6 ): 183 - 191
YANG Guanghao, WAN Shuzhen, DONG Fangmin, et al Multi-task rumor detection method based on time-step dynamic interaction
[J]. Computer Engineering and Applications , 2025 , 61 (6 ): 183 - 191
[6]
成雪, 张琛, 李清旭 基于语义增强的虚假新闻检测
[J]. 计算机应用与软件 , 2025 , 42 (2 ): 202 - 209
[本文引用: 1]
CHENG Xue, ZHANG Chen, LI Qingxu False news detection based on semantic enhancement
[J]. Computer Applications and Software , 2025 , 42 (2 ): 202 - 209
[本文引用: 1]
[7]
CHEN J, GONG Z, WANG W, et al Adversarial caching training: unsupervised inductive network representation learning on large-scale graphs
[J]. IEEE Transactions on Neural Networks and Learning Systems , 2022 , 33 (12 ): 7079 - 7090
DOI:10.1109/TNNLS.2021.3084195
[本文引用: 2]
[8]
SHANG Y, ZHANG Y, CHEN J, et al. Transferable structure-based adversarial attack of heterogeneous graph neural network [C]// Proceedings of the 32nd ACM International Conference on Information and Knowledge Management . Birmingham: ACM, 2023: 2188–2197.
[本文引用: 1]
[9]
WANG H, DOU Y, CHEN C, et al. Attacking fake news detectors via manipulating news social engagement [C]// Proceedings of the ACM Web Conference 2023 . Austin: ACM, 2023: 3978–3986.
[本文引用: 6]
[10]
LUO Y, LI Y, WEN D, et al. Message injection attack on rumor detection under the black-box evasion setting using large language model [C]// Proceedings of the ACM Web Conference 2024 . Singapore: ACM, 2024: 4512–4522.
[本文引用: 5]
[11]
ZHU P, PAN Z, LIU Y, et al. A general black-box adversarial attack on graph-based fake news detectors [C]// Proceedings of the Thirty-Third International Joint Conference on Artificial Intelligence (IJCAI 2024) . Jeju: IJCAI, 2024: 568–576.
[本文引用: 7]
[12]
LAO A, SHI C, YANG Y. Rumor detection with field of linear and non-linear propagation [C]// Proceedings of the Web Conference 2021 . Ljubljana: ACM, 2021: 3178–3187.
[本文引用: 3]
[13]
HAN Y, KARUNASEKERA S, LECKIE C. Continual learning for fake news detection from social media [C]// Artificial Neural Networks and Machine Learning – ICANN 2021 . [S.l.]: Springer, 2021: 372–384.
[本文引用: 1]
[14]
CHANDRA S, MISHRA P, YANNAKOUDAKIS H, et al. Graph-based modeling of online communities for fake news detection [EB/OL]. (2020–11–23)[2025–05–29]. https://arxiv.org/pdf/2008.06274.
[本文引用: 1]
[15]
NGUYEN V H, SUGIYAMA K, NAKOV P, et al FANG: leveraging social context for fake news detection using graph representation
[J]. Communications of the ACM , 2022 , 65 (4 ): 124 - 132
DOI:10.1145/3517214
[本文引用: 2]
[16]
邓璐, 肖克晶, 姜丹, 等 基于图同构网络的多模态虚假新闻检测
[J]. 计算机科学与应用 , 2025 , 15 (4 ): 124 - 133
DOI:10.12677/csa.2025.154085
[本文引用: 1]
DENG Lu, XIAO Kejing, JIANG Dan, et al Multimodal fake news detection utilizing graph isomorphism networks
[J]. Computer Science and Application , 2025 , 15 (4 ): 124 - 133
DOI:10.12677/csa.2025.154085
[本文引用: 1]
[17]
许莉芬, 曹霑懋, 郑明杰, 等 基于用户权威度和多特征融合的微博谣言检测模型
[J]. 计算机工程与科学 , 2024 , 46 (4 ): 752 - 760
DOI:10.3969/j.issn.1007-130X.2024.04.020
[本文引用: 2]
XU Lifen, CAO Zhanmao, ZHENG Mingjie, et al A microblog rumor detection model based on user authority and multi-feature fusion
[J]. Computer Engineering and Science , 2024 , 46 (4 ): 752 - 760
DOI:10.3969/j.issn.1007-130X.2024.04.020
[本文引用: 2]
[18]
SUN Y, WANG S, TANG X, et al. Node injection attacks on graphs via reinforcement learning [EB/OL]. (2019–09–14)[2025–05–29]. https://arxiv.org/pdf/1909.06543.
[本文引用: 2]
[19]
ZOU X, ZHENG Q, DONG Y, et al. TDGIA: effective injection attacks on graph neural networks [C]// Proceedings of the 27th ACM SIGKDD Conference on Knowledge Discovery and Data Mining . [S.l.]: ACM, 2021: 2461–2471.
[本文引用: 1]
[20]
RAMAN M, CHAN A, AGARWAL S, et al. Learning to deceive knowledge graph augmented models via targeted perturbation [C]// Proceedings of the International Conference on Learning Representations . Vienna: [s.n.], 2021: 1–13.
[21]
ZHANG M, WANG X, SHI C, et al. Minimum topology attacks for graph neural networks [C]// Proceedings of the ACM Web Conference 2023 . Austin: ACM, 2023: 630–640.
[本文引用: 2]
[22]
DOU Y, MA G, YU P S, et al. Robust spammer detection by Nash reinforcement learning [C]// Proceedings of the 26th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining . [S.l.]: ACM, 2020: 924–933.
[本文引用: 1]
[23]
HE B, AHAMAD M, KUMAR S. PETGEN: personalized text generation attack on deep sequence embedding-based classification models [C]// Proceedings of the 27th ACM SIGKDD Conference on Knowledge Discovery and Data Mining . [S.l.]: ACM, 2021: 575–584.
[24]
HORNE B D, NØRREGAARD J, ADALI S Robust fake news detection over time and attack
[J]. ACM Transactions on Intelligent Systems and Technology , 2020 , 11 (1 ): 1 - 23
DOI:10.1145/3363818
[25]
ZENG X, PENG H, LI A. Robustness evaluation of graph-based news detection using network structural information [C]// Proceedings of the 31st ACM SIGKDD Conference on Knowledge Discovery and Data Mining . [S.l.]: ACM, 2025: 3716–3727.
[本文引用: 2]
[26]
SHU K, MAHUDESWARAN D, WANG S, et al FakeNewsNet: a data repository with news content, social context, and spatiotemporal information for studying fake news on social media
[J]. Big Data , 2020 , 8 (3 ): 171 - 188
DOI:10.1089/big.2020.0062
[本文引用: 1]
[27]
MA J, GAO W, MITRA P, et al. Detecting rumors from microblogs with recurrent neural networks [C]// Proceedings of the International Joint Conference on Artificial Intelligence . [S.l.]: AAAI Press, 2016: 3818–3824.
[本文引用: 1]
[28]
PENNINGTON J, SOCHER R, MANNING C. GloVe: global vectors for word representation [C]// Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing (EMNLP) . Doha: Association for Computational Linguistics, 2014: 1532–1543.
[本文引用: 1]
[29]
WANG L, WANG Z, WU L, et al. Bots shield fake news: adversarial attack on user engagement based fake news detection [C]// Proceedings of the 33rd ACM International Conference on Information and Knowledge Management . Boise: ACM, 2024: 2369–2378.
[本文引用: 1]
[30]
KIPF T N, WELLING M. Semi-supervised classification with graph convolutional networks [EB/OL]. (2017–02–22)[2025–05–29]. https://arxiv.org/pdf/1609.02907.
[本文引用: 1]
[31]
VELICKOVIC P, CUCURULL G, CASANOVA A, et al. Graph attention networks [EB/OL]. (2018–02–04)[2025–05–29]. https://arxiv.org/pdf/1710.10903.
[本文引用: 1]
[32]
JIN D, ZHANG Y, FENG B, et al Backdoor attack on propagation-based rumor detectors
[J]. Proceedings of the AAAI Conference on Artificial Intelligence , 2025 , 39 (17 ): 17680 - 17688
DOI:10.1609/aaai.v39i17.33944
[本文引用: 1]
[33]
WANIEK M, MICHALAK T P, RAHWAN T, et al. Hiding individuals and communities in a social network [EB/OL]. (2016–08–01)[2025–05–29]. https://arxiv.org/pdf/1608.00375.
[本文引用: 1]
[34]
LI J, XIE T, CHEN L, et al Adversarial attack on large scale graph
[J]. IEEE Transactions on Knowledge and Data Engineering , 2023 , 35 (1 ): 82 - 95
DOI:10.1109/tkde.2021.3078755
[本文引用: 1]
[35]
DEVLIN J, CHANG M W, LEE K, et al. BERT: pre-training of deep bidirectional transformers for language understanding [C]// Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies . Minneapolis: Association for Computational Linguistics, 2019: 4171–4186.
[本文引用: 1]
Language-independent fake news detection: English, Portuguese, and Spanish mutual features
1
2020
... 社交媒体平台的快速普及改变了信息传播的方式,助长了虚假信息的传播[1 -2 ] . 与传统媒体严格的事实核查流程不同,社交媒体互动性强、传播速度快,评论和分享会扩大虚假新闻的传播范围,对其检测与治理提出了严峻挑战. 近年来,谣言检测成为活跃的研究领域[3 -6 ] . 图神经网络(graph neural network, GNN)能够充分利用图结构中的丰富社交上下文,成为谣言检测的有力工具[7 ] . 基于GNN的谣言检测器易受对抗性攻击的影响,使得揭示其脆弱性变得至关重要. ...
COVID-19-related infodemic and its impact on public health: a global social media analysis
1
2020
... 社交媒体平台的快速普及改变了信息传播的方式,助长了虚假信息的传播[1 -2 ] . 与传统媒体严格的事实核查流程不同,社交媒体互动性强、传播速度快,评论和分享会扩大虚假新闻的传播范围,对其检测与治理提出了严峻挑战. 近年来,谣言检测成为活跃的研究领域[3 -6 ] . 图神经网络(graph neural network, GNN)能够充分利用图结构中的丰富社交上下文,成为谣言检测的有力工具[7 ] . 基于GNN的谣言检测器易受对抗性攻击的影响,使得揭示其脆弱性变得至关重要. ...
3
... 社交媒体平台的快速普及改变了信息传播的方式,助长了虚假信息的传播[1 -2 ] . 与传统媒体严格的事实核查流程不同,社交媒体互动性强、传播速度快,评论和分享会扩大虚假新闻的传播范围,对其检测与治理提出了严峻挑战. 近年来,谣言检测成为活跃的研究领域[3 -6 ] . 图神经网络(graph neural network, GNN)能够充分利用图结构中的丰富社交上下文,成为谣言检测的有力工具[7 ] . 基于GNN的谣言检测器易受对抗性攻击的影响,使得揭示其脆弱性变得至关重要. ...
... 基于GNN的谣言检测方法取得显著进展[3 -4 ,12 -17 ] ,基于社交上下文的工作构建用户-帖子二分图,建模用户与帖子之间的影响关系[14 -15 ] ,其中边表示用户共享该新闻,目标是训练GNN对谣言进行分类. 如FANG框架[15 ] ,通过构建社交上下文图(包括用户、新闻文章和新闻来源的交互)并结合时间敏感的Bi-LSTM注意力机制来捕捉用户参与模式,同时学习的表示能泛化到相关任务(如新闻来源可信度预测). 基于传播的工作通过构建用户交互的树状传播结构[3 -4 ,12 -13 ] ,将原始社交事件映射为图结构数据——以新闻帖子作为根节点,用户间的分享行为作为边连接关系. RDLNP[12 ] 是结合线性时间序列与非线性传播结构的谣言检测模型,通过联合学习声明内容、社会上下文与时序信息实现. 基于图同构网络的谣言检测框架GIN-FND[16 ] 整合文本、图像和社交上下文信息,利用图同构网络有效捕捉社交图中的局部与全局依赖关系. MRUAMF[17 ] 考虑用户信息完整度、用户活跃度、用户交际广度和平台认证指数等4个指标,进行多特征提取与融合,从用户权威性角度对谣言进行分类. ...
... [3 -4 ,12 -13 ],将原始社交事件映射为图结构数据——以新闻帖子作为根节点,用户间的分享行为作为边连接关系. RDLNP[12 ] 是结合线性时间序列与非线性传播结构的谣言检测模型,通过联合学习声明内容、社会上下文与时序信息实现. 基于图同构网络的谣言检测框架GIN-FND[16 ] 整合文本、图像和社交上下文信息,利用图同构网络有效捕捉社交图中的局部与全局依赖关系. MRUAMF[17 ] 考虑用户信息完整度、用户活跃度、用户交际广度和平台认证指数等4个指标,进行多特征提取与融合,从用户权威性角度对谣言进行分类. ...
4
... 基于GNN的谣言检测方法取得显著进展[3 -4 ,12 -17 ] ,基于社交上下文的工作构建用户-帖子二分图,建模用户与帖子之间的影响关系[14 -15 ] ,其中边表示用户共享该新闻,目标是训练GNN对谣言进行分类. 如FANG框架[15 ] ,通过构建社交上下文图(包括用户、新闻文章和新闻来源的交互)并结合时间敏感的Bi-LSTM注意力机制来捕捉用户参与模式,同时学习的表示能泛化到相关任务(如新闻来源可信度预测). 基于传播的工作通过构建用户交互的树状传播结构[3 -4 ,12 -13 ] ,将原始社交事件映射为图结构数据——以新闻帖子作为根节点,用户间的分享行为作为边连接关系. RDLNP[12 ] 是结合线性时间序列与非线性传播结构的谣言检测模型,通过联合学习声明内容、社会上下文与时序信息实现. 基于图同构网络的谣言检测框架GIN-FND[16 ] 整合文本、图像和社交上下文信息,利用图同构网络有效捕捉社交图中的局部与全局依赖关系. MRUAMF[17 ] 考虑用户信息完整度、用户活跃度、用户交际广度和平台认证指数等4个指标,进行多特征提取与融合,从用户权威性角度对谣言进行分类. ...
... -4 ,12 -13 ],将原始社交事件映射为图结构数据——以新闻帖子作为根节点,用户间的分享行为作为边连接关系. RDLNP[12 ] 是结合线性时间序列与非线性传播结构的谣言检测模型,通过联合学习声明内容、社会上下文与时序信息实现. 基于图同构网络的谣言检测框架GIN-FND[16 ] 整合文本、图像和社交上下文信息,利用图同构网络有效捕捉社交图中的局部与全局依赖关系. MRUAMF[17 ] 考虑用户信息完整度、用户活跃度、用户交际广度和平台认证指数等4个指标,进行多特征提取与融合,从用户权威性角度对谣言进行分类. ...
... 将新闻传播图表示为无向图$ G=\left(V,E,\boldsymbol{X}\right) $ ,其中$ V=\{{v}_{1},…,{v}_{n}\} $ 为节点集合(用户或帖子),$ E $ 为边集合(社交互动),$ {\boldsymbol{X}} \in {\bf{R}}^{n\times d} $ 为节点特征矩阵. 每条边$ {e}_{ij} \in E $ 表示节点$ {v}_{i} $ 与$ {v}_{j} $ 的关联关系(如转发、评论). 基于图神经网络的谣言检测可以看成二元分类任务,节点标签$ {y}_{i}{ \in \{0,1\}} $ 表示$ {v}_{i} $ 是否为谣言(1为谣言,0为真实信息). 节点初始特征$ \boldsymbol{X} $ 由文本表示或手工制作得到[4 ] . 基于图神经网络的假新闻检测器,用一般的图神经网络框架来表示,在新闻传递的过程中,新闻的特征根据自身特征以及邻居节点特征进行更新: ...
... 随着谣言检测领域的发展,谣言检测器的复杂度与精度快速提升,攻击模型除传统的谣言检测器外,选用了更复杂的模型以测试攻击能力[29 ] . 本研究在Zhu等[11 ] 工作的基础上,除经典的图神经网络模型如GCN[30 ] 、GAT[31 ] 、SAGE[7 ] 外,还引入UPFD[4 ] 的3种变体,即UPFD-GCN、UPFD-GAT、UPFD-SAGE作为受害网络,进一步探究EAT-GNN在更为复杂的基于图神经网络的谣言检测器上的表现. 用攻击成功率ASR来测试攻击的有效性,计算式为 ...
基于时间步局部动态交互的多任务谣言检测方法
0
2025
基于时间步局部动态交互的多任务谣言检测方法
0
2025
基于语义增强的虚假新闻检测
1
2025
... 社交媒体平台的快速普及改变了信息传播的方式,助长了虚假信息的传播[1 -2 ] . 与传统媒体严格的事实核查流程不同,社交媒体互动性强、传播速度快,评论和分享会扩大虚假新闻的传播范围,对其检测与治理提出了严峻挑战. 近年来,谣言检测成为活跃的研究领域[3 -6 ] . 图神经网络(graph neural network, GNN)能够充分利用图结构中的丰富社交上下文,成为谣言检测的有力工具[7 ] . 基于GNN的谣言检测器易受对抗性攻击的影响,使得揭示其脆弱性变得至关重要. ...
基于语义增强的虚假新闻检测
1
2025
... 社交媒体平台的快速普及改变了信息传播的方式,助长了虚假信息的传播[1 -2 ] . 与传统媒体严格的事实核查流程不同,社交媒体互动性强、传播速度快,评论和分享会扩大虚假新闻的传播范围,对其检测与治理提出了严峻挑战. 近年来,谣言检测成为活跃的研究领域[3 -6 ] . 图神经网络(graph neural network, GNN)能够充分利用图结构中的丰富社交上下文,成为谣言检测的有力工具[7 ] . 基于GNN的谣言检测器易受对抗性攻击的影响,使得揭示其脆弱性变得至关重要. ...
Adversarial caching training: unsupervised inductive network representation learning on large-scale graphs
2
2022
... 社交媒体平台的快速普及改变了信息传播的方式,助长了虚假信息的传播[1 -2 ] . 与传统媒体严格的事实核查流程不同,社交媒体互动性强、传播速度快,评论和分享会扩大虚假新闻的传播范围,对其检测与治理提出了严峻挑战. 近年来,谣言检测成为活跃的研究领域[3 -6 ] . 图神经网络(graph neural network, GNN)能够充分利用图结构中的丰富社交上下文,成为谣言检测的有力工具[7 ] . 基于GNN的谣言检测器易受对抗性攻击的影响,使得揭示其脆弱性变得至关重要. ...
... 随着谣言检测领域的发展,谣言检测器的复杂度与精度快速提升,攻击模型除传统的谣言检测器外,选用了更复杂的模型以测试攻击能力[29 ] . 本研究在Zhu等[11 ] 工作的基础上,除经典的图神经网络模型如GCN[30 ] 、GAT[31 ] 、SAGE[7 ] 外,还引入UPFD[4 ] 的3种变体,即UPFD-GCN、UPFD-GAT、UPFD-SAGE作为受害网络,进一步探究EAT-GNN在更为复杂的基于图神经网络的谣言检测器上的表现. 用攻击成功率ASR来测试攻击的有效性,计算式为 ...
1
... GNN特别容易受到微小扰动的影响,这些扰动可能导致分类结果错误[8 ] . 研究人员将目光放在设计可以操纵谣言检测器错误分类的有效扰动方法. 现有研究中讨论的2种主要攻击策略:扰动表示新闻与用户关系的图边,或向图中注入伪造的节点. 在边缘扰动攻击中[9 ] ,攻击者利用GNN的聚合机制,通过影响力大的用户节点干扰关键信息传播路径,扭曲图中的关系和影响模式,导致图神经网络错误分类新闻. 注入虚假节点是更隐蔽的攻击策略[10 -11 ] ,攻击者将伪造的节点注入图中易受攻击的部分. 这些节点通过影响图神经网络的聚合过程,改变目标新闻的分类结果,造成错误预测. 不同的新闻具有独特的传播结构和属性,这影响了信息在网络中的传播方式. 这些差异通常由新闻内容性质、用户互动模式以及新闻与用户之间的特定关系决定. 因此,大多数攻击者根据每条目标新闻定制攻击策略. 这种定制通常针对每个目标新闻重新训练模型或重新进行优化[9 -10 ] ,以考虑新闻特定的传播动态和结构特征. 无需重复优化的方法如GAFSI[11 ] ,在生成攻击信息时同样需要大量计算. 这种方法可能有效,但增加了每次攻击的时间成本. ...
6
... GNN特别容易受到微小扰动的影响,这些扰动可能导致分类结果错误[8 ] . 研究人员将目光放在设计可以操纵谣言检测器错误分类的有效扰动方法. 现有研究中讨论的2种主要攻击策略:扰动表示新闻与用户关系的图边,或向图中注入伪造的节点. 在边缘扰动攻击中[9 ] ,攻击者利用GNN的聚合机制,通过影响力大的用户节点干扰关键信息传播路径,扭曲图中的关系和影响模式,导致图神经网络错误分类新闻. 注入虚假节点是更隐蔽的攻击策略[10 -11 ] ,攻击者将伪造的节点注入图中易受攻击的部分. 这些节点通过影响图神经网络的聚合过程,改变目标新闻的分类结果,造成错误预测. 不同的新闻具有独特的传播结构和属性,这影响了信息在网络中的传播方式. 这些差异通常由新闻内容性质、用户互动模式以及新闻与用户之间的特定关系决定. 因此,大多数攻击者根据每条目标新闻定制攻击策略. 这种定制通常针对每个目标新闻重新训练模型或重新进行优化[9 -10 ] ,以考虑新闻特定的传播动态和结构特征. 无需重复优化的方法如GAFSI[11 ] ,在生成攻击信息时同样需要大量计算. 这种方法可能有效,但增加了每次攻击的时间成本. ...
... [9 -10 ],以考虑新闻特定的传播动态和结构特征. 无需重复优化的方法如GAFSI[11 ] ,在生成攻击信息时同样需要大量计算. 这种方法可能有效,但增加了每次攻击的时间成本. ...
... 有大量的研究针对基于机器学习的谣言检测器,但很少有研究关注谣言检测器的鲁棒性[9 -11 ,22 -25 ] . Wang等[9 ] 提出攻击基于图神经网络的假新闻检测器,通过基于多智能体强化学习的对抗攻击框架,模拟3种具有不同成本、预算和影响力的欺诈者协同操控用户的分享行为,系统性地攻击了基于图神经网络的虚假新闻检测器. Luo等[10 ] 提出同质性引导的大型语言模型消息注入攻击方法,通过迭代提示生成语义连贯的恶意评论/转发,破坏消息传播树的同质性分布. 基于结构信息熵的对抗攻击框架SI2A[25 ] ,通过引入结构熵量化社交互动的不确定性并识别分层社区,设计多智能体协作机制,在目标新闻关联子图中实施3种攻击策略进行联合攻击. ...
... [9 ]提出攻击基于图神经网络的假新闻检测器,通过基于多智能体强化学习的对抗攻击框架,模拟3种具有不同成本、预算和影响力的欺诈者协同操控用户的分享行为,系统性地攻击了基于图神经网络的虚假新闻检测器. Luo等[10 ] 提出同质性引导的大型语言模型消息注入攻击方法,通过迭代提示生成语义连贯的恶意评论/转发,破坏消息传播树的同质性分布. 基于结构信息熵的对抗攻击框架SI2A[25 ] ,通过引入结构熵量化社交互动的不确定性并识别分层社区,设计多智能体协作机制,在目标新闻关联子图中实施3种攻击策略进行联合攻击. ...
... 使用来自FakeNewsNet[26 ] 的2个真实世界的数据集Politifact和Gossipcop. 为了测试EAT-GNN在中文谣言检测器上的攻击性能,引入中文社交媒体新闻数据集Weibo[27 ] . 3个数据集的数据统计如表1 所示. 基于Wang等[9 ,11 ] 的前期工作,对于新闻节点,用预训练模型对新闻文本编码[28 ] ,生成新闻节点特征向量. 对于用户节点,对每个用户的历史帖子进行预处理,比如去除特殊字符和URL. 对于无法访问的用户,用同一新闻的其他用户的帖子进行随机采样,以保持传播图的完整性. ...
... 为了研究EAT-GNN的攻击性能,选择经典的攻击方法以及近年来优秀的攻击方法进行比较,模型参数均按原文要求配置. 各基线模型介绍如下:1)MARL[9 ] ,利用多智能体强化学习框架来攻击基于图神经网络的假新闻检测器;2)HMIA-LLM[10 ] ,以同质性引导消息注入的攻击方法,利用大语言模型在黑盒设置下生成虚假消息,显著降低现有谣言检测模型的性能;3)GAFSI[11 ] ,同时考虑用户节点的局部影响力和全局影响力,在多种新闻图上均具有强大的攻击能力;4)IBAttack[32 ] ,针对基于传播的谣言检测器的后门攻击方法,通过相似性约束和动态预算控制,使触发器融入目标新闻的传播结构;5)DICE[33 ] ,修改图中的连接关系(包括删除原有边和添加新边),调整目标新闻的局部连接即可;6)SGA[34 ] ,在扰动目标新闻图时,仅需关注局部邻域信息(k 跳子图),无需全局信息,计算量降低. ...
5
... GNN特别容易受到微小扰动的影响,这些扰动可能导致分类结果错误[8 ] . 研究人员将目光放在设计可以操纵谣言检测器错误分类的有效扰动方法. 现有研究中讨论的2种主要攻击策略:扰动表示新闻与用户关系的图边,或向图中注入伪造的节点. 在边缘扰动攻击中[9 ] ,攻击者利用GNN的聚合机制,通过影响力大的用户节点干扰关键信息传播路径,扭曲图中的关系和影响模式,导致图神经网络错误分类新闻. 注入虚假节点是更隐蔽的攻击策略[10 -11 ] ,攻击者将伪造的节点注入图中易受攻击的部分. 这些节点通过影响图神经网络的聚合过程,改变目标新闻的分类结果,造成错误预测. 不同的新闻具有独特的传播结构和属性,这影响了信息在网络中的传播方式. 这些差异通常由新闻内容性质、用户互动模式以及新闻与用户之间的特定关系决定. 因此,大多数攻击者根据每条目标新闻定制攻击策略. 这种定制通常针对每个目标新闻重新训练模型或重新进行优化[9 -10 ] ,以考虑新闻特定的传播动态和结构特征. 无需重复优化的方法如GAFSI[11 ] ,在生成攻击信息时同样需要大量计算. 这种方法可能有效,但增加了每次攻击的时间成本. ...
... -10 ],以考虑新闻特定的传播动态和结构特征. 无需重复优化的方法如GAFSI[11 ] ,在生成攻击信息时同样需要大量计算. 这种方法可能有效,但增加了每次攻击的时间成本. ...
... 本研究关注高效的节点注入攻击方法,通过传播结构将虚假节点的属性传播到适当的节点上. 现有研究通常先构造节点特征,再使用如节点度[10 ] 或PageRank分数[11 ] 的指标评估节点影响力,从而选择合适的目标节点连接虚假节点. 这种方法通常忽略了节点特征与边之间的耦合和依赖关系,导致攻击效果未能最大化. 为了解决扰动目标新闻需大量时间的低效问题,本研究设计面向图神经网络谣言检测器的高效攻击模型(efficient attack model targeting GNN-based rumor detectors, EAT-GNN),提出高效的攻击策略,考虑了节点特征与边之间存在的耦合关系. EAT-GNN通过在攻击过程中学习并保留有用的知识,显著降低攻击投入的计算开销,从而提高攻击过程的效率. 引入联合优化机制,考虑节点属性与其连接边之间的耦合关系,使EAT-GNN能够生成更有效的扰动. 与简单或孤立的扰动不同,EAT-GNN建模图的整体结构,使注入的虚假节点和操控的边在上下文中与目标新闻相关. ...
... 有大量的研究针对基于机器学习的谣言检测器,但很少有研究关注谣言检测器的鲁棒性[9 -11 ,22 -25 ] . Wang等[9 ] 提出攻击基于图神经网络的假新闻检测器,通过基于多智能体强化学习的对抗攻击框架,模拟3种具有不同成本、预算和影响力的欺诈者协同操控用户的分享行为,系统性地攻击了基于图神经网络的虚假新闻检测器. Luo等[10 ] 提出同质性引导的大型语言模型消息注入攻击方法,通过迭代提示生成语义连贯的恶意评论/转发,破坏消息传播树的同质性分布. 基于结构信息熵的对抗攻击框架SI2A[25 ] ,通过引入结构熵量化社交互动的不确定性并识别分层社区,设计多智能体协作机制,在目标新闻关联子图中实施3种攻击策略进行联合攻击. ...
... 为了研究EAT-GNN的攻击性能,选择经典的攻击方法以及近年来优秀的攻击方法进行比较,模型参数均按原文要求配置. 各基线模型介绍如下:1)MARL[9 ] ,利用多智能体强化学习框架来攻击基于图神经网络的假新闻检测器;2)HMIA-LLM[10 ] ,以同质性引导消息注入的攻击方法,利用大语言模型在黑盒设置下生成虚假消息,显著降低现有谣言检测模型的性能;3)GAFSI[11 ] ,同时考虑用户节点的局部影响力和全局影响力,在多种新闻图上均具有强大的攻击能力;4)IBAttack[32 ] ,针对基于传播的谣言检测器的后门攻击方法,通过相似性约束和动态预算控制,使触发器融入目标新闻的传播结构;5)DICE[33 ] ,修改图中的连接关系(包括删除原有边和添加新边),调整目标新闻的局部连接即可;6)SGA[34 ] ,在扰动目标新闻图时,仅需关注局部邻域信息(k 跳子图),无需全局信息,计算量降低. ...
7
... GNN特别容易受到微小扰动的影响,这些扰动可能导致分类结果错误[8 ] . 研究人员将目光放在设计可以操纵谣言检测器错误分类的有效扰动方法. 现有研究中讨论的2种主要攻击策略:扰动表示新闻与用户关系的图边,或向图中注入伪造的节点. 在边缘扰动攻击中[9 ] ,攻击者利用GNN的聚合机制,通过影响力大的用户节点干扰关键信息传播路径,扭曲图中的关系和影响模式,导致图神经网络错误分类新闻. 注入虚假节点是更隐蔽的攻击策略[10 -11 ] ,攻击者将伪造的节点注入图中易受攻击的部分. 这些节点通过影响图神经网络的聚合过程,改变目标新闻的分类结果,造成错误预测. 不同的新闻具有独特的传播结构和属性,这影响了信息在网络中的传播方式. 这些差异通常由新闻内容性质、用户互动模式以及新闻与用户之间的特定关系决定. 因此,大多数攻击者根据每条目标新闻定制攻击策略. 这种定制通常针对每个目标新闻重新训练模型或重新进行优化[9 -10 ] ,以考虑新闻特定的传播动态和结构特征. 无需重复优化的方法如GAFSI[11 ] ,在生成攻击信息时同样需要大量计算. 这种方法可能有效,但增加了每次攻击的时间成本. ...
... [11 ],在生成攻击信息时同样需要大量计算. 这种方法可能有效,但增加了每次攻击的时间成本. ...
... 本研究关注高效的节点注入攻击方法,通过传播结构将虚假节点的属性传播到适当的节点上. 现有研究通常先构造节点特征,再使用如节点度[10 ] 或PageRank分数[11 ] 的指标评估节点影响力,从而选择合适的目标节点连接虚假节点. 这种方法通常忽略了节点特征与边之间的耦合和依赖关系,导致攻击效果未能最大化. 为了解决扰动目标新闻需大量时间的低效问题,本研究设计面向图神经网络谣言检测器的高效攻击模型(efficient attack model targeting GNN-based rumor detectors, EAT-GNN),提出高效的攻击策略,考虑了节点特征与边之间存在的耦合关系. EAT-GNN通过在攻击过程中学习并保留有用的知识,显著降低攻击投入的计算开销,从而提高攻击过程的效率. 引入联合优化机制,考虑节点属性与其连接边之间的耦合关系,使EAT-GNN能够生成更有效的扰动. 与简单或孤立的扰动不同,EAT-GNN建模图的整体结构,使注入的虚假节点和操控的边在上下文中与目标新闻相关. ...
... 有大量的研究针对基于机器学习的谣言检测器,但很少有研究关注谣言检测器的鲁棒性[9 -11 ,22 -25 ] . Wang等[9 ] 提出攻击基于图神经网络的假新闻检测器,通过基于多智能体强化学习的对抗攻击框架,模拟3种具有不同成本、预算和影响力的欺诈者协同操控用户的分享行为,系统性地攻击了基于图神经网络的虚假新闻检测器. Luo等[10 ] 提出同质性引导的大型语言模型消息注入攻击方法,通过迭代提示生成语义连贯的恶意评论/转发,破坏消息传播树的同质性分布. 基于结构信息熵的对抗攻击框架SI2A[25 ] ,通过引入结构熵量化社交互动的不确定性并识别分层社区,设计多智能体协作机制,在目标新闻关联子图中实施3种攻击策略进行联合攻击. ...
... 使用来自FakeNewsNet[26 ] 的2个真实世界的数据集Politifact和Gossipcop. 为了测试EAT-GNN在中文谣言检测器上的攻击性能,引入中文社交媒体新闻数据集Weibo[27 ] . 3个数据集的数据统计如表1 所示. 基于Wang等[9 ,11 ] 的前期工作,对于新闻节点,用预训练模型对新闻文本编码[28 ] ,生成新闻节点特征向量. 对于用户节点,对每个用户的历史帖子进行预处理,比如去除特殊字符和URL. 对于无法访问的用户,用同一新闻的其他用户的帖子进行随机采样,以保持传播图的完整性. ...
... 随着谣言检测领域的发展,谣言检测器的复杂度与精度快速提升,攻击模型除传统的谣言检测器外,选用了更复杂的模型以测试攻击能力[29 ] . 本研究在Zhu等[11 ] 工作的基础上,除经典的图神经网络模型如GCN[30 ] 、GAT[31 ] 、SAGE[7 ] 外,还引入UPFD[4 ] 的3种变体,即UPFD-GCN、UPFD-GAT、UPFD-SAGE作为受害网络,进一步探究EAT-GNN在更为复杂的基于图神经网络的谣言检测器上的表现. 用攻击成功率ASR来测试攻击的有效性,计算式为 ...
... 为了研究EAT-GNN的攻击性能,选择经典的攻击方法以及近年来优秀的攻击方法进行比较,模型参数均按原文要求配置. 各基线模型介绍如下:1)MARL[9 ] ,利用多智能体强化学习框架来攻击基于图神经网络的假新闻检测器;2)HMIA-LLM[10 ] ,以同质性引导消息注入的攻击方法,利用大语言模型在黑盒设置下生成虚假消息,显著降低现有谣言检测模型的性能;3)GAFSI[11 ] ,同时考虑用户节点的局部影响力和全局影响力,在多种新闻图上均具有强大的攻击能力;4)IBAttack[32 ] ,针对基于传播的谣言检测器的后门攻击方法,通过相似性约束和动态预算控制,使触发器融入目标新闻的传播结构;5)DICE[33 ] ,修改图中的连接关系(包括删除原有边和添加新边),调整目标新闻的局部连接即可;6)SGA[34 ] ,在扰动目标新闻图时,仅需关注局部邻域信息(k 跳子图),无需全局信息,计算量降低. ...
3
... 基于GNN的谣言检测方法取得显著进展[3 -4 ,12 -17 ] ,基于社交上下文的工作构建用户-帖子二分图,建模用户与帖子之间的影响关系[14 -15 ] ,其中边表示用户共享该新闻,目标是训练GNN对谣言进行分类. 如FANG框架[15 ] ,通过构建社交上下文图(包括用户、新闻文章和新闻来源的交互)并结合时间敏感的Bi-LSTM注意力机制来捕捉用户参与模式,同时学习的表示能泛化到相关任务(如新闻来源可信度预测). 基于传播的工作通过构建用户交互的树状传播结构[3 -4 ,12 -13 ] ,将原始社交事件映射为图结构数据——以新闻帖子作为根节点,用户间的分享行为作为边连接关系. RDLNP[12 ] 是结合线性时间序列与非线性传播结构的谣言检测模型,通过联合学习声明内容、社会上下文与时序信息实现. 基于图同构网络的谣言检测框架GIN-FND[16 ] 整合文本、图像和社交上下文信息,利用图同构网络有效捕捉社交图中的局部与全局依赖关系. MRUAMF[17 ] 考虑用户信息完整度、用户活跃度、用户交际广度和平台认证指数等4个指标,进行多特征提取与融合,从用户权威性角度对谣言进行分类. ...
... ,12 -13 ],将原始社交事件映射为图结构数据——以新闻帖子作为根节点,用户间的分享行为作为边连接关系. RDLNP[12 ] 是结合线性时间序列与非线性传播结构的谣言检测模型,通过联合学习声明内容、社会上下文与时序信息实现. 基于图同构网络的谣言检测框架GIN-FND[16 ] 整合文本、图像和社交上下文信息,利用图同构网络有效捕捉社交图中的局部与全局依赖关系. MRUAMF[17 ] 考虑用户信息完整度、用户活跃度、用户交际广度和平台认证指数等4个指标,进行多特征提取与融合,从用户权威性角度对谣言进行分类. ...
... [12 ]是结合线性时间序列与非线性传播结构的谣言检测模型,通过联合学习声明内容、社会上下文与时序信息实现. 基于图同构网络的谣言检测框架GIN-FND[16 ] 整合文本、图像和社交上下文信息,利用图同构网络有效捕捉社交图中的局部与全局依赖关系. MRUAMF[17 ] 考虑用户信息完整度、用户活跃度、用户交际广度和平台认证指数等4个指标,进行多特征提取与融合,从用户权威性角度对谣言进行分类. ...
1
... 基于GNN的谣言检测方法取得显著进展[3 -4 ,12 -17 ] ,基于社交上下文的工作构建用户-帖子二分图,建模用户与帖子之间的影响关系[14 -15 ] ,其中边表示用户共享该新闻,目标是训练GNN对谣言进行分类. 如FANG框架[15 ] ,通过构建社交上下文图(包括用户、新闻文章和新闻来源的交互)并结合时间敏感的Bi-LSTM注意力机制来捕捉用户参与模式,同时学习的表示能泛化到相关任务(如新闻来源可信度预测). 基于传播的工作通过构建用户交互的树状传播结构[3 -4 ,12 -13 ] ,将原始社交事件映射为图结构数据——以新闻帖子作为根节点,用户间的分享行为作为边连接关系. RDLNP[12 ] 是结合线性时间序列与非线性传播结构的谣言检测模型,通过联合学习声明内容、社会上下文与时序信息实现. 基于图同构网络的谣言检测框架GIN-FND[16 ] 整合文本、图像和社交上下文信息,利用图同构网络有效捕捉社交图中的局部与全局依赖关系. MRUAMF[17 ] 考虑用户信息完整度、用户活跃度、用户交际广度和平台认证指数等4个指标,进行多特征提取与融合,从用户权威性角度对谣言进行分类. ...
1
... 基于GNN的谣言检测方法取得显著进展[3 -4 ,12 -17 ] ,基于社交上下文的工作构建用户-帖子二分图,建模用户与帖子之间的影响关系[14 -15 ] ,其中边表示用户共享该新闻,目标是训练GNN对谣言进行分类. 如FANG框架[15 ] ,通过构建社交上下文图(包括用户、新闻文章和新闻来源的交互)并结合时间敏感的Bi-LSTM注意力机制来捕捉用户参与模式,同时学习的表示能泛化到相关任务(如新闻来源可信度预测). 基于传播的工作通过构建用户交互的树状传播结构[3 -4 ,12 -13 ] ,将原始社交事件映射为图结构数据——以新闻帖子作为根节点,用户间的分享行为作为边连接关系. RDLNP[12 ] 是结合线性时间序列与非线性传播结构的谣言检测模型,通过联合学习声明内容、社会上下文与时序信息实现. 基于图同构网络的谣言检测框架GIN-FND[16 ] 整合文本、图像和社交上下文信息,利用图同构网络有效捕捉社交图中的局部与全局依赖关系. MRUAMF[17 ] 考虑用户信息完整度、用户活跃度、用户交际广度和平台认证指数等4个指标,进行多特征提取与融合,从用户权威性角度对谣言进行分类. ...
FANG: leveraging social context for fake news detection using graph representation
2
2022
... 基于GNN的谣言检测方法取得显著进展[3 -4 ,12 -17 ] ,基于社交上下文的工作构建用户-帖子二分图,建模用户与帖子之间的影响关系[14 -15 ] ,其中边表示用户共享该新闻,目标是训练GNN对谣言进行分类. 如FANG框架[15 ] ,通过构建社交上下文图(包括用户、新闻文章和新闻来源的交互)并结合时间敏感的Bi-LSTM注意力机制来捕捉用户参与模式,同时学习的表示能泛化到相关任务(如新闻来源可信度预测). 基于传播的工作通过构建用户交互的树状传播结构[3 -4 ,12 -13 ] ,将原始社交事件映射为图结构数据——以新闻帖子作为根节点,用户间的分享行为作为边连接关系. RDLNP[12 ] 是结合线性时间序列与非线性传播结构的谣言检测模型,通过联合学习声明内容、社会上下文与时序信息实现. 基于图同构网络的谣言检测框架GIN-FND[16 ] 整合文本、图像和社交上下文信息,利用图同构网络有效捕捉社交图中的局部与全局依赖关系. MRUAMF[17 ] 考虑用户信息完整度、用户活跃度、用户交际广度和平台认证指数等4个指标,进行多特征提取与融合,从用户权威性角度对谣言进行分类. ...
... [15 ],通过构建社交上下文图(包括用户、新闻文章和新闻来源的交互)并结合时间敏感的Bi-LSTM注意力机制来捕捉用户参与模式,同时学习的表示能泛化到相关任务(如新闻来源可信度预测). 基于传播的工作通过构建用户交互的树状传播结构[3 -4 ,12 -13 ] ,将原始社交事件映射为图结构数据——以新闻帖子作为根节点,用户间的分享行为作为边连接关系. RDLNP[12 ] 是结合线性时间序列与非线性传播结构的谣言检测模型,通过联合学习声明内容、社会上下文与时序信息实现. 基于图同构网络的谣言检测框架GIN-FND[16 ] 整合文本、图像和社交上下文信息,利用图同构网络有效捕捉社交图中的局部与全局依赖关系. MRUAMF[17 ] 考虑用户信息完整度、用户活跃度、用户交际广度和平台认证指数等4个指标,进行多特征提取与融合,从用户权威性角度对谣言进行分类. ...
基于图同构网络的多模态虚假新闻检测
1
2025
... 基于GNN的谣言检测方法取得显著进展[3 -4 ,12 -17 ] ,基于社交上下文的工作构建用户-帖子二分图,建模用户与帖子之间的影响关系[14 -15 ] ,其中边表示用户共享该新闻,目标是训练GNN对谣言进行分类. 如FANG框架[15 ] ,通过构建社交上下文图(包括用户、新闻文章和新闻来源的交互)并结合时间敏感的Bi-LSTM注意力机制来捕捉用户参与模式,同时学习的表示能泛化到相关任务(如新闻来源可信度预测). 基于传播的工作通过构建用户交互的树状传播结构[3 -4 ,12 -13 ] ,将原始社交事件映射为图结构数据——以新闻帖子作为根节点,用户间的分享行为作为边连接关系. RDLNP[12 ] 是结合线性时间序列与非线性传播结构的谣言检测模型,通过联合学习声明内容、社会上下文与时序信息实现. 基于图同构网络的谣言检测框架GIN-FND[16 ] 整合文本、图像和社交上下文信息,利用图同构网络有效捕捉社交图中的局部与全局依赖关系. MRUAMF[17 ] 考虑用户信息完整度、用户活跃度、用户交际广度和平台认证指数等4个指标,进行多特征提取与融合,从用户权威性角度对谣言进行分类. ...
基于图同构网络的多模态虚假新闻检测
1
2025
... 基于GNN的谣言检测方法取得显著进展[3 -4 ,12 -17 ] ,基于社交上下文的工作构建用户-帖子二分图,建模用户与帖子之间的影响关系[14 -15 ] ,其中边表示用户共享该新闻,目标是训练GNN对谣言进行分类. 如FANG框架[15 ] ,通过构建社交上下文图(包括用户、新闻文章和新闻来源的交互)并结合时间敏感的Bi-LSTM注意力机制来捕捉用户参与模式,同时学习的表示能泛化到相关任务(如新闻来源可信度预测). 基于传播的工作通过构建用户交互的树状传播结构[3 -4 ,12 -13 ] ,将原始社交事件映射为图结构数据——以新闻帖子作为根节点,用户间的分享行为作为边连接关系. RDLNP[12 ] 是结合线性时间序列与非线性传播结构的谣言检测模型,通过联合学习声明内容、社会上下文与时序信息实现. 基于图同构网络的谣言检测框架GIN-FND[16 ] 整合文本、图像和社交上下文信息,利用图同构网络有效捕捉社交图中的局部与全局依赖关系. MRUAMF[17 ] 考虑用户信息完整度、用户活跃度、用户交际广度和平台认证指数等4个指标,进行多特征提取与融合,从用户权威性角度对谣言进行分类. ...
基于用户权威度和多特征融合的微博谣言检测模型
2
2024
... 基于GNN的谣言检测方法取得显著进展[3 -4 ,12 -17 ] ,基于社交上下文的工作构建用户-帖子二分图,建模用户与帖子之间的影响关系[14 -15 ] ,其中边表示用户共享该新闻,目标是训练GNN对谣言进行分类. 如FANG框架[15 ] ,通过构建社交上下文图(包括用户、新闻文章和新闻来源的交互)并结合时间敏感的Bi-LSTM注意力机制来捕捉用户参与模式,同时学习的表示能泛化到相关任务(如新闻来源可信度预测). 基于传播的工作通过构建用户交互的树状传播结构[3 -4 ,12 -13 ] ,将原始社交事件映射为图结构数据——以新闻帖子作为根节点,用户间的分享行为作为边连接关系. RDLNP[12 ] 是结合线性时间序列与非线性传播结构的谣言检测模型,通过联合学习声明内容、社会上下文与时序信息实现. 基于图同构网络的谣言检测框架GIN-FND[16 ] 整合文本、图像和社交上下文信息,利用图同构网络有效捕捉社交图中的局部与全局依赖关系. MRUAMF[17 ] 考虑用户信息完整度、用户活跃度、用户交际广度和平台认证指数等4个指标,进行多特征提取与融合,从用户权威性角度对谣言进行分类. ...
... [17 ]考虑用户信息完整度、用户活跃度、用户交际广度和平台认证指数等4个指标,进行多特征提取与融合,从用户权威性角度对谣言进行分类. ...
基于用户权威度和多特征融合的微博谣言检测模型
2
2024
... 基于GNN的谣言检测方法取得显著进展[3 -4 ,12 -17 ] ,基于社交上下文的工作构建用户-帖子二分图,建模用户与帖子之间的影响关系[14 -15 ] ,其中边表示用户共享该新闻,目标是训练GNN对谣言进行分类. 如FANG框架[15 ] ,通过构建社交上下文图(包括用户、新闻文章和新闻来源的交互)并结合时间敏感的Bi-LSTM注意力机制来捕捉用户参与模式,同时学习的表示能泛化到相关任务(如新闻来源可信度预测). 基于传播的工作通过构建用户交互的树状传播结构[3 -4 ,12 -13 ] ,将原始社交事件映射为图结构数据——以新闻帖子作为根节点,用户间的分享行为作为边连接关系. RDLNP[12 ] 是结合线性时间序列与非线性传播结构的谣言检测模型,通过联合学习声明内容、社会上下文与时序信息实现. 基于图同构网络的谣言检测框架GIN-FND[16 ] 整合文本、图像和社交上下文信息,利用图同构网络有效捕捉社交图中的局部与全局依赖关系. MRUAMF[17 ] 考虑用户信息完整度、用户活跃度、用户交际广度和平台认证指数等4个指标,进行多特征提取与融合,从用户权威性角度对谣言进行分类. ...
... [17 ]考虑用户信息完整度、用户活跃度、用户交际广度和平台认证指数等4个指标,进行多特征提取与融合,从用户权威性角度对谣言进行分类. ...
2
... GNN在遭受对抗性攻击时的鲁棒性受到大量关注[18 -21 ] . 对于图相关任务,现有的攻击方法主要干扰图的知识,如图的结构、节点属性和标签. 近期的优秀工作如节点注入投毒攻击[18 ] ,通过注入携带伪造标签的对抗节点并设计与真实节点的连接结构,利用分层Q学习实现无需修改原图的高效投毒攻击,显著降低节点分类精度. 节点注入投毒攻击无法生成节点属性,拓扑缺陷图注入攻击弥补了这一不足[19 ] ,通过分析GNN的拓扑漏洞并设计拓扑缺陷边选择,利用平滑对抗优化算法生成对抗特征,显著降低目标模型的性能,相较于节点注入投毒攻击,拓扑缺陷图注入攻击展现出更强的攻击迁移性. Zhang等[21 ] 提出新型的拓扑攻击,旨在自适应地找到足以成功攻击每个节点的最小扰动. ...
... [18 ],通过注入携带伪造标签的对抗节点并设计与真实节点的连接结构,利用分层Q学习实现无需修改原图的高效投毒攻击,显著降低节点分类精度. 节点注入投毒攻击无法生成节点属性,拓扑缺陷图注入攻击弥补了这一不足[19 ] ,通过分析GNN的拓扑漏洞并设计拓扑缺陷边选择,利用平滑对抗优化算法生成对抗特征,显著降低目标模型的性能,相较于节点注入投毒攻击,拓扑缺陷图注入攻击展现出更强的攻击迁移性. Zhang等[21 ] 提出新型的拓扑攻击,旨在自适应地找到足以成功攻击每个节点的最小扰动. ...
1
... GNN在遭受对抗性攻击时的鲁棒性受到大量关注[18 -21 ] . 对于图相关任务,现有的攻击方法主要干扰图的知识,如图的结构、节点属性和标签. 近期的优秀工作如节点注入投毒攻击[18 ] ,通过注入携带伪造标签的对抗节点并设计与真实节点的连接结构,利用分层Q学习实现无需修改原图的高效投毒攻击,显著降低节点分类精度. 节点注入投毒攻击无法生成节点属性,拓扑缺陷图注入攻击弥补了这一不足[19 ] ,通过分析GNN的拓扑漏洞并设计拓扑缺陷边选择,利用平滑对抗优化算法生成对抗特征,显著降低目标模型的性能,相较于节点注入投毒攻击,拓扑缺陷图注入攻击展现出更强的攻击迁移性. Zhang等[21 ] 提出新型的拓扑攻击,旨在自适应地找到足以成功攻击每个节点的最小扰动. ...
2
... GNN在遭受对抗性攻击时的鲁棒性受到大量关注[18 -21 ] . 对于图相关任务,现有的攻击方法主要干扰图的知识,如图的结构、节点属性和标签. 近期的优秀工作如节点注入投毒攻击[18 ] ,通过注入携带伪造标签的对抗节点并设计与真实节点的连接结构,利用分层Q学习实现无需修改原图的高效投毒攻击,显著降低节点分类精度. 节点注入投毒攻击无法生成节点属性,拓扑缺陷图注入攻击弥补了这一不足[19 ] ,通过分析GNN的拓扑漏洞并设计拓扑缺陷边选择,利用平滑对抗优化算法生成对抗特征,显著降低目标模型的性能,相较于节点注入投毒攻击,拓扑缺陷图注入攻击展现出更强的攻击迁移性. Zhang等[21 ] 提出新型的拓扑攻击,旨在自适应地找到足以成功攻击每个节点的最小扰动. ...
... [21 ]提出新型的拓扑攻击,旨在自适应地找到足以成功攻击每个节点的最小扰动. ...
1
... 有大量的研究针对基于机器学习的谣言检测器,但很少有研究关注谣言检测器的鲁棒性[9 -11 ,22 -25 ] . Wang等[9 ] 提出攻击基于图神经网络的假新闻检测器,通过基于多智能体强化学习的对抗攻击框架,模拟3种具有不同成本、预算和影响力的欺诈者协同操控用户的分享行为,系统性地攻击了基于图神经网络的虚假新闻检测器. Luo等[10 ] 提出同质性引导的大型语言模型消息注入攻击方法,通过迭代提示生成语义连贯的恶意评论/转发,破坏消息传播树的同质性分布. 基于结构信息熵的对抗攻击框架SI2A[25 ] ,通过引入结构熵量化社交互动的不确定性并识别分层社区,设计多智能体协作机制,在目标新闻关联子图中实施3种攻击策略进行联合攻击. ...
Robust fake news detection over time and attack
0
2020
2
... 有大量的研究针对基于机器学习的谣言检测器,但很少有研究关注谣言检测器的鲁棒性[9 -11 ,22 -25 ] . Wang等[9 ] 提出攻击基于图神经网络的假新闻检测器,通过基于多智能体强化学习的对抗攻击框架,模拟3种具有不同成本、预算和影响力的欺诈者协同操控用户的分享行为,系统性地攻击了基于图神经网络的虚假新闻检测器. Luo等[10 ] 提出同质性引导的大型语言模型消息注入攻击方法,通过迭代提示生成语义连贯的恶意评论/转发,破坏消息传播树的同质性分布. 基于结构信息熵的对抗攻击框架SI2A[25 ] ,通过引入结构熵量化社交互动的不确定性并识别分层社区,设计多智能体协作机制,在目标新闻关联子图中实施3种攻击策略进行联合攻击. ...
... [25 ],通过引入结构熵量化社交互动的不确定性并识别分层社区,设计多智能体协作机制,在目标新闻关联子图中实施3种攻击策略进行联合攻击. ...
FakeNewsNet: a data repository with news content, social context, and spatiotemporal information for studying fake news on social media
1
2020
... 使用来自FakeNewsNet[26 ] 的2个真实世界的数据集Politifact和Gossipcop. 为了测试EAT-GNN在中文谣言检测器上的攻击性能,引入中文社交媒体新闻数据集Weibo[27 ] . 3个数据集的数据统计如表1 所示. 基于Wang等[9 ,11 ] 的前期工作,对于新闻节点,用预训练模型对新闻文本编码[28 ] ,生成新闻节点特征向量. 对于用户节点,对每个用户的历史帖子进行预处理,比如去除特殊字符和URL. 对于无法访问的用户,用同一新闻的其他用户的帖子进行随机采样,以保持传播图的完整性. ...
1
... 使用来自FakeNewsNet[26 ] 的2个真实世界的数据集Politifact和Gossipcop. 为了测试EAT-GNN在中文谣言检测器上的攻击性能,引入中文社交媒体新闻数据集Weibo[27 ] . 3个数据集的数据统计如表1 所示. 基于Wang等[9 ,11 ] 的前期工作,对于新闻节点,用预训练模型对新闻文本编码[28 ] ,生成新闻节点特征向量. 对于用户节点,对每个用户的历史帖子进行预处理,比如去除特殊字符和URL. 对于无法访问的用户,用同一新闻的其他用户的帖子进行随机采样,以保持传播图的完整性. ...
1
... 使用来自FakeNewsNet[26 ] 的2个真实世界的数据集Politifact和Gossipcop. 为了测试EAT-GNN在中文谣言检测器上的攻击性能,引入中文社交媒体新闻数据集Weibo[27 ] . 3个数据集的数据统计如表1 所示. 基于Wang等[9 ,11 ] 的前期工作,对于新闻节点,用预训练模型对新闻文本编码[28 ] ,生成新闻节点特征向量. 对于用户节点,对每个用户的历史帖子进行预处理,比如去除特殊字符和URL. 对于无法访问的用户,用同一新闻的其他用户的帖子进行随机采样,以保持传播图的完整性. ...
1
... 随着谣言检测领域的发展,谣言检测器的复杂度与精度快速提升,攻击模型除传统的谣言检测器外,选用了更复杂的模型以测试攻击能力[29 ] . 本研究在Zhu等[11 ] 工作的基础上,除经典的图神经网络模型如GCN[30 ] 、GAT[31 ] 、SAGE[7 ] 外,还引入UPFD[4 ] 的3种变体,即UPFD-GCN、UPFD-GAT、UPFD-SAGE作为受害网络,进一步探究EAT-GNN在更为复杂的基于图神经网络的谣言检测器上的表现. 用攻击成功率ASR来测试攻击的有效性,计算式为 ...
1
... 随着谣言检测领域的发展,谣言检测器的复杂度与精度快速提升,攻击模型除传统的谣言检测器外,选用了更复杂的模型以测试攻击能力[29 ] . 本研究在Zhu等[11 ] 工作的基础上,除经典的图神经网络模型如GCN[30 ] 、GAT[31 ] 、SAGE[7 ] 外,还引入UPFD[4 ] 的3种变体,即UPFD-GCN、UPFD-GAT、UPFD-SAGE作为受害网络,进一步探究EAT-GNN在更为复杂的基于图神经网络的谣言检测器上的表现. 用攻击成功率ASR来测试攻击的有效性,计算式为 ...
1
... 随着谣言检测领域的发展,谣言检测器的复杂度与精度快速提升,攻击模型除传统的谣言检测器外,选用了更复杂的模型以测试攻击能力[29 ] . 本研究在Zhu等[11 ] 工作的基础上,除经典的图神经网络模型如GCN[30 ] 、GAT[31 ] 、SAGE[7 ] 外,还引入UPFD[4 ] 的3种变体,即UPFD-GCN、UPFD-GAT、UPFD-SAGE作为受害网络,进一步探究EAT-GNN在更为复杂的基于图神经网络的谣言检测器上的表现. 用攻击成功率ASR来测试攻击的有效性,计算式为 ...
Backdoor attack on propagation-based rumor detectors
1
2025
... 为了研究EAT-GNN的攻击性能,选择经典的攻击方法以及近年来优秀的攻击方法进行比较,模型参数均按原文要求配置. 各基线模型介绍如下:1)MARL[9 ] ,利用多智能体强化学习框架来攻击基于图神经网络的假新闻检测器;2)HMIA-LLM[10 ] ,以同质性引导消息注入的攻击方法,利用大语言模型在黑盒设置下生成虚假消息,显著降低现有谣言检测模型的性能;3)GAFSI[11 ] ,同时考虑用户节点的局部影响力和全局影响力,在多种新闻图上均具有强大的攻击能力;4)IBAttack[32 ] ,针对基于传播的谣言检测器的后门攻击方法,通过相似性约束和动态预算控制,使触发器融入目标新闻的传播结构;5)DICE[33 ] ,修改图中的连接关系(包括删除原有边和添加新边),调整目标新闻的局部连接即可;6)SGA[34 ] ,在扰动目标新闻图时,仅需关注局部邻域信息(k 跳子图),无需全局信息,计算量降低. ...
1
... 为了研究EAT-GNN的攻击性能,选择经典的攻击方法以及近年来优秀的攻击方法进行比较,模型参数均按原文要求配置. 各基线模型介绍如下:1)MARL[9 ] ,利用多智能体强化学习框架来攻击基于图神经网络的假新闻检测器;2)HMIA-LLM[10 ] ,以同质性引导消息注入的攻击方法,利用大语言模型在黑盒设置下生成虚假消息,显著降低现有谣言检测模型的性能;3)GAFSI[11 ] ,同时考虑用户节点的局部影响力和全局影响力,在多种新闻图上均具有强大的攻击能力;4)IBAttack[32 ] ,针对基于传播的谣言检测器的后门攻击方法,通过相似性约束和动态预算控制,使触发器融入目标新闻的传播结构;5)DICE[33 ] ,修改图中的连接关系(包括删除原有边和添加新边),调整目标新闻的局部连接即可;6)SGA[34 ] ,在扰动目标新闻图时,仅需关注局部邻域信息(k 跳子图),无需全局信息,计算量降低. ...
Adversarial attack on large scale graph
1
2023
... 为了研究EAT-GNN的攻击性能,选择经典的攻击方法以及近年来优秀的攻击方法进行比较,模型参数均按原文要求配置. 各基线模型介绍如下:1)MARL[9 ] ,利用多智能体强化学习框架来攻击基于图神经网络的假新闻检测器;2)HMIA-LLM[10 ] ,以同质性引导消息注入的攻击方法,利用大语言模型在黑盒设置下生成虚假消息,显著降低现有谣言检测模型的性能;3)GAFSI[11 ] ,同时考虑用户节点的局部影响力和全局影响力,在多种新闻图上均具有强大的攻击能力;4)IBAttack[32 ] ,针对基于传播的谣言检测器的后门攻击方法,通过相似性约束和动态预算控制,使触发器融入目标新闻的传播结构;5)DICE[33 ] ,修改图中的连接关系(包括删除原有边和添加新边),调整目标新闻的局部连接即可;6)SGA[34 ] ,在扰动目标新闻图时,仅需关注局部邻域信息(k 跳子图),无需全局信息,计算量降低. ...
1
... 为了验证攻击中文谣言检测器时的性能,选择3个面对中文谣言检测器同样具有强大攻击能力的模型作为基线模型,测试EAT-GNN与基线在Weibo数据集上的表现. 因为中文文本与英文文本的分词与编码方式不同,所以要选用攻击中文谣言检测器时不损失攻击性能的基线方法. 3个基线对中文谣言检测器的攻击能力:MARL设置的智能体特征来自用户,可以在用户语言为中文时进行攻击;GAFSI的攻击源于用户的局部影响力与全局影响力;HMIA-LLM的文本特征来自大语言模型生成的文本,给大模型下达指令,令其生成的文本为中文. 中文文本采用BERT[35 ] 编码,各模型在Weibo数据集上对6种GNN的攻击效果对比如表3 所示. 可以看出,EAT-GNN在大多数情况下优于基线方法,证明该模型在中文新闻上依旧保持强大的攻击能力. HMIA-LLM表现依旧优异,这得益于大语言模型强大的生成能力,能够迭代地生成对抗文本. HMIA-LLM和GAFSI的攻击成功率大多数情况下依旧低于EAT-GNN,原因是二者都没有将属性与边的潜在耦合关系考虑进来. ...