基于信息瓶颈的社交推荐优化模型
Information bottleneck-based social recommendation optimization model
收稿日期: 2025-04-23
| 基金资助: |
|
Received: 2025-04-23
| Fund supported: | 广西创新驱动发展专项(AA20302001). |
作者简介 About authors
蔡晓东(1971—),男,研究员,博导,从事大数据挖掘研究.orcid.org/0000-0001-8505-1007.E-mail:
现有的社交去噪策略往往依赖于用户-项目交互数据进行偏好引导去噪,基本忽略了交互数据本身可能存在噪声的问题,且现有的负采样策略在硬度控制方面存在局限性,这将降低模型的推荐性能. 针对上述问题,提出基于信息瓶颈的社交推荐优化模型IB-SRO. 构建信息瓶颈引导的双视图协同去噪模块,该模块通过多阶段学习策略异步优化社交网络噪声与用户-项目交互噪声,并结合信息瓶颈协同优化方法对2种噪声进行阶段性优化,以增强不同视图之间的独立性,从而提高去噪效果. 设计新的差异感知负采样策略,通过混合相似度和差异感知函数来改进负采样策略,使其能够根据正样本的预测情况自适应选择合适硬度的负样本,以增强用户偏好的学习从而提高模型性能. 实验结果表明,在Top-N推荐任务中,IB-SRO相较于当前最先进的基线模型,在Epinions、Yelp和Douban-Book这3个数据集上分别实现了6.87%、6.72%和2.73%的平均提升,验证了模型的有效性.
关键词:
Existing social denoising strategies often rely on user-item interaction data for preference-guided denoising, basically ignoring the problem that the interaction data itself may be noisy, and there are limitations in the hardness control of existing negative sampling strategies, which will reduce the model’s recommendation performance. To address these issues, an information bottleneck-based social recommendation optimization model, IB-SRO, was proposed. First, an information bottleneck-guided dual-view collaborative denoising module was introduced, in which social network noise and user-item interaction noise were asynchronously optimized through a multi-stage learning strategy. A collaborative optimization method guided by the information bottleneck was applied to sequentially optimize the two types of noise, increasing the independence between different views and enhancing the denoising effect. Moreover, a novel difference-aware negative sampling strategy was designed. By combining similarity and difference-aware functions, the strategy was enabled to adaptively select appropriately hard negative samples based on the predicted scores of positive samples, enhancing the learning of user preferences and thereby improving the model’s performance. Experimental results showed that compared with the state-of-the-art models, IB-SRO achieved average improvements of 6.87%, 6.72%, and 2.73% on the Epinions, Yelp, and Douban-Book datasets respectively in Top-N recommendation tasks, which verified the effectiveness of the model.
Keywords:
本文引用格式
蔡晓东, 方晟, 李婷.
CAI Xiaodong, FANG Sheng, LI Ting.
早期的社交推荐主要采用矩阵分解的方法[3-4],这些方法通常仅考虑一阶社交关系来辅助推荐. 然而,随着图神经网络(graph neural network, GNN)技术的快速发展,其凭借捕捉高阶用户兴趣传播和社交影响扩散方面的优势,显著提升了推荐系统的性能. 因此,基于图的社交推荐方法[5]逐渐成为研究的热点,并取得了显著的进展. Fan等[6]提出GraphRec模型,开创性地使用GNN捕获用户-项目交互图和用户-用户社交图中节点的表征. Wu等[7]提出DiffNet++模型,通过模拟高阶社交影响传播和兴趣交互扩散来增强用户表示. Liao等[8]提出SocialLGN模型,通过轻量级图卷积层在交互图和社交图中传播用户表示,并设计图融合操作改善推荐效果. Cai等[9]提出PAAC模型,通过对流行物品的图监督和引入流行感知对齐机制,有效缓解了流行度偏差引发的表征分离问题. 尽管图神经网络在社交推荐领域取得了显著进展[6-10],但许多研究忽视了社交关系中的噪声问题. 具体而言,社交关系的存在并不一定意味着这些关系之间的兴趣偏好是一致的[11],因此直接利用社交数据进行偏好建模将导致推荐结果不准确.
尽管这些基于图的社交去噪模型取得了一定进展,但仍存在一些不足. 现有研究主要集中在社交网络中的去噪,且往往依赖于用户-项目交互数据来进行偏好引导去噪,基本忽视了交互数据本身存在的噪声问题. 实际上,用户-项目交互数据也存在噪声问题. 这是因为数据收集过程中面临诸多挑战,绝大多数交互数据都是隐式反馈形式[16],例如点击和浏览. 然而,隐式反馈可能并不完全反映其真实兴趣,例如用户可能因为朋友的分享而不经意地点击某个商品页面,或观看自己并不感兴趣的视频类型,这些行为都会增加交互数据中的噪声.
为了解决以上问题,本研究提出基于信息瓶颈的社交推荐优化模型(information bottleneck-based social recommendation optimization model,IB-SRO). 首先,提出信息瓶颈引导的双视图协同去噪模块,该模块通过多阶段学习策略异步优化社交网络噪声与用户-项目交互噪声,并结合信息瓶颈协同优化方法对2种噪声进行阶段性优化,以提升不同视图之间的独立性,从而增强去噪质量. 其次,设计了一种新的差异感知负采样策略,该策略通过混合相似度和差异感知函数来改进负采样策略,使其能够根据正样本的预测情况自适应选择合适硬度的负样本,以增强用户偏好的学习从而提高模型性能.
1. 问题定义与符号表示
设
2. IB-SRO模型
2.1. 整体框架
IB-SRO算法模型的整体框架如图1所示. 首先,采用基于图卷积网络(graph convolutional network, GCN)的多阶段学习策略异步学习社交去噪结构图和双图去噪结构图,从而逐步降低社交网络噪声和用户-项目交互噪声. 在此过程中,模型学习得到的多层次用户嵌入和项目嵌入进一步用于信息瓶颈协同优化方法,以增强不同视图之间的独立性,从而提升去噪网络的整体去噪能力. 随后,利用差异感知负采样策略自适应地为用户选择合适硬度的负样本. 最后,结合用户与项目的最终嵌入,计算用户与其正、负项目之间的偏好得分,并根据这些得分为用户提供Top-N推荐.
图 1
2.2. 信息瓶颈引导的双视图协同去噪
受现有模型[11-15]启发,社交数据和用户-项目交互数据中普遍存在噪声问题. 除此之外,社交噪声与交互噪声之间可能相互影响,若直接对2类噪声同步去噪,可能导致图卷积过程中信息干扰,不利于模型优化. 为了解决上述问题,基于现有工作,提出信息瓶颈引导的双视图协同去噪模块. 不同于以往方法,该模块同时关注社交网络噪声与用户-项目交互噪声,并通过信息瓶颈技术对2类噪声进行阶段性优化. 该方法利用社交网络视图与用户-项目交互视图的协同作用,实现去噪策略的学习,从而优化社交关系和用户-项目交互数据的质量,最终增强推荐系统的性能. 该模块由3部分构成:偏好引导的社交图去噪、多阶段学习的交互图去噪以及信息瓶颈协同优化.
2.2.1. 偏好引导的社交图去噪
尽管原始社交数据存在大量噪声,但由于社交网络缺乏先验知识或明确的标签信息,直接进行社交去噪具有较大挑战[20]. 本研究遵循社交同质性理论,认为兴趣社交用户之间具有相似的偏好. 在一定程度上,用户-项目交互情况代表用户偏好,因此本研究根据用户-项目交互情况计算用户与其社交朋友之间的关系得分,再根据得分对社交图进行噪声过滤和边缘丢弃.
首先,在欧几里得空间中随机初始化用户与项目节点的嵌入,分别用
式中:
接下来,通过预测层计算每条社交边的置信度
式中:
社交矩阵
式中:
最后,将每条社交边的保留概率
式中:
2.2.2. 多阶段学习的交互图去噪
经过社交去噪后,得到原始结构图和社交去噪结构图的邻接矩阵. 参考LightGCN架构[21],对邻接矩阵进行图卷积操作,以优化用户与项目的表示能力. 首先,对原始结构图进行图卷积操作,其初始输入嵌入定义如下:
式中:
随后,根据原始结构图的邻接矩阵,采用图卷积更新嵌入. 每一层的卷积更新公式如下:
式中:
获取每一层图卷积嵌入后,通过堆叠池化操作对各层嵌入
式中:
最后,将混合嵌入向量
采用同样的方法,对社交去噪结构图的邻接矩阵进行图卷积,得到用户最终嵌入
对于任意用户-项目交互边
最后,将每条交互边的保留概率
式中:
同理,对双图去噪结构图的邻接矩阵
总之,该多阶段学习策略能够有效缓解噪声干扰,避免传统方法中单阶段去噪可能导致的噪声扩散问题,有利于更精准地挖掘用户-项目交互关系并优化嵌入表示.
2.2.3. 信息瓶颈协同优化
受社交去噪模型[15]的启发,仅依靠上述去噪操作不足以学习高质量的双图去噪结构图. 这是因为经过充分训练后,原始结构图、社交去噪结构图和双图去噪结构图之间的差异可能较小,导致模型难以有效去除噪声. 因此,有必要引入一种额外的损失函数,以增强结构图之间的独立性,从而更好地捕捉潜在的非线性关系,提升去噪能力.
基于HSIC (Hilbert-Schmidt independence criterion)的信息瓶颈理论[22]为学习有效数据表示提供了一种理论框架,其核心在于有效压缩冗余输入信息的同时,最大程度保留与目标任务高度相关的信息. 基于此,本研究构建图间信息约束损失(HSIC-based graph information constraint, HGIC),通过最小化原始结构图、社交去噪结构图和双图去噪结构图三者之间的互信息,有效降低原始社交数据噪声与用户项目数据噪声.
首先,采样若干个用户-项目交互对并获取其唯一ID对应的嵌入表示,再计算原始结构图与社交去噪结构图之间的HGIC损失
式中:
同理,计算社交去噪结构图与双图去噪结构图之间的HGIC损失
式中:
2.3. 差异感知负采样策略
在推荐系统中,负采样策略的选择对于模型的训练至关重要. 负样本的硬度直接影响模型对用户偏好的学习,决定了模型能否有效区分用户感兴趣的项目和无关项目. 传统的BPR损失函数中,正样本与负样本之间的预测得分差异越大,模型学习的偏好越稳定. 然而,简单地选择负样本可能导致模型学习过于保守,难以捕捉用户的真实兴趣. 此外,由于交互数据中存在少量噪声,训练时用户偏好存在不确定性,交互项目不一定是模型需要的正样本,在此情况下传统的随机负采样策略难以满足模型的需要.
首先,对于任意用户,从未交互的数据中随机选择
式中:
类似的,还须使用混合相似度度量正样本嵌入
获取用户-正样本得分
式中:
获取每个用户-项目对的负样本
式中:
因此,最终的损失函数定义为
式中:
经过以上步骤,能够确保在社交网络和交互图都存在噪声的情况下,有效提升模型去噪质量,确保嵌入学习的稳健性. 可以预见,随着模型的迭代优化,双图去噪结构图会越来越可信,负采样质量也会不断优化,从而极大提升推荐效果.
模型伪代码如下.
算法1
Input: 用户-项目交互矩阵
Output: 目标用户未来可能交互的Topk-N个项目;
BEGIN
1: 随机初始化用户嵌入
2: 计算社交边的保留概率
3: 根据
4: 根据
5: 构建双图去噪结构图
6: 根据
7: 对于每个用户-正样本对
7.1:度量用户嵌入和正样本嵌入之间的匹配度
7.2:度量正样本嵌入和
7.3:根据差异感知函数挑选出硬度最合适的负样本
7.4:根据
结束循环
8: 计算模型最终损失
9: 根据模型预测用户
10: 根据评分预测用户
END
2.4. 复杂度分析
为了衡量所提方法的效率,详细分析了IB-SRO模型的时间复杂度. IB-SRO的计算成本主要由4部分组成:社交图和交互图去噪、多阶段嵌入传播、信息瓶颈计算和负样本选择. 假设
综上所述,IB-SRO的总时间复杂度大约为
表 1 不同模型上每一轮运行时间
Tab.1
| 模型 | Epinions | Yelp | Douban-Book | |||||
| ttrain/s | ttest/s | ttrain/s | ttest/s | ttrain/s | ttest/s | |||
| GDMSR | 26.97 | 5.68 | 38.14 | 9.61 | 26.97 | 5.68 | ||
| GBSR | 15.52 | 3.22 | 23.17 | 5.92 | 15.52 | 3.22 | ||
| IB-SRO | 23.74 | 3.43 | 35.61 | 6.10 | 23.74 | 3.43 | ||
3. 实 验
3.1. 数据集
在Epinions、Yelp、Douban-Book这3个广泛使用的社交推荐数据集上评估本研究的模型效果,它们都来源于真实的社交网络平台,具有高度的代表性和实际应用价值. 其中,Epinions数据集数据庞大且包含了丰富的信息关系,涵盖了用户对电影的评分以及用户间的社交信息. Yelp来源于商户点评网站,储存了各类商品的用户评级及用户之间的社交联系. Douban-Book是专注于图书分享的在线社交平台. 对于所有数据集,随机抽取80%的用户-项目交互作为训练数据,剩下的20%作为测试数据. 这3个数据集的统计信息如表2所示.
表 2 数据集的统计信息
Tab.2
| 数据集 | 用户数量 | 项目数量 | 交互数量 | 社交关系 数量 | 社交关系 稠密度/% |
| Epinions | |||||
| Yelp | |||||
| Douban-Book |
3.2. 基线模型和评价指标
本研究聚焦于社交推荐领域的项目排序任务,因此选用了2个常用的评价指标:召回率(Recall)和归一化折损累计增益(NDCG). 具体而言,对于Top-N推荐列表,Recall@N评估的是命中项目在真实情况下的占比,而NDCG@N则在此基础上,通过对排名靠前的项目赋予更高的权重,进一步衡量推荐的质量. Recall@N和NDCG@N越大表示预测准确性越好. 在本研究中,所有评价指标均基于全排序协议进行计算,该协议将所有未互动的项目视为候选项进行选择.
3.3. 参数设置
在本研究中,依据基线模型[15]的参数配置,并通过网格搜索法对超参数进行调优. 具体设置如下:批大小为
3.4. 整体性能比较
如表3所示展示了各模型在Epinions、Yelp和Douban-Book数据集上基于不同Top-N设置下的实验结果. 其中,R@N、N@N分别表示Recall@N和NDCG@N. 为了公平比较,所有去噪方法均是基于LightGCN主干进行的. 基于这些实验结果,得出了以下一些重要的观察结论.
表 3 各模型实验结果对比
Tab.3
| Models | Epinions | Yelp | Douban-Book | |||||||||||
| R@10 | N@10 | R@20 | N@20 | R@10 | N@10 | R@20 | N@20 | R@10 | N@10 | R@20 | N@20 | |||
| GraphRec | ||||||||||||||
| DiffNet++ | ||||||||||||||
| SocialLGN | ||||||||||||||
| ESRF | ||||||||||||||
| GDMSR | ||||||||||||||
| $\underline{{\rm{GBSR}}}$ | ||||||||||||||
| IB-SRO | ||||||||||||||
| Impro/% | 7.94 | 7.01 | 6.31 | 6.25 | 7.08 | 7.26 | 6.03 | 6.49 | 2.27 | 2.07 | 4.07 | 2.50 | ||
1)相较于GraphRec、DiffNet++、SocialLGN等主流的图神经网络推荐模型,ESRF、GDMSR和GBSR均在各个数据集上取得了一定程度的性能提升,表明专注于社交网络中的噪声研究有利于提升推荐性能. 具体而言,相较于SocialLGN,GDMSR在Epinions数据集中的Recall@10由
2)本研究提出的IB-SRO模型在3个数据集上的评价指标均显著优于所有基线模型,充分验证了双视图协同去噪和差异感知负采样的有效性. 与当前最先进的社交去噪模型GBSR相比,IB-SRO在所有数据集和Top-N设置上均取得了不错的性能提升. 例如,在Recall@20和NDCG@20指标上,Epinions数据集分别提升了6.31%和6.25%,Yelp数据集提升了6.03%和6.49%,Douban-Book数据集提升了4.07%和2.50%. 这一结果表明,IB-SRO进一步改进了现有去噪模型的局限性,尽管GDMSR和GBSR模型在社交去噪方面取得了一定进展,但它们仍主要聚焦于社交关系的去噪,而忽略了用户-项目交互数据中潜在的噪声问题. IB-SRO模型在此基础上进一步引入了信息瓶颈引导的双视图协同去噪,不仅对社交网络中的冗余关系进行了去噪,还进一步去除了少量用户-项目交互中的噪声数据. 此外,IB-SRO的差异感知负采样策略有效解决了现有负采样策略中过度关注“困难负样本”而忽视“真实负样本”的问题,从而提升了推荐质量.
综上所述,这些实验结果强有力地证明了IB-SRO模型在GNN图去噪领域所取得的优势,显著提升了社交推荐性能.
3.5. 消融实验分析
3.5.1. 关键组件的有效性
对3个数据集进行消融实验,并设计以下变体模型进行有效性分析. 1) IBSRO-S:去除偏好引导的社交图去噪,仅考虑用户-项目交互图去噪. 2) IBSRO-I:去除多阶段学习的用户-项目交互图去噪,仅考虑社交图去噪. 3) IBSRO-B:去除信息瓶颈协同约束. 4) IBSRO-N:去除差异感知负采样策略,使用常见的随机负采样. 实验结果如表4所示.
表 4 各关键组件的有效性分析
Tab.4
| 模型 | Epinions | Yelp | Douban-Book | |||||
| R@20 | N@20 | R@20 | N@20 | R@20 | N@20 | |||
| IBSRO-S | ||||||||
| IBSRO-I | ||||||||
| IBSRO-B | ||||||||
| IBSRO-N | ||||||||
| IB-SRO | ||||||||
由表4结果可知,IB-SRO在3个数据集上的各项指标均优于上述变体模型,充分证明了各个组件的有效性. 具体而言,IB-SRO的表现优于IBSRO-S,验证了社交图去噪在提升推荐性能方面的积极作用. 同时,IB-SRO优于IBSRO-I,表明仅对社交图进行去噪不足以优化推荐效果,用户-项目交互数据中的噪声同样影响用户兴趣的精准建模. 此外,IB-SRO相比IBSRO-B的性能提升进一步验证了信息瓶颈约束能够在去噪过程中有效保留关键信息,提高模型性能. 最后,IB-SRO优于IBSRO-N,表明传统随机负采样难以使模型充分捕捉用户个性化偏好,而差异感知负采样策略能够更精准地识别高质量负样本,从而优化推荐效果.
3.5.2. DANS的先进性
表 5 DANS先进性分析
Tab.5
| Methods | Epinions | Yelp | Douban-Book | |||||
| R@20 | N@20 | R@20 | N@20 | R@20 | N@20 | |||
| MixGCF | ||||||||
| DNS | ||||||||
| AHNS | ||||||||
| DANS | ||||||||
3.6. 训练效率对比
为了评估IB-SRO的训练效率,以Epinions和Yelp数据集为例,对比其与基线模型GBSR的训练过程,实验结果如图2、3所示. 为了确保实验的公平性,所有模型均采用相同的超参数配置,其中GCN层数固定为3,且实验结果均基于相同的早停策略. 由图2、3的结果可以观察到,IB-SRO的收敛速度显著快于GBSR. 在Epinions和Yelp数据集上,IB-SRO分别在51、50轮达到收敛,而GBSR则分别需要93、99轮才能达到收敛状态. 这一结果表明,相较于GBSR,IB-SRO不仅提升了推荐性能,同时在训练效率上也具有较大的优势,且在数据规模较大的情况下,收敛速度的提升更为明显. 本研究推测,该现象可能源于差异感知负采样策略的优化作用,使得模型能够更有效地区分正负样本,从而减少冗余训练. 此外,适量的交互去噪可能进一步增强了用户偏好学习的稳定性,从而加速模型的优化过程.
图 2
图 2 IB-SRO和GBSR在Epinions上的收敛曲线
Fig.2 Convergence curves of IB-SRO and GBSR on Epinions
图 3
图 3 IB-SRO和GBSR在Yelp上的收敛曲线
Fig.3 Convergence curves of IB-SRO and GBSR on Yelp
3.7. 参数敏感性分析
3.7.1. 负样本候选集个数的影响
为了验证负样本候选集个数
图 4
3.7.2. 信息瓶颈关键参数的影响
信息瓶颈损失系数
图 5
图 5 信息瓶颈参数对模型性能影响
Fig.5 Performance impact of information bottleneck parameters
4. 结 语
研究社交推荐系统中的噪声问题,针对社交网络噪声与用户-项目交互噪声,提出基于信息瓶颈的社交推荐优化模型IB-SRO. 该模型通过信息瓶颈引导的双视图协同去噪机制,分阶段优化社交网络和交互数据的噪声,并通过提升视图间的独立性,有效增强去噪效果. 同时,本研究设计的差异感知负采样策略能够根据正样本的预测情况自适应选择合适硬度的负样本,有利于模型更好地学习用户偏好. 实验结果表明,IB-SRO在Epinions、Yelp和Douban-Book这3个数据集上的性能表现显著优于当前的先进模型,进一步验证了其在GNN图去噪和社交推荐领域的有效性. 此外,IB-SRO在提升推荐质量的同时,能够显著加快收敛速度,提高训练效率,具备一定的实用性. 未来可以进一步探索细粒度更高的去噪策略,并结合用户兴趣的动态变化,以提升推荐算法的长期稳定性.
参考文献
A 61-million-person experiment in social influence and political mobilization
[J].DOI:10.1038/nature11421 [本文引用: 1]
A survey of graph neural networks for social recommender systems
[J].
DiffNet: a neural influence and interest diffusion network for social recommendation
[J].DOI:10.1109/TKDE.2020.3048414 [本文引用: 3]
SocialLGN: light graph convolution network for social recommendation
[J].DOI:10.1016/j.ins.2022.01.001 [本文引用: 2]
ReCRec: reasoning the causes of implicit feedback for debiased recommendation
[J].
A correlative denoising autoencoder to model social influence for top-N recommender system
[J].DOI:10.1007/s11704-019-8123-3 [本文引用: 1]
Enhancing social recommendation with adversarial graph convolutional networks
[J].DOI:10.1109/TKDE.2020.3033673 [本文引用: 2]
Balancing user preferences by social networks: a condition-guided social recommendation model for mitigating popularity bias
[J].DOI:10.1016/j.neunet.2025.107317 [本文引用: 1]
The HSIC bottleneck: deep learning without back-propagation
[J].DOI:10.1609/aaai.v34i04.5950 [本文引用: 2]
/
| 〈 |
|
〉 |

