浙江大学学报(工学版), 2023, 57(8): 1527-1540 doi: 10.3785/j.issn.1008-973X.2023.08.006

计算机技术

融合知识图谱的推荐系统研究进展

王慧欣,, 童向荣,

烟台大学 计算机与控制工程学院,山东 烟台 264005

Research progress of recommendation system based on knowledge graph

WANG Hui-xin,, TONG Xiang-rong,

School of Computer and Control Engineering, Yantai University, Yantai 264005, China

通讯作者: 童向荣,男,教授. orcid.org/0000-0003-4855-3723. E-mail: xr_tong@163.com

收稿日期: 2022-07-29  

基金资助: 国家自然科学基金资助项目(62072392, 61972360);山东省重大科技创新工程资助项目(2019522Y020131);烟台市重点实验室资助项目

Received: 2022-07-29  

Fund supported: 国家自然科学基金资助项目(62072392,61972360);山东省重大科技创新工程资助项目(2019522Y020131);烟台市重点实验室资助项目

作者简介 About authors

王慧欣(1996—),女,硕士,从事知识图谱、推荐系统研究.orcid.org/0000-0001-7515-1063.E-mail:huixin_king@163.com , E-mail:huixin_king@163.com

摘要

针对推荐系统存在的数据稀疏、冷启动、推荐可解释性低、个性化不足等问题,分析知识图谱在推荐系统中的融入情况.从推荐系统的需求、知识图谱的相关概念、推荐系统与知识图谱的融合方式3个方面,对当前推荐系统存在的问题及推荐系统融合知识图谱后的解决方案进行概括. 总结近年来通过结合注意力机制、神经网络、强化学习方法,采用取舍节点、整合节点、探索路径等原理充分利用知识图谱中复杂结构信息,从而提升推荐系统满意度. 提出融合知识图谱的推荐系统所面临的知识图谱完备性、动态性、高阶关系可利用度以及推荐性能方面的挑战及未来可能的发展方向.

关键词: 知识图谱 ; 推荐系统 ; 协同过滤 ; 注意力机制 ; 图嵌入

Abstract

Aiming at the problems of data sparsity, cold start, low interpretability of recommendation, and insufficient personalization in recommender system, the integration of knowledge graph into recommender system was analyzed. From the demand of recommender system, the concept of knowledge graph, and the integration approach of recommender system and knowledge graph, the problems of current recommender system and the solutions of recommender system after integrating knowledge graph were summarized. It was reviewed that, in recent years, the attention mechanism, neural network and reinforcement learning methods were combined, by which the principles of node trade-off, node integration, and paths exploring were used to make full use of the complex structural information in knowledge graph, so as to improve the satisfaction degree with the recommender system. The challenges and possible future development direction of the recommender system integrating the knowledge graph were put forward in terms of knowledge graph completeness, dynamics, availability of higher-order relationships, and the performance of the recommendation.

Keywords: knowledge graph ; recommendation system ; collaborative filtering ; attention mechanism ; graph embedding

PDF (1419KB) 元数据 多维度评价 相关文章 导出 EndNote| Ris| Bibtex  收藏本文

本文引用格式

王慧欣, 童向荣. 融合知识图谱的推荐系统研究进展. 浙江大学学报(工学版)[J], 2023, 57(8): 1527-1540 doi:10.3785/j.issn.1008-973X.2023.08.006

WANG Hui-xin, TONG Xiang-rong. Research progress of recommendation system based on knowledge graph. Journal of Zhejiang University(Engineering Science)[J], 2023, 57(8): 1527-1540 doi:10.3785/j.issn.1008-973X.2023.08.006

随着网络的高速发展与现代科技产品的普及,人类迎来了大数据时代,现实生活中产生了海量的数据. 用户对信息的处理能力远远低于信息传播的速度,上述问题被定义为信息过载[1]. 信息过载可以通过搜索引擎技术[2]和推荐系统技术[3-4]缓解. 搜索引擎获得的信息完全相同,难以满足用户的个性化需求. 推荐系统能在海量数据中自动帮助用户找到可能偏好的信息,为用户提供更个性化的数据服务,这也产生了难以估量的商业价值.

推荐系统的核心是个性化推荐算法[5-7],其主要思想是通过分析用户行为、物品属性和用户-物品的历史交互,提取出用户和物品的特征,来实现对不同用户的个性化推荐. 传统的推荐系统仅把用户和物品交互图作为系统的输入,这会产生2个问题:一是数据稀疏[8]会导致过拟合(overfitting)[9]风险;二是冷启动问题(cold start problem)[10]导致算法无法进行推荐.

为了缓解上述问题,一些研究者考虑将知识图谱(knowledge graph,KG)[11-14]作为辅助信息(side information)融入到推荐系统中,可以丰富用户-物品的交互以及用户与用户、物品与物品的关联信息,提高推荐系统的准确性.

KG这一概念最早在2012年由谷歌公司提出,用于帮助完善它自己的搜索引擎. KG自身的优势在于:1)具有丰富的实体(entity)与关系(relation)信息,便于知识的存储和集成;2)具有优越的适应性,可以灵活地与日新月异的人工智能技术结合,在多个领域发挥作用;3)基于图结构的数据逻辑清晰,结构化的知识具备理想的高阶连通性,增强了推理的可解释性.

由于KG中存在大量实体间的关联信息, 可以有效缓推荐系统中的解数据稀疏和冷启动问题,推动两者的结合是当前推荐系统领域的研究热点. 本研究旨在深入探讨推荐系统与知识图谱的关系,并为推荐系统中知识图谱的应用提供详细的综述. 本研究阐述了推荐系统与KG的概念定义;综述了将KG融入推荐系统的3种不同方式,包括基于特征、路径与混合推荐系统;介绍了在融入KG的推荐系统中应用注意力网络、图神经网络、强化学习技术的具体方法和效果,这些技术可以利用知识图谱中的信息来提升推荐系统的准确度和个性化程度,为用户提供更加精准和个性化的推荐结果;讨论目前融合KG的推荐系统的研究难点,以及未来可能的研究方向.

1. 背景知识

1.1. 推荐系统

推荐系统是人工智能领域一个经典的应用. 作为帮助用户过滤无用信息和检索各类可能感兴趣物品的工具,推荐系统的成功落地源于其出色的性能.

推荐系统的形式化表示如下:给定 $ M $个用户(user)和 $ N $个物品(item),用户集合为 $ U={\{u}_{1}, \cdots ,{u}_{m}\} $,物品集合为 $V=\{{v_{1},\cdots ,v_{n}}\}\mathrm{. }\;U\times V\to \boldsymbol{R}$表示它们的交互矩阵. 推荐系统的任务是为 $ {u}_{i} $找到最感兴趣的物品 $ {v}_{k} $,即

$ \forall {u}_{i}\in U\text{,}{v}_{k}=\underset{{v}_{j}\in V}{\mathrm{arg}\mathrm{max}}\;f\left({u}_{i},{v}_{j}\right) . $

推荐系统分为2类:以协同过滤(collaborative filtering, CF)[15-21]为代表的传统模型和添加了辅助信息的混合推荐模型.

从技术角度上讲,所有的推荐系统都采用一种或多种推荐策略,如基于内容的推荐[21-25]、基于协同过滤的传统推荐系统和混合推荐系统[26-27]. 描述如下.

1) 基于内容的推荐算法:归纳出用户感兴趣物品的属性,并将具有同一属性的其他物品推荐给用户,是基于内容的推荐算法的基本思想. 算法核心是提取物品的特征表达并计算物品与物品之间的相似度. 如图1所示,用户 $ {u}_{1} $曾与物品A交互过,推荐系统将与物品A相似的物品B推荐给用户.

图 1

图 1   基于内容的推荐算法

Fig.1   Content based recommendation algorithm


2)基于CF的推荐算法:该算法无须事先获得用户或物品的特征数据,仅在用户-物品历史交互数据中找出它们的相关联性,然后考虑用户或者物品之间的相似度进行相关推荐[28]. 该算法可以分为基于用户的CF推荐和基于物品的CF推荐.

基于用户的CF推荐如图2(a)所示,用户 $ {u}_{1} $$ {u}_{2} $相似, $ {u}_{2} $与物品D交互过且未与用户 $ {u}_{1} $交互,则将物品D推荐给用户 $ {u}_{1} $. 基于物品的CF推荐如图2(b)所示,物品A与物品B都与用户 $ {u}_{1} $$ {u}_{2} $交互过,则判断物品A与物品B相似. 由于 $ {u}_{3} $与物品A交互过,将物品B推荐给用户 $ {u}_{3} $. 该算法以用户的历史偏好作为衡量推荐的权重,用来预测当前用户对未涉及的物品的偏好,最后将计算后的物品相似度排序列表推荐给用户.

图 2

图 2   基于用户和物品的CF推荐图

Fig.2   CF recommendation chart based on user and item


CF算法具有较好的泛化能力,可以应用于多个领域,目前很多推荐算法都是基于此进行改进与提升的. 但是将CF算法用作推荐需要大量的用户-物品交互数据进行分析,在数据稀疏的情况下难以产生良好的推荐效果.

3)混合推荐算法:为了解决上面2种推荐系统遇到的稀疏性和冷启动难题,产生了将多种推荐策略相融合的推荐算法[29-32],目的是强化算法间的优势,减少单一算法的劣势或局限性. 其中最常见的是将CF算法与其他推荐算法结合.

除了算法的叠加,混合推荐系统还可以通过在推荐模型中额外添加辅助信息来解决数据稀疏、冷启动或数据缺失[33]等问题. 如图3所示为推荐算法中一些常用的辅助信息.

图 3

图 3   推荐系统常用辅助信息

Fig.3   Common side information of recommendation system


1) 社交网络(social networks)[34-36]:社交网络是记录了用户间关系的信息网络,在推荐算法中加入这一信息的逻辑是如果用户 $ u $对某个物品 $ v $感兴趣,那么 $ u $的朋友可能也会对 $ v $感兴趣.

2) 上下文(context)[37-38]:上下文是在推荐系统的输入端额外加入用户-物品二项图交互发生的时间、地点、交互背景等信息.

3) 用户/物品属性(attributes)[39]:属性记录了用户或物品的特征,假设2个不同的用户具有同一类属性,那么他们可能会喜欢同一类物品.

4) 用户之间信任值(trust)[40-42]:通过计算用户与邻居的信任值,对邻居的偏好进行加权融合. 越信任的邻居,喜欢同一类物品的可能就越大.

近年来,将KG作为辅助信息引入推荐系统[43-50]越来越受到研究人员的关注. 此举可以将跨领域信息整合到推荐系统中,有助于理解用户的偏好,提高推荐的可解释性,具有重要的研究与应用价值.

1.2. 知识图谱

KG是映射客观世界的异构语义网络,是一种对现实世界的简单描述. KG本质是一种基于图结构的数据网络,可以将其理解为一个包含实体(节点)与关系(有向边)的信息网络,用 $ G=\left\{S,E\right\} $表示, $ S=\left\{P\right\} $表示KG中的实体集, $ E $表示边集. 即一个节点还拥有着丰富的属性信息,若节点 $ S $与关系 $ E $都具有不同的类型特征,则称这个网络是异构(heterogeneous)[51]的,与之相对的是同构网络[52].

三元组是KG的一种通用表示方式,普遍被描述为如<头实体,关系,尾实体>或<实体,属性,属性值>形式的三元组结构. 实体代表独立存在的唯一可区别的某种事物,如某一个商品、某一部电影、某一个人物等,具体事物组成了世间万物,事物即实体,不同的实体亦具有不同的属性. 实体是构成KG最基本的元素,将实体与实体连接到一起的是不同的关系.

三元组中定义 $ \varepsilon $为知识体系中实体的集合,其中包含不同的实体| $ \varepsilon $|个; $ R $为知识体系中关系的集合,其中包含不同的关系| $ R $|个. 三元组形式化为: $ \mathcal{G}=\left\{\left(h,r,t\right)|h,t \in \varepsilon , r \in R\right\} $,表示知识库中的三元组集合. 如图4所示,以<苹果公司,创始人,乔布斯>或<苹果公司,成立时间,1976年>为例. 在第1个三元组中,头实体是“苹果公司”,尾实体是“乔布斯”,关系是“创始人”;在第2个三元组中,实体是“苹果公司”,属性是“成立时间”,值为“1976年”.

图 4

图 4   知识图谱示例图

Fig.4   Diagram of knowledge graph


在理解KG在推荐系统中的作用时须注意KG与物品属性的区别. 物品属性可以看作KG中某个实体的一跳(1-hop)的节点,与该实体有直接相连的关系,物品属性是一种简化的KG. 社交网络也可以看成只有用户和关系的弱化版KG. 一个理想的KG可以给算法带来更精准、更富有多样性、更具解释性的推荐结果. KG不仅能够为推荐算法引入更多语义关系从而进行信息补充,而且能够改善传统推荐系统存在的推荐结果可解释性不足的缺点. 如图5所示, $ {u}_{2} $→《星际穿越》→类型→《致命魔术》这条路径给推荐系统带来了具有可解释性的推荐,KG中丰富的语义关系和高维度的图结构,使在算法中应用KG比应用其他辅助信息更加复杂和困难. 因此,想要KG在具体推荐场景中发挥理想的性能,对KG的处理是推荐系统领域的核心问题.

图 5

图 5   基于知识图谱的推荐系统示意图

Fig.5   Schematic diagram of knowledge graph based recommendation system


2. 推荐系统与知识图谱的融合方式

现有的基于KG的推荐系统对KG的应用通常有3种方式:基于特征的推荐方法、基于路径的推荐方法和混合方法,基于特征的推荐方法又分为基于嵌入(embedding)[53-55]的方法和基于语义匹配[56-60](semantic matching)的推荐方法,如表1所示总结了近年来在融合知识图谱推荐算法领域取得优秀成果的研究算法.

表 1   使用不同KG方式的推荐算法对比列表

Tab.1  Comparison list of recommendation algorithms using different KG methods

方法 年份 KG使用方式 融入算法模型
特征 路径 混合 CNN GNN GCN Att RL RNN MF
CKE[61] 2016
KTUP[11] 2019
DER[62] 2019
MKR[43] 2019
KV-MN[63] 2018
PGPR[52] 2019
KPRN[64] 2019
TMER[65] 2021
FMG[66] 2017
Ekar[67] 2019
ERKM[13] 2021
ReMR[68] 2022
RippleNet[69] 2018
KGCN[70] 2019
KGAT[71] 2019
KGNN-LS[72] 2019
KERL[73] 2020
KGIN[74] 2021
Mvin[75] 2020
CKAN[76] 2020
KRED[77] 2020
McHa[78] 2022
PeRN[79] 2021
KR-GCN[80] 2022

新窗口打开| 下载CSV


2.1. 基于特征的推荐方法

基于特征的推荐方法特点是在推荐算法的输入端中统一地输入用户和物品属性. 重点是对KG进行特征学习,将高维稀疏的图数据转为稠密低维的向量数据. 以 $ \mathrm{L}\mathrm{i}\mathrm{b}\mathrm{F}\mathrm{m} $[81]为例,表达式如下:

$ \hat y\left( {\boldsymbol{x}} \right): = {w_0}+\mathop \sum \limits_{j = 1}^p {{\boldsymbol{w}}_j} \cdot {{\boldsymbol{x}}_j}+\mathop \sum \limits_{j = 1}^p \mathop \sum \limits_{j' = j+1}^p {{\boldsymbol{x}}_j}\cdot{{\boldsymbol{x}}_{j'}}\mathop \sum \limits_{f = 1}^k {{\boldsymbol{v}}_{j,f}} \cdot {{\boldsymbol{v}}_{j',f}} . $

式中: $ \boldsymbol{x}_j \in {\bf{R}}^p $为一个有p个实值变量的样本,x为样本组成的矩阵, ${w}_{0}$$ {\boldsymbol{w}}_{j} $为偏置项和一阶权重, $ {\boldsymbol{v}}_{j} $为第 $ j $个特征的潜在因子向量, $ {\boldsymbol{v}}_{j,f} $为交叉项系数, $ \hat{y}\left(\boldsymbol{x}\right) $为预测值,k为分解因子的维数.

该算法将用户和物品的属性 $ \boldsymbol{x} $作为推荐算法的输入,然后令这一用户与物品之间的交互强度函数 $ y\left(\boldsymbol{x}\right) $依赖于 $ \boldsymbol{x} $中所有的一次项与二次项.

2.1.1. 基于嵌入的推荐方法

KG中的三元组作为一种图数据结构,其具有的高维性和异构性使KG很难在现实推荐中应用,因此提出一种解决方法:知识图谱嵌入(knowledge graph embedding,KGE)[82-83]. KGE从稀疏地实体和关系邻接矩阵中通过特征学习,得到稠密低维地向量,同时保持了KG中原有的图结构和语义信息.

基于嵌入的推荐是一种基于距离的算法模型[84-85],该算法的代表是Trans系列,如TransE[86]、TransH[87]、TransR[88]、TransD[89]等. TransE(见图6(a))是这个系列的创始,其基本思想是三元组的头节点 $ h $、关系 $ r $、尾节点 $ t $都有对应的向量,由真实的三元组可以得到 $ h+r=t $,这样的等式称之为事实. 在TransE中期望的结果是 $ h+r\approx t $,即 $ h+r $的结果和 $ t $越接近,则推荐结果就越可信,KG中的实体和关系也越可能成立. 定义评分函数如下:

图 6

图 6   Trans系列翻译模型

Fig.6   Trans series translation model


$ {f_{{{\boldsymbol{e}}^r}}}\left( {{{\boldsymbol{e}}^h},{{\boldsymbol{e}}^t}} \right) = | {| {{{\boldsymbol{e}}^h}+{{\boldsymbol{e}}^r} - {{\boldsymbol{e}}^t}} |} | . $

式中: $ {\boldsymbol{e}}^{h}、{\boldsymbol{e}}^{r}、{\boldsymbol{e}}^{t} $分别为头实体 $ h $、关系 $ r $和尾实体 $ t $的嵌入向量. 将头实体向量 $ {\boldsymbol{e}}^{h} $与关系向量 $ {\boldsymbol{e}}^{r} $相加,并与尾实体向量 $ {\boldsymbol{e}}^{t} $进行比较,计算其欧氏距离(或其他距离度量). 评分函数的结果越小,表示头实体、关系和尾实体的匹配度越高.

优化目标是最小化评分函数,TransE能够解决1-1的关系,但在解决1-NN-1、N-N关系时效果不佳. 例如图5中,<马修,主演,《星际穿越》>和<马修,主演,《黑暗塔》>2个三元组通过TransE嵌入后,会导致得到的《星际穿越》与《黑暗塔》的表征向量在向量空间中过于接近,这会导致推荐结果不符合现实认知.

针对TransE存在的问题,提出了TransH(见图6(b)),该算法先通过嵌入学习得到KG中实体的向量表示,通过平移原则来学习每个实体和关系,将头实体h和尾实体t投影到关系r所在的超平面中,表示式如下:

$ {\boldsymbol{e}}_h^r+{{\boldsymbol{e}}_r} \approx {\boldsymbol{e}}_t^r. $

式中: $ {\boldsymbol{e}}_{h}^{r} $为头实体映射到关系 $ {\boldsymbol{e}}^{r} $上的向量表示, $ {{\boldsymbol{e}}}_{t}^{r} $为尾实体映射到关系er上的向量表示. 评分函数为

$ {f_{{{\boldsymbol{e}}^r}}}\left( {{\boldsymbol{e}}_h^r,{\boldsymbol{e}}_t^r} \right) = ||{{\boldsymbol{e}}^{{h_ \bot }}}+{{\boldsymbol{e}}^r} - {{\boldsymbol{e}}^{{t_ \bot }}}||_2^2 . $

其中,

$ {{\boldsymbol{e}}^{{h_ \bot }}} = {{\boldsymbol{e}}^h} - {{\boldsymbol{w}}_{{{\boldsymbol{e}}^r}}} \cdot {{\boldsymbol{e}}^h} \cdot {{\boldsymbol{w}}_{{e^r}}} ,$

$ {{\boldsymbol{e}}^{{t_ \bot }}} = {{\boldsymbol{e}}^t} - {{\boldsymbol{w}}_{{{\boldsymbol{e}}^r}}} \cdot {{\boldsymbol{e}}^t} \cdot {{\boldsymbol{w}}_{{e^r}}} .$

式中: ${{\boldsymbol{w}}_{{{\boldsymbol{e}}^r}}}$为向量 $ {\boldsymbol{e}}^{r} $在平面的法向量, ${{\boldsymbol{w}}}_{{e}^{r}}\cdot {{\boldsymbol{e}}}^{h}、{{\boldsymbol{w}}}_{{e}^{r}}\cdot {{\boldsymbol{e}}}^{t}$$ {\boldsymbol{e}}^{h}、{\boldsymbol{e}}^{t} $$ {{\boldsymbol{w}}_{{{\boldsymbol{e}}^r}}} $上的投影长度.

经过上述处理后,尽管不同三元组头实体h和关系r相同,嵌入后的尾实体t也会不同. 在一定程度上,TransH解决了TransE不能处理多对多关系的难题. 在推荐系统中,TransH的超平面向量空间解决了当不同用户出于同一偏好喜欢某物品时,用户嵌入结果接近的问题. TransH可以帮助推荐系统归纳用户的偏好,推理用户可能感兴趣的物品.

TransR(见图6(c))认为上述2个算法将实体和关系放在同一嵌入空间中进行考虑是不合适的,因为一个实体具有不同方面的多个属性,实体间不同的关系关注的实体属性也不同,因此TransR认为不能把实体和关系放在同一空间中考虑. TransR构建实体空间和关系空间,评分函数如下:

$ {f_{{{\boldsymbol{e}}^r}}}\left( {{{\boldsymbol{e}}^h},{{\boldsymbol{e}}^t}} \right) = ||{\boldsymbol{e}}_h^r+{{\boldsymbol{e}}^r} - {\boldsymbol{e}}_t^r||_2^2 . $

其中,

$ {\boldsymbol{e}}_h^r = {{\boldsymbol{e}}^h} {{\boldsymbol{M}}_{{{\boldsymbol{e}}^r}}} \text{,} $

$ {\boldsymbol{e}}_t^r = {{\boldsymbol{e}}^t}{{\boldsymbol{M}}_{{{\boldsymbol{e}}^r}}} . $

式中: $ {\boldsymbol{e}}_h^r $$ {\boldsymbol{e}}_t^r $为实体向量, $ {{\boldsymbol{e}}^r} $为关系向量, ${{\boldsymbol{M}}_{{{\boldsymbol{e}}^r}}}$为关系空间的投影矩阵. 在现实推荐场景中,用户与物品数量庞杂,而TransR比TransE和TransH更适合处理大型且复杂的关系,应用在大型推荐系统中处理数据具有优势. 不过TransR引入了空间投影概念,使得模型参数急剧增加,不利于推荐模型的计算性能提升.

在上述3种模型,认为头实体到尾实体可以被认为是一种翻译,在TransD(见图6(d))中,使用2个向量来表征2个实体(头实体和尾实体),其向量表征为

$ {{\boldsymbol{e}}^{{h_ \bot }}}{\text+}{{\boldsymbol{e}}^r} = {{\boldsymbol{e}}^{{t_ \bot }}} .$

相比上述模型,TransD同时考虑了关系和实体的多样性,并且只利用头实体和尾实体2个向量空间构建投影矩阵,解决了TransR中多个投影空间导致的参数过多的难题.

除了上述4个模型,还有其他Trans系列模型,不再过多论述. 总体上,Trans模型将头尾实体之间的距离翻译成关系,帮助推荐系统更好地利用KG中丰富的知识信息.

在将KG作为辅助信息的推荐系统中,基于嵌入的方法达到了降维和优化处理KG信息的目的. 但是KGE算法更适合处理在KG中的路径预测应用,即预测图谱中尚未连接的2个实体之间产生连接的可能性. 而在推荐场景中不仅仅是利用KG中节点间已有连接,须更多地发现用户潜在可能感兴趣的物品,因此KGE仅能有限地提升推荐系统的性能.

2.1.2. 基于语义匹配的推荐方法

语义匹配是指在语义上评价文本的相似度,这类方法可以学习物品相关实体的表征,使用基于相似度的评分函数评估三元组成立的概率. 基于语义匹配的推荐方法的关键是构造一个二分类模型,将头实体关系和尾实体输入到模型中,如果KG中真实存在该三元组,则模型最终得出概率预测接近于1.0,反之,概率接近于0. 将语义匹配应用到推荐系统,可以预测用户对物品喜好的真实性. 但是这类模型的重点是KG中三元组的匹配而非寻找可能的推荐路径,更适用于文本分类[90]与自然语言处理[91]方向,融合到推荐系统会导致推荐结果不可控.

基于特征的推荐方法具有较好的通用性,可以将KG简化为物品属性,但是这类算法并非针对KG设计的,它的缺点也显而易见:无法高效利用KG中的深层连接和多跳地实体知识路径,也难以引入KG中的关系信息.

2.2. 基于路径的推荐方法

基于路径的推荐方法(path-based method),如TMER[66]、EMG[67]将KG视为一个具有丰富实体与关系的异构信息网络. 在推荐系统中,基于路径的推荐方法在KG中构造物品之间的路径特征,这些特征基于元路径或元图谱进行定义. 元路径定义了一系列关系路径序列,其中路径的两端连接2个实体,元路径是针对异构网络的相似性搜索. 比如在电商推荐中采用“商品→类型→商品→店铺→商品”这条元路径可以连接2个商品实体,这种方式可以挖掘出KG中2个实体的潜在关系. 元图谱与元路径具有类似的定义,不同之处是元路径只定义一个关系序列,元图谱是不同元路径的组合. 与元路径相比,元图谱包含了KG中实体之间更具解释性的结构信息.

该方法最早可以追溯到2014年的基于异构信息网络的个性化实体推荐(personalized entity recommendation, PER)[92]. PER认为不同用户选择同一物品是出于不同的动机,例如用户A和用户B观看了同一部电影,但A是出于对电影题材感兴趣而B是因为朋友推荐. PER针对不同的用户建立了不同的实体推荐模型,为了实现这一目的,PER设计了一个得分函数:

$ \begin{gathered} s\left( {{u_i},\left. {{e_j}} \right|P} \right) = \\ \mathop \sum \limits_{{e_k} \in I} \frac{{2 {R_{{u_{j},{e_k}}}} |\{ {p_{{e_k} \to {e_j}}}:{p_{{e_k} \to {e_j}}} \in P'\} |}}{{|\{ {p_{{e_k} \to {e_k}}}:{p_{{e_k} \to {e_k}}} \in P'\} |+|\{ {p_{{e_j} \to {e_j}}}:{p_{{e_j} \to {e_j}}} \in P'\} |}} \\ \end{gathered} .$

式中: $ s\left({u}_{i},\left.{e}_{j}\right|P\right) $为用户 $ u_i $沿着元路径 $ P $与项目 $ {e}_{j} $的不同分数; $ {R_{{u_{j},e_{k}}}} $表示已经观察到的针对用户 $ {u}_{j} $的用户-物品交互;P'表示元路径P去掉第1个节点后得到的另一条元路径; $ {p}_{{e_k}\to {e}_{j}} $表示项目 $ {e_k}\mathrm{到}{e}_{j} $的一条路径,其他同理. 这个得分包含已被观测的用户-物品交互和 $ {u}_{i} $潜在感兴趣的偏好物品 $ {e}_{j} $之间的连接性2个部分. 物品之间沿着元路径 $ P $的路径数量即物品之间的连接性. PER的全局推荐模型如下:

$ r\left( {{u_i},{e_j}} \right) = \mathop \sum \limits_{q = 1}^L {\theta _q} \cdot \hat {\boldsymbol{U}}_i^{\left( q \right)}\cdot\hat {\boldsymbol{v}}_j^{\left( q \right)} .$

式中: $r\left( {{u_i},{e_j}} \right)$表示用户 $ {u_i} $对实体 ${e_j}$的得分, $ {\theta }_{q} $表示第 $ q $层用户和物品的低秩矩阵权重, $ \hat {\boldsymbol{U}}_i^{\left( q \right)} $为用户 ${u_i}$沿第 $ q $个元路径的潜在特征, $ \hat {\boldsymbol{v}}_j^{\left( q \right)} $$ {e_j} $沿第 $ q $个元路径的潜在特征,L为与ui有关联的用户个数. 根据式(13)可以得到给定用户与其他所有物品的推荐分数,对这些分数排序最终返回top-K作为推荐结果.

基于路径的推荐模型利用用户或物品的连接相似性来增强推荐,过去也称为基于异构网络的推荐. 传统基于路径的推荐算法PER[92]、FMG[67]之类通常将矩阵分解(matrix factorization, MF)与异构网络中提取的元路径进行集成. 基于路径的推荐方法的优点是充分且直接地利用了KG中的语义网络结构,自然地将可解释性引入了推荐过程. 传统基于路径的推荐方法缺点是根据推荐平台与推荐目标的不同,通常需要领域知识来手动设计定义元路径或元图谱的类型和数量,这在现实场景中难以大规模应用,效果也难以获得最优;同时,当需要被推荐的实体之间跨领域时(比如短视频推荐和新闻推荐),该类方法无法有效应用,因为基于路径的方法无法在未知场景过多的情况下预定义元路径或元图谱.

2.3. 混合推荐系统

尽管基于特征提取和基于路径2种推荐系统都对传统的推荐系统作了改进,但都没能充分地利用KG中的信息. 研究人员开始试图将基于路径的实体连接关系与特征学习的语义表示思想结合来进行推荐:首先在KG上通过学习用户与物品之间的路径的方式来得到用户的偏好,随后通过图嵌入的方式对不同的偏好进行特征学习,最后将信息输入推荐模块完成推荐,这构成了混合推荐模型[93].

混合推荐系统的一个常用手段是在原本用户-物品二项图的基础上,将用户行为和物品知识编码为一个统一的关系图,称为协同知识图谱(collaborative knowledge graph, CKG). CKG首先将每个用户行为表示为三元组(U, int, I),其中 $ U $I分别为用户-物品二项图中的用户集合与物品集合, $ {y}_{ui} $ =1表示为用户U和物品I之间的额外交互关系int存在可观察到的交互,否则 $ {y}_{ui} $ =0. 然后基于用户-物品二项图进行对齐处理,如图7所示, $ {u}_{1} $与实体 $ e $被认为是同一物品. 经过上述处理可以将用户-物品图与KG无缝集成为统一的图:

图 7

图 7   协同知识图谱

Fig.7   Collaborative knowledge graph


$ \mathcal{G} = \{ \left( {h,r,t} \right)|h,t \in \varepsilon ',r \in R'\} .$

式中: ${\varepsilon }{{'}}=\varepsilon \cup U,{R}{{'}}=R\cup \left\{{\rm{int}}\right\}$,经过上述处理后,用户-物品二项图就被对齐到KG中,使推荐系统可以充分探索CKG中的高阶连接性.

混合推荐的一个经典模型是RippleNet[70],这是一个基于KG偏好传播的推荐系统. RippleNet以协同过滤模型为基础,将KG作为额外的辅助信息融入推荐系统. 该方法同时结合KGE与元路径两者的优势,将KG中与用户 $ u $直接交互过的物品集合 $ {\varepsilon }_{u}^{0} $定义为种子,以种子为起点向邻近的其他实体向外传播,每传播一层定义为一跳. 用户 $ u $的每一个历史交互记录如同水滴落入水面,用户的潜在偏好将会如同波纹向外侧传播,这也是该方法命名的由来,也称作偏好传播(user preferences propagation).

混合推荐模型既利用了KG中丰富的知识与高阶关系信息,又通过KGE的思想实现实体和关系的低维向量表示. 在提升推荐表现的同时也增加了参数调优和资源消耗的问题,如何在保证混合模型能给出精准、高效、多样的推荐结果的同时降低这类模型的复杂度是以后须进一步探索的问题.

3. 融入知识图谱的推荐系统模型

在推荐系统领域中,为了使推荐结果更加准确、可解释性更高,将KG推荐系统与其他算法相结合非常必要.

3.1. 结合注意力机制的知识图谱推荐系统

注意力机制(attention mechanism, Att)[72,94-96]指在有限的计算能力中为更重要的任务分配更多的计算资源,在处理序列任务中表现出了强大的能力. 由于注意力机制只关心数据中最重要的部分,十分适合在图结构中取舍节点并找到最合适的物品进行推荐. 如图8所示为注意力网络的简单模型. 将注意力机制融入KG推荐系统的代表算法有KGCN[71]和KGAT[72]. KGAT中利用图神经网络(graph neural network, GNN)递归地传播邻域节点的嵌入来更新自身节点的嵌入,并使用注意力机制来区分邻域节点的重要性.

图 8

图 8   注意力网络示意图

Fig.8   Schematic diagram of attention network


3.2. 结合神经网络的知识图谱推荐系统

结合神经网络的KG推荐系统包括结合卷积神经网络、结合图神经网络、结合图卷积神经网络和结合循环神经网络等.

3.2.1. 结合卷积神经网络

卷积神经网络(convolutional neural networks, CNN)可以高效处理网格、序列之类的规则欧氏数据,并具有平移不变性,十分适合在基于KG的推荐系统嵌入阶段处理图数据. 在算法DER[63]中使用CNN对物品的评分信息进行描述并提取物品属性.

3.2.2. 结合图神经网络

GNN可以处理具有不规则结构的图数据,十分适合处理KG中复杂多样的实体节点,是进行图谱中多跳推理与推荐最有效的方法之一. KGNN-LS[73]认为用户对不同的关系存在不同的重视程度,在此基础上设计了特定用户对物品的关系评分功能,将无权KG转换为带权KG,然后通过GNN计算并聚合物品的嵌入信息. 在算法KGIN[75]中,为了递归的整合具有长距关联性的关系序列,设计了一种新的GNN信息聚合机制,成功捕获了用户的行为意图.

3.2.3. 结合图卷积神经网络

图卷积网络(graph convolutional networks, GCN)[97-99]是CNN的一个分支,CNN处理二维的欧式数据,GCN将CNN迁移到图上,处理不规则的非欧式数据并通过卷积算子进行信息聚合. 在算法Mvin[76]中利用GCN聚合实体的嵌入,捕获不同层邻域的特征. KG与GCN结合的KGCN[71]及其衍生系列也是此类模型的经典. KGCN通过用户与邻居实体的聚合,能更好地捕捉局部邻域结构并将其存储在各实体的表示中. 如图9所示,首先从中心实体v开始,找到与v直接相连的邻居实体;然后将v与每层邻居实体根据某种准则选取的特定个数相连(图中特定个数设为2,由内圈中绿色斜线阴影实体代表),重复上述步骤,按层级逐层向外扩展,找到每一层与v相连的邻居实体;最后,将所有选取的邻居实体以及它们与v之间的边聚合为一个向量,算出当前实体 $ v $最终的向量表示,最终算出用户与实体 $ v $交互的概率.

图 9

图 9   KG中目标用户实体节点的两层感受域

Fig.9   Two-level perceptual domain of target user entity nodes in knowledge graph


3.2.4. 结合循环神经网络

除了循环神经网络(recurrent neural network, RNN)以外,其他神经网络中每个神经元,通过一个或多个隐藏层,将多个输入处理为单个输出. 但这些神经网络都无法对时间序列的变化进行建模,而RNN会进一步逐层传递值,保留了数据间的关联信息,使神经网络逐层学习成为可能. RNN具有某种形式的存储器,允许先前的输出影响后续的输入,因此在输入大量有序信息时,使用RNN处理数据,使推荐模型具有了预测能力. 在算法KPRN[65]中利用RNN的分支长短期记忆网络(long short-term memory, LSTM)在嵌入层中探索序列信息并生成编码获取整体的语义表示.

3.3. 结合强化学习的知识图谱推荐系统

结合强化学习(reinforcement learning, RL)的KG推荐是在KG中探索图的路径,通过设计奖励函数来获得用户到物品有价值的推荐路径. 强化学习通过智能体(agent)在探索过程中学习策略,弥补了基于路径的KG推荐需要手工制作路径序列的不足. RL通过研究agent与环境(environment)的交互,不断学习最优策略(policy)来做出序列决策,最终获得最大奖励(reward),如图10所示. 图中, $ {A}_{t} $$ {S}_{t} $$ {R}_{t} $分别表示 $ t $时刻的动作、状态与奖励.

图 10

图 10   强化学习中Agent与环境的交互图

Fig.10   Interaction between Agent and environment in reinforcement learning


为了缓解数据稀疏和冷启动问题,Ekar[68]在融入KG的同时将推荐问题定义为图的路径推理问题. 该模型将用户-物品二项图与KG预处理为协同知识图谱;将图谱上的节点定义为动作空间,需要进行推荐的目标用户定义为初始状态,使用经典策略梯度算法REINFORCE[100]训练策略函数来获得奖励最大化;策略函数决策下一步动作选择,最终生成一条用户到物品的多跳路径完成推荐.

Wang等[69]提出了一个用于多级推荐推理的强化学习框架ReMR , 其采用自上而下的策略来修剪搜索空间,并确保来自高级知识库的知识能够帮助引导低级推理策略收敛到更令人满意的解决方案. 还提出了一种多级推理路径提取算法,该算法自动选择推理路径的每一跳中应使用的概念级别. 这有助于揭示用户兴趣的真实水平,并提高准确性和可解释性. 值得一提的是,该框架提出了本体视图的概念,利用普通的KG(实例视图)的父类KG(本体视图)来探索路径间的隐藏关系,并建模多级用户兴趣.

时序推荐[101]是一种基于用户的顺序行为预测未来行为的算法,强化学习具有最大化长期回报的能力,将强化学习应用到推荐系统可以提高预测能力,再融入KG增强其可解释性以开发更有效的推荐系统. KERL[73]基于历史数据导出当前知识特征相对容易. KG数据有助于提高顺序推荐算法的性能. 然而,以前的方法主要考虑如何使用KG数据增强物品或用户表示,较少研究如何将KG数据用于优化长期目标的探索. 为了在开发和探索之间做出较好的权衡,考虑为用户建模2种基于知识的偏好,即当前基于知识的偏好(简称当前偏好)ct和未来基于知识的偏好(简称未来偏好) ${f}_{t:t+k} $,描述如下:

$ {c_t} = \mathop \sum \limits_{i = 1}^t {\rm{Average}}\left( {{V_{{e_{i,t}}}}} \right) .$

式中:Average表示简单地平均池化, $ {V}_{{e}_{i,t}} $为使用TransE算出的每个物品的嵌入. 用简单地平均池化方法将用户所有交互过的历史物品聚合为当前偏好表示 $ {c}_{t} $.

$ {f}_{t:t+k}={\rm{MLP}}\left({c}_{t};{\phi }_{{\rm{mlp}}}\right) .$

式中:MLP为多层感知器 (multi-layer perception, MLP),利用MLP神经网络预测在 $ t $时刻的未来 $ k $步的偏好表示 $ {f}_{t:t+k} $${\phi }_{{\rm{mlp}}} $为归纳网络中使用的参数. KERL将推荐任务形式化为马尔可夫决策过程(Markov decision processes, MDP),该模型的一个主要新颖之处在于KG信息已被有效地用于MDP框架中的探索和开发.

4. 现存的挑战及未来的研究方向

综上所述,将知识图谱融入推荐系统能够显著提高推荐结果的准确性,并且在推荐可解释性方面具有明显优势. KG可以帮助推荐系统解决数据稀疏和冷启动的问题,从而提高推荐系统的效果. 目前,关于KG在推荐系统中的应用还处于研究阶段,但是研究人员已经提出了许多新的方法和技术来实现这一目标. 未来,研究人员可以进一步探索KG在推荐系统中的应用,发掘其中的潜力,并提出更加创新和有效的方法来解决当前的挑战.

4.1. 知识图谱的事实缺失、构建与补全

在融合KG和推荐系统时,考虑到KG的完整性和质量非常重要. 如果KG中缺少重要的实体、关系或事实,那么使用它来进行推荐可能会导致结果不准确或者推荐结果与现实不符. 因此,在融合KG推荐系统之前,应该对KG进行质量评估,并进行必要的事实、关系和实体补全. 这样可以确保KG在推荐系统中的应用更加准确和可靠.

在构建KG时,如何从大量真实的知识数据中提取有用的信息,并将得到的信息有效地表示和存储,是构建KG的首要问题. 在早期,KG主要通过手工创建,通过这种方式构造KG虽然有较高的真实性,但是耗时耗力难以量产. 现代的KG创建方法包括实体抽取、知识融合、知识推理和质量评估等步骤,相较于手工制作的KG有了较大的性能提升. 然而,高质量的大型KG在现实中仍然相对稀缺,如果没有高质量的KG作为推荐系统的辅助,推荐系统的应用范围将受到极大限制. 因此,注意在融入KG推荐系统时,KG的质量和完整性都是至关重要的.

KG的事实补全与推荐模型联合学习的多任务学习推荐系统是未来的重要研究方向之一. 如KTUP[11]中提出了基于KG嵌入的推荐模型,特别设计了在对用户-物品二项图进行嵌入时的各种偏好嵌入模型,并用TransH模型对不同偏好加以区分,然后通过结合几种偏好转移方案,将其与KG补全模型联合训练.

4.2. 知识图谱与推荐系统的动态性

KG是一种重要的思维可视化表征方式. 目前推荐系统的研究主要基于静态KG,即图谱中实体和关系处于静止状态,不随时间变化. 然而,现实世界中的知识是瞬息万变的,与时序关系密切相关. 例如“特朗普是美国总统”这一知识仅在2016年至2020年是正确的. 当前大多针对动态KG的研究是将离散的少数信息对时序进行更改,面对完整而庞大的KG,这种方法难以支撑,并会造成很多重要的动态特征被忽略. 因此,为了更好地适应快速变化的知识环境,并提供准确、及时的推荐结果,在推荐系统中使用动态的KG对时序关系进行建模非常重要.

在最近的研究中,潘承瑞等[102]提出了一种基于GCN的动态KG对齐算法DINGAL-B,探索了根据不断变化的图结构如何实时更新实体嵌入的难题. 然而,在针对利用动态KG来改善推荐系统方面,相关研究还较少. 如何将KG与现实世界保持一致,并将不断变化的KG应用于推荐系统,是未来值得研究的问题. 须解决如何有效地捕捉和表示动态知识的方法,以及如何在推荐过程中灵活地利用动态KG来提供更准确、个性化的推荐结果.

4.3. 知识图谱深层次结构的有效利用

融合KG推荐系统致力于深度利用KG中的高阶连通性,通过深度挖掘KG中物品之间、用户之间以及用户和物品之间的深层次关系,来为用户进行满意度更高的个性化推荐,在提高推荐结果多样性的同时仍然能保持较高的推荐结果的准确性.

KG本身的特点更适合实体之间关系的挖掘而非事实因果的推断,因此须设计有效的推荐模型来寻找相关路径并生成合理的推荐结果. 如KG-BGAT[103]模型,利用双线性采集网络来捕获KG中的高阶关系. 通过多样的训练方法来高效利用KG中的高阶、深层的结构是未来推荐系统的长期研究方向.

4.4. 推荐系统的性能提升与应用

目前大规模KG的可应用平台和形式依然相对狭窄. 如何在合适推荐的场景发挥KG的高阶连通性的优势、实现富有逻辑性和可行性的深度知识和路径推理,提高未来大范围应用KG时的计算效率,须探索更多的推荐场景,提出更有效的推荐算法. 首先需要更高效精准的KG构建方法,其次须应用更先进的算法如卷积神经网络和专门处理图结构的CGN来处理KG. 在现有推荐模型的基础上如何考虑运行成本之类的底层架构问题来降低应用KG的成本,是KG在实际中广泛应用面临的亟待研究的问题. 这既需要丰富的KG技术积累,如KG的构建、KG的推理以及应用等,也须在现实推荐场景中去探索潜在的用户需求.

5. 结 语

本研究探讨了知识图谱在推荐系统中的应用,并分析了其对推荐结果准确性的提升. 通过融合知识图谱,克服了传统推荐算法的不足,提高了个性化推荐结果的用户满意度. 知识图谱作为推荐系统的辅助信息,提供了丰富的语义信息和灵活的建模能力,为个性化推荐提供了更多可能性. 然而,知识图谱的不完整性和不准确性可能对推荐结果产生一定的影响,并且知识图谱的构建和维护须耗费大量的人力和时间资源. 如何有效地将知识图谱中的信息与推荐系统进行整合仍然是一个挑战. 为了进一步完善和推动知识图谱在推荐系统中的应用,须探索更高效的知识图谱构建和更新方法,以降低构建成本并提高知识图谱的质量. 未来须研究更先进的算法和模型,以更好地利用知识图谱中的信息.

参考文献

AL-KUMAIM N H, HASSAN S H, SHABBIR M S, et al

Exploring the inescapable suffering among postgraduate researchers: information overload perceptions and implications for future research

[J]. International Journal of Information and Communication Technology Education (IJICTE), 2021, 17 (1): 19- 41

DOI:10.4018/IJICTE.2021010102      [本文引用: 1]

THOMPSON P

Finding out about: a cognitive perspective on search engine technology and the WWW

[J]. Information Retrieval, 2002, 5 (2/3): 269- 271

[本文引用: 1]

HUI B, ZHANG L, ZHOU X, et al

Personalized recommendation system based on knowledge embedding and historical behavior

[J]. Applied Intelligence, 2022, 52 (1): 954- 966

DOI:10.1007/s10489-021-02363-w      [本文引用: 1]

ADOMAVICIUS G, TUZHILIN A

Toward the next generation of recommender systems: a survey of the state-of-the-art and possible extensions

[J]. IEEE Transactions on Knowledge and Data Engineering, 2005, 17 (6): 734- 749

DOI:10.1109/TKDE.2005.99      [本文引用: 1]

SU X, KHOSHGOFTAAR T M

A survey of collaborative filtering techniques

[J]. Advances in Artificial Intelligence, 2009, (12): 1- 19

[本文引用: 1]

KWON Y, LEE Y, RHU M, et al. Tensor casting: co-designing algorithm-architecture for personalized recommendation training[C]// 2021 IEEE International Symposium on High-Performance Computer Architecture (HPCA). Seoul: IEEE, 2021: 235-248.

CHEN Y, DAI Y, HAN X, et al

Dig users’ intentions via attention flow network for personalized recommendation

[J]. Information Sciences, 2021, 547: 1122- 1135

DOI:10.1016/j.ins.2020.09.007      [本文引用: 1]

SHEPITSEN A, GEMMELL J, MOBASHER B, et al. Personalized recommendation in social tagging systems using hierarchical clustering[C]// Proceedings of the 2008 ACM Conference on Recommender Systems. Lausanne: ACM, 2008: 259-266.

[本文引用: 1]

GUO G. Integrating trust and similarity to ameliorate the data sparsity and cold start for recommender systems[C]// Proceedings of the 7th ACM Conference on Recommender Systems. Hong Kong: ACM, 2013: 451-454.

[本文引用: 1]

HAWKINS D M

The problem of overfitting

[J]. Journal of Chemical Information and Computer Sciences, 2004, 44 (1): 1- 12

DOI:10.1021/ci0342472      [本文引用: 1]

CAO Y, WANG X, HE X, et al. Unifying knowledge graph learning and recommendation: towards a better understanding of user preferences[C]// The World Wide Web Conference. San Francisco: WWW, 2019: 151-161.

[本文引用: 3]

LI Z, LIU H, ZHANG Z, et al. Learning knowledge graph embedding with heterogeneous relation attention networks[J]. IEEE Transactions on Neural Networks and Learning Systems, 2021, 33(8):3961-3973.

XIE L, HU Z, CAI X, et al

Explainable recommendation based on knowledge graph and multi-objective optimization

[J]. Complex and Intelligent Systems, 2021, 7 (3): 1241- 1252

DOI:10.1007/s40747-021-00315-y      [本文引用: 1]

LIN J, ZHAO Y, HUANG W, et al

Domain knowledge graph-based research progress of knowledge representation

[J]. Neural Computing and Applications, 2021, 33 (2): 681- 690

DOI:10.1007/s00521-020-05057-5      [本文引用: 1]

SU X, KHOSHGOFTAAR T M. A survey of collaborative filtering techniques[J]. Advances in Artificial Intelligence, 2009, 4: 1-19.

[本文引用: 1]

HE X, LIAO L, ZHANG H, et al. Neural collaborative filtering[C]// Proceedings of the 26th International Conference on World Wide Web. Perth: WWW, 2017: 173-182.

KONSTAN J A, MILLER B N, MALTZ D, et al

Grouplens: applying collaborative filtering to usenet news

[J]. Communications of the ACM, 1997, 40 (3): 77- 87

DOI:10.1145/245108.245126     

SCHAFER J B, FRANKOWSKI D, HERLOCKER J, et al. Collaborative filtering recommender systems[J]. The Adaptive Web: Methods and Strategies of Web Personalization, 2007: 291-324.

SARWAR B, KARYPIS G, KONSTAN J, et al. Item-based collaborative filtering recommendation algorithms[C]// Proceedings of the 10th International Conference on World Wide Web. Hong Kong: WWW, 2001: 285-295.

KOREN Y, RENDLE S, BELL R. Advances in collaborative filtering [EB/OL]. [2021-11-22]. https://link.springer.com/chapter/10.1007/978-1-0716-2197-4_3.

WANG F, ZHU H, SRIVASTAVA G, et al

Robust collaborative filtering recommendation with user-item-trust records

[J]. IEEE Transactions on Computational Social Systems, 2021, 9 (4): 986- 996

[本文引用: 2]

PAZZANI M J, BILLSUS D. Content-based recommendation systems[M]. The adaptive web: methods and strategies of web personalization. Berlin: Springer, 2007: 325-341.

THORAT P B, GOUDAR R M, BARVE S

Survey on collaborative filtering, content-based filtering and hybrid recommendation system

[J]. International Journal of Computer Applications, 2015, 110 (4): 31- 36

DOI:10.5120/19308-0760     

DEBNATH S, GANGULY N, MITRA P. Feature weighting in content based recommendation system using social network analysis[C]// Proceedings of the 17th International Conference on World Wide Web. Beijing: WWW, 2008: 1041-1042.

WU L, HE X, WANG X, et al. A survey on neural recommendation: from collaborative filtering to content and context enriched recommendation [EB/OL]. [2021-12-27]. https://arxiv.org/abs/2104.13030v2.

[本文引用: 1]

LOPS P, JANNACH D, MUSTO C, et al

Trends in content-based recommendation

[J]. User Modeling and User-Adapted Interaction, 2019, 29 (2): 239- 249

DOI:10.1007/s11257-019-09231-w      [本文引用: 1]

KARN A L, KARNA R K, KONDAMUDI B R, et al

Customer centric hybrid recommendation system for E-Commerce applications by integrating hybrid sentiment analysis

[J]. Electronic Commerce Research, 2023, 23 (1): 279- 314

[本文引用: 1]

JUNG K Y, LEE J H

User preference mining through hybrid collaborative filtering and content-based filtering in recommendation system

[J]. Ieice Transactions on Information and Systems, 2004, 87 (12): 2781- 2790

[本文引用: 1]

DUONG T N, DO T G, DOAN N N, et al. Hybrid similarity matrix in neighborhood-based recommendation system[C]// 2021 8th NAFOSTED Conference on Information and Computer Science (NICS). Hanoi: IEEE, 2021: 475-480.

[本文引用: 1]

GUO Y, WANG M, LI X. An interactive personalized recommendation system using the hybrid algorithm model [EB/OL]. [2017-03-13]. https://www.mdpi.com/2073-8994/9/10/216.

NILASHI M, BIN IBRAHIM O, ITHNIN N

Hybrid recommendation approaches for multi-criteria collaborative filtering

[J]. Expert Systems with Applications, 2014, 41 (8): 3879- 3900

DOI:10.1016/j.eswa.2013.12.023     

SONG Y, LIU S, JI W. Research on personalized hybrid recommendation system[C]// 2017 International Conference on Computer, Information and Telecommunication Systems (CITS). Dalian: IEEE, 2017: 133-137.

[本文引用: 1]

YING H, CHEN L, XIONG Y, et al. Collaborative deep ranking: a hybrid pair-wise recommendation algorithm with implicit feedback[C]// Pacific-asia Conference on Knowledge Discovery and Data Mining. Cham: Springer, 2016: 555-567.

[本文引用: 1]

SINGHAL A, SINHA P, PANT R. Use of deep learning in modern recommendation system: a summary of recent works [EB/OL]. [2017-12-20]. https://arxiv.org/abs/1712.07525.

[本文引用: 1]

DEGENNE A, FORSÉ M. Introducing social networks[M]. Sage: Thousand Oaks, 1999.

KONG X, SHI Y, YU S, et al

Academic social networks: modeling, analysis, mining and applications

[J]. Journal of Network and Computer Applications, 2019, 132: 86- 103

DOI:10.1016/j.jnca.2019.01.029      [本文引用: 1]

王立才, 孟祥武, 张玉洁

上下文感知推荐系统

[J]. 软件学报, 2012, 23 (1): 1- 20

[本文引用: 1]

WANG Li-cai, MENG Xiang-wu, ZHANG Yu-jie

Context-aware recommender systems

[J]. Journal of Software, 2012, 23 (1): 1- 20

[本文引用: 1]

GAO Q, MA P. Graph neural network and context-aware based user behavior prediction and recommendation system research [EB/OL]. [2020-11-30]. https://www.hindawi.com/journals/cin/2020/8812370/.

[本文引用: 1]

陈克寒, 韩盼盼, 吴健

基于用户聚类的异构社交网络推荐算法

[J]. 计算机学报, 2013, 36 (2): 349- 359

[本文引用: 1]

CHEN Ke-han, HAN Pan-pan, WU Jian

User clustering based social network recommendation

[J]. Chinese Journal of Computers, 2013, 36 (2): 349- 359

[本文引用: 1]

SHARMA L, GERA A

A survey of recommendation system: research challenges

[J]. International Journal of Engineering Trends and Technology (IJETT), 2013, 4 (5): 1989- 1992

[本文引用: 1]

WALTER F E, BATTISTON S, SCHWEITZER F

A model of a trust-based recommendation system on a social network

[J]. Autonomous Agents and Multi-Agent Systems, 2008, 16 (1): 57- 74

DOI:10.1007/s10458-007-9021-x     

童向荣, 张伟, 龙宇. Agent主观信任的传递性[J]. 软件学报, 2012, 23(11): 2862-2870.

[本文引用: 1]

TONG Xiang-rong, ZHANG Wei, LONG Yu. Transitivity of agent subjective trust [J]. Journal of Software, 2012, 23 (11): 2862-2870.

[本文引用: 1]

WANG H, ZHANG F, ZHAO M, et al. Multi-task feature learning for knowledge graph enhanced recommendation[C]// The World Wide Web Conference. San Francisco: WWW, 2019: 2000-2010.

[本文引用: 2]

GUO Q, ZHUANG F, QIN C, et al

A survey on knowledge graph-based recommender systems

[J]. Scientia Sinica Informationis, 2020, 34 (8): 3549- 3568

SHA X, SUN Z, ZHANG J. Hierarchical attentive knowledge graph embedding for personalized recommendation [EB/OL]. [2021-07-08]. https://www.sciencedirect.com/science/article/abs/pii/S1567422321000430.

QIN C, ZHU H, ZHUANG F, et al

A survey on knowledge graph-based recommender systems

[J]. Scientia Sinica Informationis, 2020, 50 (7): 937- 956

DOI:10.1360/SSI-2019-0274     

MEZNI H, BENSLIMANE D, BELLATRECHE L

Context-aware service recommendation based on knowledge graph embedding

[J]. IEEE Transactions on Knowledge and Data Engineering, 2021, 34 (11): 5225- 5238

KHAN N, MA Z, ULLAH A, et al

Categorization of knowledge graph based recommendation methods and benchmark datasets from the perspectives of application scenarios: a comprehensive survey

[J]. Expert Systems with Applications, 2023, 13 (2): 117737

ZHANG X, XIN X, LI D, et al. Variational reasoning over incomplete knowledge graphs for conversational recommendation [C]// Proceedings of the 16th ACM International Conference on Web Search and Data Mining. Birmingham: ACM, 2023: 231-239.

HU B, YE Y, ZHONG Y, et al

TransMKR: translation-based knowledge graph enhanced multi-task point-of-interest recommendation

[J]. Neurocomputing, 2022, 474: 107- 114

DOI:10.1016/j.neucom.2021.11.049      [本文引用: 1]

赵廷廷, 王喆, 卢奕南. 基于传播概率矩阵的异构信息网络表示学习[J]. 浙江大学学报: 工学版, 2019, 53(3): 548-554.

[本文引用: 1]

ZHAO Ting-ting, WANG Zhe, LU Yi-nan. Heterogeneous information network representation learning based on transition probability matrix (HINtpm)[J]. Journal of Zhejiang University: Engineering Science, 2019, 53(3): 548-554.

[本文引用: 1]

WANG X, JI H, SHI C, et al. Heterogeneous graph attention network[C]// The World Wide Web Conference. San Francisco: WWW, 2019: 2022-2032.

[本文引用: 2]

XIAN Y, FU Z, MUTHUKRISHNAN S, et al. Reinforcement knowledge graph reasoning for explainable recommendation[C]// Proceedings of the 42nd International Acm Sigir Conference on Research and Development in Information Retrieval. Paris: ACM, 2019: 285-294.

[本文引用: 1]

CATHERINE R, MAZAITIS K, ESKENAZI M, et al. Explainable entity-based recommendations with knowledge graphs. [EB/OL]. [2017-07-12]. https://arxiv.org/abs/1707.05254.

CAO Z, XU Q, YANG Z, et al. Geometry interaction knowledge graph embeddings [C]// AAAI Conference on Artificial Intelligence. Vancouver: AAAI, 2022: 5521-5529.

[本文引用: 1]

SHI C, LI Y, ZHANG J, et al

A survey of heterogeneous information network analysis

[J]. IEEE Transactions on Knowledge and Data Engineering, 2016, 29 (1): 17- 37

[本文引用: 1]

CELLUCCI C J, ALBANO A M, RAPP P E

Comparative study of embedding methods

[J]. Physical Review E, 2003, 67 (6): 066210

DOI:10.1103/PhysRevE.67.066210     

WANG D, CUI P, ZHU W. Structural deep network embedding[C]// Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. San Francisco: KDD, 2016: 1225-1234.

GONZÁLEZ L, HOGAN A. Modelling dynamics in semantic web knowledge graphs with formal concept analysis[C]// Proceedings of the 2018 World Wide Web Conference. Lyon: WWW, 2018: 1175-1184.

BONATTI P A, DECKER S, POLLERES A, et al. Knowledge graphs: new directions for knowledge representation on the semantic web (Dagstuhl seminar 18371)[C]// Dagstuhl Reports. Schloss Dagstuhl-Leibniz-Zentrum fuer Informatik. Wadern: [s. n. ], 2019, 8(9).

[本文引用: 1]

ZHANG F, YUAN N J, LIAN D, et al. Collaborative knowledge base embedding for recommender systems[C]// Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. San Francisco: KDD, 2016: 353-362.

[本文引用: 1]

CHEN X, ZHANG Y, QIN Z. Dynamic explainable recommendation based on neural attentive models[C]// Proceedings of the AAAI Conference on Artificial Intelligence. London: AAAI, 2019: 53-60.

[本文引用: 1]

HUANG J, ZHAO W X, DOU H, et al. Improving sequential recommendation with knowledge-enhanced memory networks[C]// The 41st International ACM SIGIR Conference on Research and Development in Information Retrieval. Michigan: SIGIR, 2018: 505-514.

[本文引用: 2]

WANG X, WANG D, XU C, et al. Explainable reasoning over knowledge graphs for recommendation[C]// Proceedings of the AAAI Conference on Artificial Intelligence. Hawaii: AAAI, 2019, 33(1): 5329-5336.

[本文引用: 1]

CHEN H, LI Y, SUN X, et al. Temporal meta-path guided explainable recommendation[C]// Proceedings of the 14th ACM International Conference on Web Search and Data Mining. Virtual: KDD, 2021: 1056-1064.

[本文引用: 2]

ZHAO H, YAO Q, LI J, et al. Meta-graph based recommendation fusion over heterogeneous information networks[C]// Proceedings of the 23rd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. Halifax: KDD, 2017: 635-644.

[本文引用: 2]

SONG W, DUAN Z, YANG Z, et al. Explainable knowledge graph-based recommendation via deep reinforcement learning[EB/OL]. [2017-07-12]. https://arxiv.org/abs/1707.05254.

[本文引用: 3]

WANG X, LIU K, WANG D, et al. Multi-level recommendation reasoning over knowledge graphs with reinforcement learning[C]// Proceedings of the ACM Web Conference 2022. Lyon: WWW, 2022: 2098-2108.

[本文引用: 2]

WANG H, ZHANG F, WANG J, et al. Ripplenet: propaga-ting user preferences on the knowledge graph for recomm-ender systems[C]// Proceedings of the 27th ACM International Conference on Information and Knowledge Management. Torino: CIKM, 2018: 417-426.

[本文引用: 2]

WANG H , ZHAO M , XIE X , et al. Knowledge graph convolutional networks for recommender systems [C]// The World Wide Web Conference. San Francisco: WWW, 2019: 3307-3313.

[本文引用: 2]

WANG X, HE X, CAO Y, et al. KGAT: knowledge graph attention network for recommendation[C]// Proceedings of the 25th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. Anchorage: KDD, 2019: 950-958.

[本文引用: 3]

WANG H, ZHANG F, ZHANG M, et al. Knowledge-aware graph neural networks with label smoothness regularization for recommender systems[C]// Proceedings of the 25th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. Anchorage: KDD, 2019: 968-977. .

[本文引用: 3]

WANG P, FAN Y, XIA L, et al. KERL: a knowledge-guided reinforcement learning model for sequential recommendation[C]// Proceedings of the 43rd International ACM SIGIR Conference on Research and Development in Information Retrieval. Xian: SIGIR, 2020: 209-218.

[本文引用: 3]

WANG X, HUANG T, WANG D, et al. Learning intents behind interactions with knowledge graph for recommendation[C]// Proceedings of the Web Conference 2021. Ljubljana: WWW, 2021: 878-887.

[本文引用: 1]

TAI C Y, WU M R, CHU Y W, et al. Mvin: learning multiview items for recommendation[C]// Proceedings of the 43rd International ACM SIGIR Conference on Research and Development in Information Retrieval. Xi’an: SIGIR, 2020: 99-108.

[本文引用: 2]

WANG Z, LIN G, TAN H, et al. CKAN: collaborative knowledge-aware attentive network for recommender systems[C]// Proceedings of the 43rd International ACM SIGIR Conference on Research and Development in Information Retrieval. Xi’an: SIGIR, 2020: 219-228.

[本文引用: 2]

LIU D, LIAN J, WANG S, et al. KRED: knowledge-aware document representation for news recommendations[C]// 14th ACM Conference on Recommender Systems. Brazil: ACM, 2020: 200-209.

[本文引用: 1]

WANG J, SHI Y, LI D, et al

McHa: a multistage clustering-based hierarchical attention model for knowledge graph-aware recommendation

[J]. World Wide Web, 2022, 25 (3): 1103- 1127

DOI:10.1007/s11280-022-01022-5      [本文引用: 1]

HUANG Y, ZHAO F, GUI X, et al

Path-enhanced explainable recommendation with knowledge graphs

[J]. World Wide Web, 2021, 24 (5): 1769- 1789

DOI:10.1007/s11280-021-00912-4      [本文引用: 1]

MA T, HUANG L, LU Q, et al. KR-GCN: knowledge-aware reasoning with graph convolution network for explainable recommendation[J]. ACM Transactions on Information Systems (TOIS), 2023, 41(1): 1-27.

[本文引用: 1]

RENDLE S

Factorization machines with libfm

[J]. ACM Transactions on Intelligent Systems and Technology (TIST), 2012, 3 (3): 1- 22

[本文引用: 1]

CHEN M, ZHANG W, ZHU Y, et al. Meta-knowledge transfer for inductive knowledge graph embedding[C]// Proceedings of the 45th International ACM SIGIR Conference on Research and Development in Information Retrieval. Madrid: ACM, 2022: 927-937.

[本文引用: 1]

ZHOU Z, WANG C, FENG Y, et al

JointE: jointly utilizing 1D and 2D convolution for knowledge graph embedding

[J]. Knowledge-Based Systems, 2022, 240: 108100

DOI:10.1016/j.knosys.2021.108100      [本文引用: 1]

CUADRAS C M, AREANS C, FORTIANA J

Some computational aspects of a distance—based model for prediction

[J]. Communications in Statistics-simulation and Computation, 1996, 25 (3): 593- 609

DOI:10.1080/03610919608813332      [本文引用: 1]

陈曦, 陈华钧, 张文

规则增强的知识图谱表示学习方法

[J]. 情报工程,, 2017, 3 (1): 26- 34

DOI:10.3772/j.issn.2095-915x.2017.01.003      [本文引用: 1]

CHEN Xi, CHEN Hua-jun, ZHANG Wen

Rule-augmented representation learningapproach in knowledge graph

[J]. Technology Intelligence Engineering, 2017, 3 (1): 26- 34

DOI:10.3772/j.issn.2095-915x.2017.01.003      [本文引用: 1]

BORDES A, USUNIER N, GARCIA-DURAN A , et al. Translating embeddings for modeling multi-relational data[J]. Advances in Neural Information Processing Systems, 2013, 26: 2787-2795.

[本文引用: 1]

ZHEN W , ZHANG J , FENG J , et al. Knowledge graph embedding by translating on hyperplanes[C]// National Conference on Artificial Intelligence. Québec: AAAI Press, 2014, 28(1): 1112-1119.

[本文引用: 1]

LIN H, LIU Y, WANG W, et al

Learning entity and relation embeddings for knowledge resolution

[J]. Procedia Computer Science, 2017, 108: 345- 354

DOI:10.1016/j.procs.2017.05.045      [本文引用: 1]

JI G , HE S , XU L , et al. Knowledge graph embedding via dynamic mapping matrix[C]// Meeting of the Association for Computational Linguistics and the International Joint Conference on Natural Language Processing. Beijing: ACL, 2015: 687-696.

[本文引用: 1]

王婷, 朱小飞, 唐顾. 基于知识增强的图卷积神经网络的文本分类[J]. 浙江大学学报: 工学版, 2022, 56(2): 322-328.

[本文引用: 1]

WANG Ting, ZHU Xiao-fei, TANG Gu. Knowledge-enhanced graph convolutional neural networks for text classification [J]. Journal of Zhejiang University: Engineering Science, 2022, 56(2): 322-328.

[本文引用: 1]

YU D, ZHU C, YANG Y, et al. Jaket: joint pre-training of knowledge graph and language understanding[C]// Proceedings of the AAAI Conference on Artificial Intelligence. London: AAAI, 2022, 36(10): 11630-11638.

[本文引用: 1]

YU X, REN X, SUN Y, et al. Personalized entity recommendation: a heterogeneous information network approach[C]// Proceedings of the 7th ACM International Conference on Web Search and Data Mining. New York: KDD, 2014: 283-292.

[本文引用: 2]

DONG C, JU X, MA Y. HRS: hybrid recommendation system based on attention mechanism and knowledge graph embedding[C]// IEEE/WIC/ACM International Conference on Web Intelligence. Melbourne: WI, 2021: 406-413.

[本文引用: 1]

LIU G, GUO J

Bidirectional LSTM with attention mechanism and convolutional layer for text classification

[J]. Neurocomputing, 2019, 337: 325- 338

DOI:10.1016/j.neucom.2019.01.078      [本文引用: 1]

CHEN Y, LIU L, PHONEVILAY V, et al

Image super-resolution reconstruction based on feature map attention mechanism

[J]. Applied Intelligence, 2021, 51 (7): 4367- 4380

DOI:10.1007/s10489-020-02116-1     

陈成, 张皞, 李永强, 等

关系生成图注意力网络的知识图谱链接预测

[J]. 浙江大学学报:工学版, 2022, 56 (5): 1025- 1034

[本文引用: 1]

CHEN Cheng, ZHANG Hao, LI Yong-qiang, et al

Knowledge graph link prediction based on relational generative graph attention network

[J]. Journal of Zhejiang University: Engineering Science, 2022, 56 (5): 1025- 1034

[本文引用: 1]

ZHANG S, TONG H, XU J, et al

Graph convolutional networks: a comprehensive review

[J]. Computational Social Networks, 2019, 6 (1): 1- 23

DOI:10.1186/s40649-019-0061-6      [本文引用: 1]

CHEN M, WEI Z, HUANG Z, et al. Simple and deep graph convolutional networks[C]// International Conference on Machine Learning. Vienna: PMLR, 2020: 1725-1735.

WU F, SOUZA A, ZHANG T, et al. Simplifying graph convolutional networks[C]// International Conference on Machine Learning. Long Beach: PMLR, 2019: 6861-6871.

[本文引用: 1]

WILLIAMS R J

Simple statistical gradient-following algorithms for connectionist reinforcement learning

[J]. Machine Learning, 1992, 8 (3): 229- 256

[本文引用: 1]

NOORIAN A, HAROUNABADI A, RAVANMEHR R

A novel sequence-aware personalized recommendation system based on multidimensional information

[J]. Expert Systems with Applications, 2022, 202: 117079

DOI:10.1016/j.eswa.2022.117079      [本文引用: 1]

潘承瑞, 何灵敏, 胥智杰, 等

融合知识图谱的双线性图注意力网络推荐算法

[J]. 计算机工程与应用, 2021, 57 (1): 29- 37

DOI:10.3778/j.issn.1002-8331.2006-0141      [本文引用: 1]

PAN Cheng-rui, HE Ling-min, XU Zhi-jie, et al

Fusion knowledge graph and bilinear graph attention network recommendation algorithm

[J]. Computer Engineering and Application, 2021, 57 (1): 29- 37

DOI:10.3778/j.issn.1002-8331.2006-0141      [本文引用: 1]

YAN Y, LIU L, BAN Y, et al. Dynamic knowledge graph alignment[C]// Proceedings of the AAAI Conference on Artificial Intelligence. Vancouver: AAAI, 2021: 4564-4572.

[本文引用: 1]

/