aoi学院

Aisaka's Blog, School of Aoi, Aisaka University

SFFAI 60 | 知识图谱专场《牛广林:规则引导的知识图谱组合式表示学习》

关注微信公众号:【人工智能前沿讲习】,回复【SFFAI60】获取讲者PPT资料,入交流群,推荐论文下载。
要使机器获得像人一样的分析和推理能力,一定离不开的一项技术基础就是“知识图谱”。知识图谱本质上是一种揭示实体之间关系的语义网络,机器借助特定算法在语义网络上进行运算,就可以在智能搜索、智能问答、个性化推荐等智能信息服务中产生应用价值。本期论坛我们邀请了来自北京航空航天大学的牛广林同学分享他在AAAI2020上发表的有关知识图谱组合式表示学习的工作。


讲者介绍

牛广林:北京航空航天大学在读博士,研究方向为知识图谱与知识推理,以第一作者发表一篇AAAI2020论文。

报告题目:规则引导的知识图谱组合式表示学习

报告摘要:知识图谱的表示学习是将知识图谱中的实体与关系嵌入低维实值向量空间。早期的知识图谱表示学习方法只关注知识图谱中三元组的结构信息,最近的一些尝试考虑采用路径信息来扩展知识图谱的结构,但是在得到路径表示的过程中缺乏可解释性。本文提出了一种新的基于规则和路径的联合嵌入的方法(RPJE),该方案充分利用了逻辑规则的可解释性和准确性、知识图谱表示学习的泛化性以及路径提供的语义结构。具体来说,首先从知识图谱中挖掘不同长度(规则体中的关系个数)的Horn子句形式的逻辑规则,并对其进行编码,用于表示学习。然后,应用长度为2的规则以可解释和透明的方式组合路径,并显式地使用长度为1的规则来创建关系之间的语义关联并约束关系的向量表示。此外,在优化过程中还考虑了各规则的置信度,以保证规则应用于表示学习的有效性。大量的实验结果表明,RPJE在完成知识图谱补全任务方面优于其它baselines,同时验证了利用逻辑规则和路径提高知识图谱表示学习的精度和可解释性。

Spotlight:

  1. 将逻辑规则与路径组合进行知识图谱表示学习,提高了模型的可解释性;
  2. 对长度分为1和2的规则编码后能够直接显式地用于知识图谱表示学习过程中;
  3. 引入规则的置信度提高了使用规则的有效性和鲁棒性。

论文推荐

  1. Path Ranking with Attention to Type Hierarchies

    推荐理由:这篇论文从路径排序的角度引入了知识图谱中的路径,其中设计的注意力路径排序算法利用实体的类型层次结构可以从每个实体对应的不同层次的类型中根据注意力机制选择和当前路径最相关的类型,用于路径模式的表示。

  2. DRUM End-To-End Differentiable Rule Mining On

    推荐理由:为了能够从知识图谱学习出用于推理的逻辑规则,这篇论文提出了一个端到端可微分的规则挖掘算法,使用实体的向量表示和关系的邻接矩阵可以学习出任何长度小于等于T的链式规则以及对应的规则置信度,并通过巧妙地数学公式转换,很大程度上降低了参数的数量,并利用双向RNN建模规则头与规则体中关系的关联。

  3. Incorporating Graph Attention Mechanism into Knowledge Graph

    推荐理由:这篇论文是基于深度强化学习进行知识图谱多跳推理的模型,通过将LSTM和图注意力机制组合构成记忆组件,用于更好的记忆agent以前已经走过的路径。同时,模型提出了一种新的增强学习机制,使agent每一步都能够前进,避免在同一实体上陷入停滞。


参考资料

https://www.bilibili.com/video/BV1ET4y137Mm/
https://bbs.sffai.com/d/142/2