RSN:Learning to Exploit Long-term Relational Dependencies in Knowledge Graphs

Learning to Exploit Long-term Relational Dependencies in Knowledge Graphs

1 问题

目前只是图谱补全的内容是主要是基于triple-level，所谓的triple-level指得是只关注三元组的信息，仅仅只利用三元组的信息，而不增加任何信息，这么就会产生的一个问题，难以抓取关系的长期依赖关系，所有triple-level不能够传递丰富的信息，提出了基于只是图谱补全或者实体对齐。该模型选择lstm模型，进行扩展，实现长期的依赖，但是为了使信息更加丰富，已经区分实体和关系，而不是仅仅像NLP中的数据处理，把一条路径当作sequence,这么使得实体和关系无法区分开。因此作者采取skip方式进行使用加以区分实体和关系，skip方式类似于残差网络，但是略有不同。
由于研究方式是知识图谱补全领域，对于实体对齐内容，就直接略过，不进行研究。

2 模型

2.1 前提

为了增强知识图谱的连接性，增加逆关系，$(UnitedKingdom,countr{y}^{-},TimBernersLee,employer,W3C)$

2.2 模型图

在使用时将整个模型传到LSTM中，所谓的skip增加一些内容，对于关系的LSTM之后的结果，加上与当前r相关实体信息。然后去预测下与r相关的尾实体。
其skip公式如下：

2.3 损失函数

其损失函数如下：

损失函数是计算所预测结果的损失函数，$x_1,x_2,....x_n$包括预测$关系x_2,x_4.....$,以及预测实体$x_3,x_5......$等内容之和。

3 总结

基于路径的知识图谱补全，可以增强其能表达能力。