Paper总结 - TransR: Modeling relation paths for representation learning of knowledge bases
2015年发表在AAAI上。
TransR其实和TransH很相似,针对不同的关系将实体映射到不同的空间中。文中认为TransE和TransH的缺点是将entity和relation放在同一维度空间中。于是提出了可将entity和relation映射在不同空间。
对于每一个关系 \(r\),都有一个映射矩阵 \(M_r\),将实体映射到关系空间中。
\(h \in R^{n}, t \in R^{n}, r \in R^{m}\)
这里实体的维数和关系的维数不必相等。
\(\mathbf{h}_{r}=\mathbf{h} \mathbf{M}_{r}, \quad \mathbf{t}_{r}=\mathbf{t} \mathbf{M}_{r}\)
Score function:
\(f_{r}(h, t)=\left\|\mathbf{h}_{r}+\mathbf{r}-\mathbf{t}_{r}\right\|_{2}^{2}\)
同时,还提出了CTransR (Cluster-based TransR)
按照不同的关系将pair(h, t)划分到不同的cluster中,比如:
对每一个簇学习一个关系表示。
score function定义为:
\(f_{r}(h, t)=\left\|\mathbf{h}_{r, c}+\mathbf{r}_{c}-\mathbf{t}_{r, c}\right\|_{2}^{2}+\alpha\left\|\mathbf{r}_{c}-\mathbf{r}\right\|_{2}^{2}\)
实验部分也是在三个任务上进行了比较:
- link prediction
- triple classification
- text relation extraction