Processing math: 87%

Paper总结 - NTN: Reasoning with neural tensor networks for knowledge base completion

这篇文章发表于NeurIPS2013,在TransE发表之前。

主要内容: NTN - Neural Tensor Network

score function:

g(e1,R,e2)=uTRf(eT1W[1:k]Re2+VR[e1e2]+bR)

其中,e1,e2Rd, 是头尾实体的向量表示。 W[1:k]RRd×d×k,有 k 个 slide,每个 slide 都是 d×d 维。eT1W[1:k]RRd×d×k 的结果是一个 k 维向量,即:h[i]=eT1W[i]Re2; W[i]RRd×d

Loss function:

\begin{equation} J(\boldsymbol{\Omega})=\sum_{i=1}^{N} \sum_{c=1}^{C} \max \left(0,1-g\left(T^{(i)}\right)+g\left(T_{c}^{(i)}\right)\right)+\lambda\|\boldsymbol{\Omega}\|_{2}^{2} \end{equation}