Paper总结 - NTN: Reasoning with neural tensor networks for knowledge base completion
这篇文章发表于NeurIPS2013,在TransE发表之前。
主要内容: NTN - Neural Tensor Network
score function:
g(e1,R,e2)=uTRf(eT1W[1:k]Re2+VR[e1e2]+bR)
其中,e1,e2∈Rd, 是头尾实体的向量表示。 W[1:k]R∈Rd×d×k,有 k 个 slide,每个 slide 都是 d×d 维。eT1W[1:k]R∈Rd×d×k 的结果是一个 k 维向量,即:h[i]=eT1W[i]Re2; W[i]R∈Rd×d
Loss function:
\begin{equation}
J(\boldsymbol{\Omega})=\sum_{i=1}^{N} \sum_{c=1}^{C} \max \left(0,1-g\left(T^{(i)}\right)+g\left(T_{c}^{(i)}\right)\right)+\lambda\|\boldsymbol{\Omega}\|_{2}^{2}
\end{equation}