GLM到FM到FFM到DeepFM

GLM(General Linear Model)

y=w0+∑ni=1wixiy=w0?+i=1∑n?wi?xi

FM(Factorization Machine)

y=w0+∑ni=1wixi+∑ni=1∑nj=i+1wijxixjy=w0?+i=1∑n?wi?xi?+i=1∑n?j=i+1∑n?wij?xi?xj

y=w0+∑ni=1wixi+∑ni=1∑nj=i+1<Vi,Vj>xixjy=w0?+i=1∑n?wi?xi?+i=1∑n?j=i+1∑n?<Vi?,Vj?>xi?xj

FFM（Field-aware Factorization Machine）

y=w0+∑ni=1wixi+∑ni=1∑nj=i+1<Vi,fj,Vj,fi>xixjy=w0?+i=1∑n?wi?xi?+i=1∑n?j=i+1∑n?<Vi,fj??,Vj,fi??>xi?xj

DeepFM

對比

廣度模型(GLM、FM、FFM)學習一階或兩階特徵組合。

深度模型(FNN、PNN)學習高階特徵組合。

廣度和深度模型(Wide&Deep、DeepFM）同時學習低階和高階特徵組合。

DeepFM和Wide&Deep相比，無需特徵工程，包含低階和高階特徵組合。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！