Deep Multi-task Learning and Real-time Personalization for Closeup Recommendations
Pinterest uses deep multi-task learning and real-time personalization to improve closeup recommendations for users. The Closeup relevance team has designed deep neural network (DNN) models that deeply embed multi-task predictions for user outcomes, introduced sequential features that capture a user’s most recent actions, and employed a personalized, context-aware blending model that combines all predictions into final ranking in real-time. They have also introduced Multi-gate Mixture of Experts (MMoE) to improve multi-task prediction in their DNN architecture and teacher-student regularization to stabilize ranking model predictions. The team has incorporated general user signals as well as real-time user sequence signals to capture users’ long term and short term interest, and leveraged utility blending to further model users’ real-time, query-specific preferences.
Pinterestは、ディープマルチタスク学習とリアルタイムパーソナライゼーションを使用して、ユーザーに対するクローズアップの推奨を改善しています。Closeup relevanceチームは、ユーザーのアウトカムのディープニューラルネットワーク(DNN)モデルを設計し、ユーザーの最近のアクションを捕捉するシーケンシャルフィーチャーを導入し、個人化されたコンテキストに応じたブレンディングモデルを使用して、すべての予測をリアルタイムで最終ランキングに組み合わせます。また、DNNアーキテクチャでマルチタスク予測を改善するために、Multi-gate Mixture of Experts(MMoE)を導入し、ランキングモデル予測を安定させるために教師-生徒正則化を使用しました。チームは、一般的なユーザーシグナルとリアルタイムのユーザーシーケンスシグナルを組み込み、ユーザーの長期的および短期的な興味を捕捉し、ユーティリティブレンディングを活用して、ユーザーのリアルタイム、クエリに固有の好みをさらにモデル化しました。