JP7312780B2 - オンライン予測モデルのトレーニング方法、装置、電子デバイス、コンピュータ可読記憶媒体及びコンピュータプログラム - Google Patents

Description

本願は、コンピュータ技術分野に関し、具体的には，機械学習の技術分野に関し、特にオンライン予測モデルのトレーニング方法、装置、電子デバイス、コンピュータ可読記憶媒体及びコンピュータプログラムに関する。

リコメンドシステムは、電子取引サイトを利用してユーザに物品情報及びアドバイスを提供し、ユーザがどのような製品を購入すべきかを決定するようにサポートするものであり、販売者をシミュレーションしてクライアントが購入手続きを完了することに寄与する。個性化リコメンドは、ユーザの興味の特点や購入行動に応じて、ユーザが興味を持った情報や商品をユーザにリコメンドすることである。

従来のリコメンドシステムは、固定リコメンドアルゴリズムに基づいて、ユーザオンラインリアルタイム行動を考慮せず、かつ、異なるチャネルの特徴に対して個性化処理を行わないことにより、リコメンドモデルの汎化能力が制限され、リコメンドシステムの応答率やクリック率が低減される。

本願の実施例は、オンライン予測モデルのトレーニング方法、装置、電子デバイス、コンピュータ可読記憶媒体及びコンピュータプログラムを提供する。

第１態様によれば、オンライン予測モデルのトレーニング方法を提供しており、該方法は、ユーザのユーザ肖像画特徴を含むオフラインサンプル特徴と、オンラインサンプル特徴とを取得するステップと、ユーザのオフラインサンプル特徴とオンラインサンプル特徴に基づいて、オフライントレーニングしてオフラインリコメンドモデルを取得するステップと、ユーザの最新オンライン特徴を取得し、且つユーザの前記最新オンライン特徴に基づいて、オンライントレーニングしてオンライン学習モデルを取得するステップと、前記オフラインリコメンドモデルをオンラインに同期し、前記オンライン学習モデルによって出力された前記最新オンライン特徴を前記オフラインリコメンドモデルに入力し、オンライン予測モデルを生成するステップと、を含み、前記オンライン学習モデルは、前記最新オンライン特徴をオンラインサンプル特徴としてトレーニング済みのオフラインリコメンドモデルに入力されることに適応させることに用いられる。

第２態様によれば、オンライン予測モデルのトレーニング装置を提供しており、該装置は、ユーザのユーザ肖像画特徴を含むオフラインサンプル特徴と、オンラインサンプル特徴とを取得するように構成される取得ユニットと、ユーザのオフラインサンプル特徴とオンラインサンプル特徴に基づいて、オフライントレーニングしてオフラインリコメンドモデルを取得するように構成されるオフライントレーニングユニットと、ユーザの最新オンライン特徴を取得し、且つユーザの前記最新オンライン特徴に基づいて、オンライントレーニングしてオンライン学習モデルを取得するように構成されるオンライントレーニングユニットと、前記オフラインリコメンドモデルをオンラインに同期し、前記オンライン学習モデルによって出力された前記最新オンライン特徴を前記オフラインリコメンドモデルに入力し、オンライン予測モデルを生成するように構成されるモデル生成ユニットと、を備え、前記オンライン学習モデルは、前記最新オンライン特徴をオンラインサンプル特徴としてトレーニング済みのオフラインリコメンドモデルに入力されることに適応させることに用いられる。

第３態様によれば、本願の実施例は電子デバイスを提供しており、該電子デバイスは、少なくとも１つのプロセッサと、少なくとも１つのプロセッサと通信接続されるメモリと、を備え、メモリは、少なくとも１つのプロセッサによって実行可能な命令を記憶し、少なくとも１つのプロセッサが第１の態様のいずれかの実施形態に記載の方法を実行できるように、命令が前記少なくとも１つのプロセッサに実行される。

第４態様によれば、本願の実施例は、コンピュータ命令を記憶する非一時的なコンピュータ可読記憶媒体を提供しており、コンピュータ命令は、コンピュータに第１の態様のいずれかの実施形態に記載の方法を実行させる。

第５態様によれば、本願の実施例は、コンピュータプログラムを提供しており、当該コンピュータプログラムは、プロセッサにより実行されると、第１の態様のいずれかの実施形態に記載の方法を実行させる。

本願の実施例によるオンライン予測モデルのトレーニング方法、装置、デバイス及び記憶媒体は、まず、ユーザ肖像画特徴を含むユーザのオフラインサンプル特徴とオンラインサンプル特徴を取得し、次に、ユーザのオフラインサンプル特徴とオンラインサンプル特徴に基づいて、オフライントレーニングしてオフラインリコメンドモデルを取得し、さらに、ユーザの最新オンライン特徴を取得し、且つユーザの前記最新オンライン特徴に基づいて、オンライントレーニングしてオンライン学習モデルを取得し、前記オンライン学習モデルは、前記最新オンライン特徴をオンラインサンプル特徴としてトレーニング済みのオフラインリコメンドモデルに入力されることに適応させることに用いられ、その後、前記オフラインリコメンドモデルをオンラインに同期し、前記オンライン学習モデルによって出力された前記最新オンライン特徴を前記オフラインリコメンドモデルに入力し、オンライン予測モデルを生成する。それによりユーザのオンラインサンプルデータを用いてオンライン予測モデルを最適化し、リコメンドモデルフィッティング効果と汎化効果を向上させ、クラウドコンピューティングシーンに適用可能であるがこれらに限定されるものではない。

なお、この部分で説明する内容は、本開示の実施例の肝心なまたは重要な特徴を特定することを意図するものではなく、本開示の範囲を限定することを意図するものでもない。本開示の他の特徴は以下の明細書を通じて容易に理解される。

図面は、本解決手段をより良く理解するためのものであり、本願を限定するものではない。

本願の適用可能で例示的なシステムアーキテクチャの図である。 本願によるオンライン予測モデルのトレーニング方法の一実施例のフロ概略図である。 ＸＧＢｂｏｏｓｔモデルに従ってオフラインリコメンドモデルをトレーニングする一実施例の方法概略図である。 Ｗｉｄｅ＆Ｄｅｅｐモデルに従ってオフラインリコメンドモデルをトレーニングする一実施例の方法概略図である。 本願によるオンライン予測モデルのトレーニング方法の適用シーン概略図である。 本願によるオンライン予測モデルのトレーニング装置の一実施例の構成概略図である。 本願の実施例のオンライン予測モデルのトレーニング方法を実現する電子デバイスのブロック図である。

以下、図面を参照して、本願の例示的な実施例を説明し、理解に役に立つように、本願の実施例の様々な詳細を含み、単に例示的なものと見なされる。従って、当業者は、本願の範囲と精神から逸脱せずに、ここで説明する実施例に様々な変更と修正を加えることができることを認識すべきである。同様に、明確かつ簡潔にするために、以下の説明では、既知の機能と構造の説明を省略する。

図１は、本願のオンライン予測モデルのトレーニング方法またはオンライン予測モデルのトレーニング装置を適用できる実施例の例示的なシステムアーキテクチャ１００を示す。

図１に示すように、システムアーキテクチャ１００は、記憶デバイス１０１、ネットワーク１０２とサーバー１０３を備えてもよい。ネットワーク１０２は、記憶デバイス１０１とサーバー１０３との間の通信リンクの媒体を提供するために使用される。ネットワーク１０２有線、無線通信リンク、または光ファイバケーブルなどの様々な接続タイプを含んでもよい。

記憶デバイス１０１はネットワーク１０２を介してサーバー１０３とインタラクティブする。ネットワーク１０２はオフ状態である場合、サーバー１０３は記憶デバイス１０１によって発行された命令を直接実行できる。記憶デバイス１０１は、ユーザ端末、データライブラリなどを含むがこれらに限定されないオフラインリコメンドモデル、ユーザオフラインデータなどを提供できる。ネットワーク１０２はオフ状態である場合、サーバー１０３は、ユーザのユーザ肖像画特徴を含むオフラインサンプル特徴とオンラインサンプル特徴を取得するステップと、ユーザのオフラインサンプル特徴とオンラインサンプル特徴に基づいて、オフライントレーニングしてオフラインリコメンドモデルを取得するステップと、を含むトレーニングオフラインリコメンドモデルのステップを実行できる。

サーバー１０３は様々なサービスを提供できる、例えばサーバー１０３はネットワーク１０２を介して記憶デバイス１０１からユーザのオンラインデータを取得することができる。サーバー１０３は、さらに、記憶デバイス１０１から取得されたオフラインリコメンドモデル及びネットワーク１０２を介して記憶デバイス１０１から取得されたユーザオンラインデータなどに対して、総合分析など処理を行い、処理結果を生成する（例えばオンライン予測モデルを生成する）。

なお、サーバー１０３は、ハードウェアであってもよいし、ソフトウェアであってもよい。サーバー１０３はハードウェアである場合、それは、複数のサーバーからなる分散サーバークラスターとして実装されてもよいし、単一のサーバーとして実装されてもよい。サーバーはソフトウェアである場合、それは、複数のソフトウェアまたはソフトウェアモジュール（例えば分散サービスを提供するため）として、または単一のソフトウェアまたはソフトウェアモジュールとして実装されてもよい。ここでは、具体的には限定しない。

なお、本願の実施例によるオンライン予測モデルのトレーニング方法は、一般的にサーバー１０３により実行され、それに対応して、オンライン予測モデルのトレーニング装置は、一般的にサーバー１０３に設けられる。

なお、図１の記憶デバイス、ネットワークとサーバーの数は、単なる例示であることを理解されるべきであり、実装のニーズに応じて、任意の数の記憶デバイス、ネットワークとサーバーを備えてもよい。サーバー１０３には、オフラインリコメンドモデル、ユーザオフラインデータが記憶される場合、システムアーキテクチャ１００には、記憶デバイス１０１とネットワーク１０２が設けられなくてもよい。

図２をさらに参照して、それは、本願によるオンライン予測モデルのトレーニング方法の一実施例のプロ２００を示す。該オンライン予測モデルのトレーニング方法は、次のステップを含み、

ステップ２０１、ユーザのオフラインサンプル特徴とオンラインサンプル特徴を取得する。

本実施例では、ユーザのオフラインラインサンプル特徴は、ユーザがネットワークに繋がらず状態である場合、ユーザのオフラインラインサンプルに対して処理を行って取得された特徴を指すが、ユーザのオンラインサンプル特徴は、ユーザがネットワークに繋がる状態で取得されたユーザオンラインサンプルをユーザのオフラインサンプルとして同期した後、ユーザがネットワークに繋がらず状態である場合、同期されたユーザのオフラインサンプルに対して処理を行って取得された特徴を指す。ここでは、ユーザオンラインサンプルをユーザのオフラインサンプルとして同期するのは、ネットワークまたはデータ同期システムに基づいてユーザのあるオンラインサンプルがユーザのオフライン状態で依然として使用できることを指す。例示的には、ユーザのオンラインサンプルをローカルデバイスにコピーできる。ここでは、ユーザのオンラインサンプルは、オンライン状態でのユーザのオペレーション行動であってもよく、例えばユーザがネットワークで「中華風しゃぶしゃぶ」検索すると、今回ユーザが検索したキーワードをオンラインサンプルとしてもよい。

ここでは、ユーザのオフラインサンプル特徴またはオンラインサンプル特徴は、ユーザ肖像画特徴を含むがこれに限定されない。実行主体（例えば、図１中のネットワーク１０２がオフ状態であるサーバー１０３）は、ユーザオフラインサンプルに対して処理を行うことで、該オフラインサンプルの特徴を取得することができる。例示的には、上記の実行主体は、機械学習の特徴プロセスを用いてユーザオフラインサンプルを、コンピュータが処理できる特徴に変換することができる。ここでは、ユーザオフラインサンプルは、ユーザ肖像画などを含むがこれらに限定されなく、ここでは、ユーザ肖像画は、ユーザの性別、ユーザの年齢、ユーザの収入、ユーザのネットサーフィン回数、ユーザの検索回数、ユーザの検索キーワード、ユーザがクリックしたサイトのアドレス、ユーザの興味タグ、ユーザのＡＰＰリストなどを含むがこれらに限定されない。

ステップ２０２、ユーザのオフラインサンプル特徴とオンラインサンプル特徴に基づいて、オフライントレーニングしてオフラインリコメンドモデルを取得する。

本実施例では、取得されたユーザのオフラインサンプル特徴をトレーニングサンプルセットとする。オフラインリコメンドモデルは、機械学習方法とトレーニングサンプルセットを利用して従来の機械学習モデルをトレーニングして取得されてもよく、例示的には、「ＸＧＢｂｏｏｓｔ＋ロジスティック回帰器」モデルまたはＷｉｄｅ＆Ｄｅｅｐモデルを採用してもよい。エクストリーム勾配ブースティング（Ｅｘｔｒｅｍｅ Ｇｒａｄｉｅｎｔ Ｂｏｏｓｔｉｎｇ、ＸＧＢｂｏｏｓｔ）は、ツリーの拡張可能性を向上する機械学習システムであり、ＸＧＢｂｏｏｓｔモデルはツリーの統合モデルである。Ｗｉｄｅ＆Ｄｅｅｐモデルは、Ｗｉｄｅレイヤー／モデルとＤｅｅｐレイヤー／モデルを備え、Ｗｉｄｅモデルは一般化線形モデル（Ｗｉｄｅ Ｌｉｎｅａｒ Ｍｏｄｅｌ）であり、Ｄｅｅｐモデルはディープニューラルネットワーク（Ｄｅｅｐ Ｎｅｔｕｒａｌ Ｎｅｔｗｏｒｋ）である。

本実施例では、オフラインサンプル特徴をＸＧＢｂｏｏｓｔモデルまたはＷｉｄｅ＆ＤｅｅｐモデルのＤｅｅｐレイヤーに入力してトレーニングし、ＸＧＢｂｏｏｓｔモデルまたはＤｅｅｐモデルのパラメーターを調整することができ、例えば勾配降下法、逆伝搬法などによりパラメーターを調整する。例示的には、オフラインリコメンドモデルは「ＸＧＢｂｏｏｓｔ＋ロジスティック回帰器」モデルを採用すると、オフラインリコメンドモデルのトレーニングプロセスは以下のとおりであり、オフラインサンプル特徴をＸＧＢｂｏｏｓｔ入力して特徴組み合わせコードし、オンラインサンプル特徴を特徴コードし、オンラインサンプル特徴は、特徴コード化された後にＸＧＢｂｏｏｓｔによって出力されたオフラインサンプル特徴の組み合わせコードとスティッチングし、スティッチングされたコードをロジスティック回帰器に入力して予測トレーニングする。例示的には、オフラインリコメンドモデルはＷｉｄｅ＆Ｄｅｅｐモデルを採用すると、オフラインリコメンドモデルのトレーニングプロセスは以下のとおりであり、オフラインサンプル特徴をＤｅｅｐレイヤーに入力してオンラインサンプル特徴に対して特徴プロセス処理を行い、オンラインサンプル特徴は特徴プロセスを経てＷｉｄｅレイヤーに直接入力され、Ｗｉｄｅレイヤーの出力とＤｅｅｐレイヤーの出力をスティッチングしてロジスティック回帰器に入力して予測トレーニングする。

本実施例では、オフラインリコメンドモデルは、ユーザのクリック率（Ｃｌｉｃｋ－Ｔｈｒｏｕｇｈ－Ｒａｔｅ）またはリコメンドソートを出力することができる。好ましくは、オフラインリコメンドモデルによって出力されたクリック率またはリコメンドソートと実際クリック率またはリコメンドソートとの間に基づいて１つの損失を計算し、その損失に従って勾配降下法を使用してオフラインリコメンドモデルパラメーターを反復して最適化することで、トレーニングによって取得されたオフラインリコメンドモデルの出力結果をより正確にする。

本実施例では、オフラインサンプル特徴は比較的安定しているため、オフラインサンプル特徴によってトレーニングされたＸＧＢｂｏｏｓｔモデルまたはＤｅｅｐモデルも比較的安定しており、トレーニング済みのＸＧＢｂｏｏｓｔモデルまたはＤｅｅｐモデルを使用するとき、モデルパラメーターを調整する必要がなければ使用できる。

ステップ２０３、ユーザの最新オンライン特徴を取得し、且つユーザの最新オンライン特徴に基づいて、オンライントレーニングしてオンライン学習モデルを取得する。

本実施例では、ユーザの最新オンライン特徴は、ユーザが、ネットワークユーザがネットワークに繋がるオンライン状態で取得されたユーザ現在オンラインサンプルに対して処理を行って取得された特徴を指す。例示的には、ユーザの現在オンラインサンプルはユーザの現在リアルタイムオペレーション行動（ユーザのオンラインリアルタイム行動データ）を分析して取得され、例えば、ユーザの現在のリアルタイムオペレーション行動は、ユーザの現在検索しているキーワード、ユーザの現在クリックしているサイトアドレス、広告表示状況に関するユーザのフィードバックなどを含む。オンライン学習モデルは、機械学習方法と最新オンライン特徴を用いて従来の機械学習モデルをトレーニングしてオンライン学習モデルを取得する。好ましくは、最新オンライン特徴をオフライン特徴ライブラリに同期してもよく、そのオフライン特徴ライブラリにはオフラインサンプル特徴が記憶される。オフライン特徴ライブラリを同期するのは、ネットワークまたはデータ同期システムに基づいて最新オンライン特徴をオフライン特徴ライブラリにコピーすることを指す。同期された最新オンライン特徴はオンラインサンプル特徴として続いてオフラインリコメンドモデルをオフライントレーニングし、それによりユーザオンラインリアルタイム行動データを十分に利用してモデルを微調整し、モデルの汎化効果を向上させる。

ステップ２０４、オフラインリコメンドモデルをオンラインに同期し、且つオンライン学習モデルによって出力された最新オンライン特徴をオフラインリコメンドモデルに入力し、オンライン予測モデルを生成する。

本実施例では、オフラインリコメンドモデルをオンラインに同期するのは、ネットワークまたはデータ同期システムに基づいて、トレーニング済みのオフラインリコメンドモデルとオンラインのリコメンドモデルとを一致させることを指し、すなわちトレーニング済みのオフラインリコメンドモデルをオンラインリコメンドモデルに変換する。その後、オンライン学習モデルによって出力された最新オンライン特徴をオフラインリコメンドモデル／オンラインリコメンドモデルに入力して予測トレーニングし、オンライン予測モデルを生成する。好ましくは、「ＸＧＢｂｏｏｓｔ＋ロジスティック回帰器」オフラインリコメンドモデルを採用する場合、オンライン機械学習アルゴリズム（ＦＴＲＬ）でユーザの最新オンライン特徴を調整することにより、最新オンライン特徴をオンラインサンプル特徴として特徴コードすることに適応させ、さらにユーザの最新オンライン特徴への微調整を実現し、あるいは、Ｗｉｄｅ＆Ｄｅｅｐオフラインリコメンドモデルを採用する場合、Ｗｉｄｅレイヤーパラメーターを調整することにより、最新オンライン特徴をオンラインサンプル特徴としてＷｉｄｅレイヤーに入力させ、さらにユーザの最新オンライン特徴への微調整を実現する。この好ましい実施例では、「ＸＧＢｂｏｏｓｔ＋ロジスティック回帰器」またはＷｉｄｅ＆Ｄｅｅｐオフラインリコメンドモデルでオンライン学習するとき、モデルの既存パラメーターを調整する必要なく、ユーザの最新オンライン特徴のみへ微調整すれば、オンライン予測モデルのトレーニングを完成し、それにより、ユーザオンラインリアルタイム行動データを十分に利用してモデルを微調整し、モデルの汎化効果を向上させる。

本願の実施例は、従来技術と比較して、オンライン予測モデルの生成アルゴリズムをオフライン学習、オンライン学習の２部分に分け、ユーザオンラインのオンラインリアルタイム行動データを使用してオンライン予測モデルを最適化し、モデルフィッティング効果を向上させる。

図３をさらに参照して、それは、ＸＧＢｂｏｏｓｔモデルに従ってオフラインリコメンドモデルをトレーニングする一実施例の方法を示す概略図である。

本実施例では、ＸＧＢｂｏｏｓｔモデルで決定ツリーモデルを基底分類器とし、２つのツリー（構成ツリー１と構成ツリー２）を使用して、ここでは、モデルの入力はユーザのオフラインサンプル特徴であり、各特徴データを、まず第１のツリー（構成ツリー１）で分類し、最終的に一つのリーフノードに落とし、その得られたリーフノードの値が第１ツリーの出力値であり、その後、第２のツリー（構成ツリー２）を使用して同様のオペレーションを行い、最後に全てのツリーの出力値を加算する。ユーザのオンラインサンプル特徴は特徴コードされた後に全てのツリーの出力値を加算し、最後に加算結果をロジスティック回帰器（ｌｏｇｉｃ Ｒｅｇｒｅｓｓｉｏｎ）に入力して予測トレーニングを行う。

本実施例を採用して、オフラインリコメンドモデルでオンライン学習するとき、ＸＧＢｂｏｏｓｔモデルは予めトレーニング済みで、モデルパラメーターを更新する必要がなく、ユーザの最新オンライン特徴パラメーターのみへオンライン微調整すればよく、それによりユーザオンラインリアルタイム行動データを十分に利用してモデルを微調整し、モデルの汎化効果を向上させる。

図４をさらに参照して、それは、Ｗｉｄｅ＆Ｄｅｅｐモデルに従ってオフラインリコメンドモデルをトレーニングする一実施例の方法を示す概略図である。

本実施例では、Ｗｉｄｅ＆Ｄｅｅｐモデルを使用して、ここでは、モデルのＤｅｅｐレイヤー（例えばＤＮＮ）入力はユーザのオフラインサンプル特徴であり、モデルのＷｉｄｅレイヤー入力はユーザのオンラインサンプル特徴である。Ｗｉｄｅレイヤーは線形モデルに対応し、入力特徴は連続特徴であってもよく、スパース離散特徴であってもよい。ＤｅｅｐレイヤーはＤＮＮモデルに対応し、特徴のそれぞれは１つの低次元の実数ベクトルに対応し、これは特徴のｅｍｂｅｄｄｉｎｇと呼ばれる。ＤＮＮモデルは逆伝搬を介して隠れレイヤーの重みを調整し、特徴のｅｍｂｅｄｄｉｎｇを更新する。Ｗｉｄｅ＆Ｄｅｅｐモデル全体の出力は線形出力とＤＮＮモデル出力とのオーバーレイである。ＷｉｄｅレイヤーとＤｅｅｐレイヤーは得意なことに焦点を当てるだけでよく、Ｗｉｄｅレイヤーは離散特徴のクロス組み合わせによって記憶され、Ｄｅｅｐレイヤーは特徴のｅｍｂｅｄｄｉｎｇによって汎化され、単一のモデルのサイズと複雑さも制御でき、モデル全体のパフォーマンスを向上させる。

本実施例では、ユーザのオフラインサンプル特徴は、連続型特徴と離散型特徴を含み、連続型特徴については、ｅｍｂｅｄｄｉｎｇを行う必要がなく、離散型オフラインサンプル特徴（例えば高次元スパース特徴）にていては、先にｅｍｂｅｄｄｉｎｇを行う必要がある。図４に示すように、連続型オフラインサンプル特徴にていては、横方向スティッチングを直接行うことができるが、離散型オフラインサンプル特徴にていては、先にｅｍｂｅｄｄｉｎｇを行い、さらに連続型オフラインサンプル特徴と横方向スティッチングする。例示的には、連続型オフラインサンプル特徴は、年齢、収入、ネットサーフィン回数、検索回数などを含み、離散型オフラインサンプル特徴は、検索キーワード、クリックしたサイトのＩＤ、興味タグ、ＡＰＰリストなどを含む。連続型オフラインサンプル特徴と離散型オフラインサンプル特徴（ｅｍｂｅｄｄｉｎｇした後）に対して横方向スティッチングを行って２０００次元のベクトルを形成した後、スティッチングの特徴ベクトルを三層全結合層ＤＮＮと活性化関数に入力し、最後にＤｅｅｐレイヤーの出力値をロジスティック回帰器に入力して予測トレーニングする。ユーザのオンラインサンプル特徴はＷｉｄｅレイヤーに入力され、オンラインサンプル特徴は特徴プロセスを経てロジスティック回帰器に入力され予測トレーニングされる。

本実施例を採用して、オフラインリコメンドモデルでオンライン学習するとき、Ｗｉｄｅ＆ＤｅｅｐモデルのＤｅｅｐレイヤーは予めトレーニング済みで、Ｄｅｅｐレイヤーパラメーターを更新する必要がなく、Ｗｉｄｅレイヤーパラメーターを微調整し、ユーザの最新オンライン特徴をＷｉｄｅレイヤーに入力すればよく、それによりユーザオンラインリアルタイム行動データを十分に利用してモデルを微調整し、モデルの汎化効果を向上させる。

図５をさらに参照して、それは、本願によるオンライン予測モデルのトレーニング方法を示す適用シーン概略図である。

本実施例では、マーケティング領域の個性化リコメンドシステムのアーキテクチャを示す。そのリコメンドシステムは、オンライン学習、オフライン学習の２部分を含む。そのシステムは、ユーザのオンラインリアルタイム行動によりユーザオンラインデータを取得し、ここでは、ユーザのオンラインリアルタイム行動は、ユーザのクリック行動及び広告表示状況を含む。ユーザのオンラインデータは、ユーザのオンラインサンプルを含み、オンラインサンプルに対して分析処理を行うことでユーザのオンラインサンプル特徴を取得する。データ同期サービスによりユーザのオンラインサンプル特徴をユーザのオフラインデータに同期し、それをユーザのオンラインサンプル特徴としてオフラインリコメンドモデルをトレーニングすることができる。ユーザのオフラインデータは、ユーザのオフラインサンプルを含み、オフラインサンプルに対して分析処理を行うことでユーザのオフラインサンプル特徴を取得する。ユーザのオフラインサンプルは主にユーザ肖像画などを含む。オフライン学習はユーザオフラインデータ（ユーザオフラインデータに同期されたユーザオフンインサンプル特徴を含む）に基づいて、オフラインリコメンドモデルをトレーニングする。オンライン学習するとき、トレーニング済みのオフラインリコメンドモデルをオンライン（モデル同期サービスにより）に同期し、同時に、システムは、ユーザの最新オンラインリアルタイム行動を取得し、最新のオンラインリアルタイム行動からユーザの最新オンライン特徴を抽出し、ここでは、そのユーザの最新オンライン特徴もユーザのオンラインデータに属し、ユーザの最新オンライン特徴に基づいてトレーニングし、オンライン学習モデルを取得する。トレーニング済みのオンライン学習モデルは、オフラインリコメンドモデルを最適化し、モデルのフィッティング効果を向上させることに用いられる。最適化されたオフラインリコメンドモデルはすなわちオンライン予測モデルであり、そのモデルはリコメンドシステムの業務プロセスのリコメンドソートとクリック率推定を活発化させる。ユーザのそのリコメンドシステムでのクリック行動と広告表示状況を新たなユーザオンラインサンプルとすることができ、それにより、ユーザオンラインリアルタイム行動データは、継続的にオンラインモデルを最適化することに用いられる。そのリコメンドシステムは、従来リコメンドエンジンと比較して、応答率及びクリック率に顕著な向上がある。

さらに図６を参照して、上記の各図に示される方法の実施として、本願は、オンライン予測モデルのトレーニング装置の一実施例を提供し、その装置実施例は図２に示される方法実施例に対応し、その装置は、具体的には、様々電子デバイスに適用することができる。

図６に示すように、本実施例のオンライン予測モデルのトレーニング装置は、ユーザのユーザ肖像画特徴を含むオフラインサンプル特徴と、オンラインサンプル特徴とを取得するように構成される取得ユニット６０１と、ユーザのオフラインサンプル特徴とオンラインサンプル特徴に基づいて、オフライントレーニングしてオフラインリコメンドモデルを取得するように構成されるオフライントレーニングユニット６０２と、ユーザの最新オンライン特徴を取得し、且つユーザの最新オンライン特徴に基づいて、オンライントレーニングしてオンライン学習モデルを取得するように構成されるオンライントレーニングユニット６０３と、オフラインリコメンドモデルをオンラインに同期し、オンライン学習モデルによって出力された最新オンライン特徴をオフラインリコメンドモデルに入力し、オンライン予測モデルを生成するように構成されるモデル生成ユニット６０４と、を備え、オンライン学習モデルは、前記最新オンライン特徴をオンラインサンプル特徴としてトレーニング済みのオフラインリコメンドモデルに入力されることに適応させることに用いられる。

本実施例では、オンライン予測モデルのトレーニング装置において、取得ユニット６０１、オフライントレーニングユニット６０２、オンライントレーニングユニット６０３、モデル生成ユニット６０４の具体的な処理及びその技術効果はそれぞれ図２に対応する実施例のステップ２０１～２０４の関連説明を参照でき、ここでは繰り返し説明しない。

本実施例のいくつの選択可能な実施形態では、前記オフラインリコメンドモデルは、ＸＧＢｂｏｏｓｔモデルまたはＷｉｄｅ＆Ｄｅｅｐモデルを備える。

本実施例のいくつの選択可能な実施形態では、前記装置は、さらに、ユーザの前記最新オンライン特徴またはオンラインサンプル特徴を、ユーザの前記オフラインサンプル特徴を記憶するオフライン特徴ライブラリに同期するように構成されるデータ同期ユニットを備える。

本実施例のいくつの選択可能な実施形態では、前記装置は、さらに、ユーザオンラインオペレーション行動を含むユーザオンラインリアルタイム行動に従って、ユーザのオンラインサンプル特徴を決定するように構成されるオンラインサンプル特徴生成ユニットを備える。

本実施例のいくつの選択可能な実施形態では、前記装置は、さらに、前記オンライン予測モデルの出力に従ってリコメンドシステムのリコメンドソートまたはクリック率推定を決定するように構成される結果出力ユニットを備える。

本実施例のいくつの選択可能な実施形態では、前記オフラインリコメンドモデルはＸＧＢｂｏｏｓｔモデルであり、前記オフライントレーニングユニットは、さらに、前記オフラインサンプル特徴をＸＧＢｂｏｏｓｔに入力し、前記オフラインサンプル特徴の特徴コードを生成し、前記オンラインサンプル特徴を特徴コードし、且つ前記オンラインサンプル特徴の特徴コードとオフラインサンプル特徴の組み合わせコードをスティッチングし、スティッチング結果をロジスティック回帰器に入力して予測トレーニングし、トレーニング済みのオフラインリコメンドモデルを取得するように構成される。

本実施例のいくつの選択可能な実施形態では、前記オンライントレーニングユニットは、さらに、オンライン機械学習アルゴリズム（ＦＴＲＬ）で前記最新オンライン特徴を調整することにより、前記最新オンライン特徴をオンラインサンプル特徴として特徴コードすることに適応させるように構成される。

本実施例のいくつの選択可能な実施形態では、前記オフラインリコメンドモデルはＷｉｄｅ＆Ｄｅｅｐモデルであり、前記オフライントレーニングユニットは、さらに、ユーザの前記オフラインサンプル特徴をＤｅｅｐレイヤーに入力し、特徴プロセスを経た前記オンラインサンプル特徴をＷｉｄｅレイヤーに入力し、Ｄｅｅｐレイヤー特徴とスティッチングされたＷｉｄｅレイヤー特徴をロジスティック回帰器に入力して予測トレーニングし、トレーニング済みのオフラインリコメンドモデルを取得するように構成される。

本実施例のいくつの選択可能な実施形態では、前記オンライントレーニングユニットは、さらに、Ｗｉｄｅレイヤーパラメーターを調整することにより、前記最新オンライン特徴をオンラインサンプル特徴としてＷｉｄｅレイヤーに入力されることに適応させるように構成される。

本願の実施例によれば、さらに、本願は電子デバイスと読み取り可能な記憶媒体を提供する。

図７に示すように、本願の実施例によるオンライン予測モデルのトレーニング方法の電子デバイスのブロック図である。電子デバイスは、ラップトップコンピュータ、デスクトップコンピュータ、ワークステーション、パーソナルデジタルアシスタント、サーバー、ブレードサーバー、メインフレーム、その他の適切なコンピュータなどのさまざまな態様のデジタルコンピュータを表すことを目的とする。電子デバイスは、パーソナルデジタル処理、セルラー方式の携帯電話、スマートフォン、ウェアラブルデバイス、及び他の類似するコンピューティング装置などのさまざまな態様のモバイル装置を表すこともできる。本文に示されるコンポーネント、それらの接続及び関係、ならびにそれらの機能は、単なる例であり、本文に記載されるおよび／または主張される本願の実現を限定することを意図しない。

図７に示すように、該電子デバイスは、１つまたは複数のプロセッサ７０１、メモリ７０２、及び高速インターフェース及び低速インターフェースを備える各コンポーネントを接続するためのインターフェースを備える。各コンポーネントは、異なるバスで相互に接続されており、共通のマザーボードにインストールしてもよいし、必要に応じて、他の方法でインストールしてもよい。プロセッサは、ＧＵＩのグラフィック情報を外部入／出力装置（インターフェースに結合されたディスプレイデバイスなど）に表示できるように、メモリ内またはメモリ上に記憶された命令を含む電子デバイスで実行された命令を処理でき、他の実施例では、必要とすれば、複数のプロセッサおよび／または複数のバスを、複数のメモリ及び複数のメモリと共に使用することができる。同様に、複数の電子デバイスを接続でき、各デバイスはいくつかの必要なオペレーティングを提供する（例えば、サーバーアレイ、ブレードサーバーグループ、またはマルチプロセッサシステムとする）。図７では、１つのプロセッサ７０１を例にする。

メモリ７０２は、すなわち、本願による非一時的なコンピュータ可読記憶媒体である。ただし、前記メモリは、少なくとも１つのプロセッサによって実行可能な命令を記憶するので、前記少なくとも１つのプロセッサに本願によるオンライン予測モデルのトレーニング方法を実行させる。本願の非一時的なコンピュータ可読記憶媒体は、コンピュータに本願によるオンライン予測モデルのトレーニング方法を実行させるためのコンピュータ命令を記憶する。

メモリ７０２は非一時的なコンピュータ可読記憶媒体として、非一時的なソフトウェアプログラム、非一時的なコンピュータによって実行可能なプログラム、及びモジュールを記憶することに用いられ、例えば、本願の実施例のオンライン予測モデルのトレーニング方法に対応するプログラム命令／モジュール（例えば、図６に示される取得ユニット６０１、オフライントレーニングユニット６０２、オンライントレーニングユニット６０３とモデル生成ユニット６０４）プロセッサ７０１は、メモリ７０２に記憶された非一時的なソフトウェアプログラム、命令及びモジュールを実行することによって、サーバーの様々な機能アプリケーション及びデータ処理を実行し、すなわち、上記の方法実施例のオンライン予測モデルのトレーニング方法を実現する。

メモリ７０２は、記憶プログラム領域と記憶データ領域を含んでもよく、ただし、記憶プログラム領域は、オペレーティングシステム、少なくとも１つの機能に必要なアプリケーションプログラムを記憶してもよく、記憶データ領域は、オンライン予測モデルのトレーニング方法の電子デバイスの使用のため、作成されたデータなどを記憶することができ、また、メモリ７０２は、高速ランダムアクセスメモリを含んでもよく、さらに非一時的なメモリを含んでもよく、例えば、少なくとも１つの磁気ディスク記憶デバイス、フラッシュメモリデバイス、または他の非一時的なソリッドステートストレージデバイスなどの非一時的なメモリを含んでもよく、いくつかの実施例では、メモリ７０２は、プロセッサ７０１に対してリモートで設定されたメモリを選択してもよく、これらのリモートメモリは、ネットワークを介してオンライン予測モデルのトレーニング方法の電子デバイスに接続されてもよい。上記のネットワークの例としては、インターネット、ブロックチェーンネットワーク、企業イントラネット、ローカルエリアネットワーク、モバイル通信ネットワーク、及びそれらの組み合わせなどを含むが、これらに限定されない。

オンライン予測モデルのトレーニング方法の電子デバイスは、入力装置７０３及び出力装置７０４をさらに備えてよい。プロセッサ７０１、メモリ７０２、入力装置７０３、出力装置７０４は、バスなどで接続されてもよいが、図７にバスによる接続を例にする。

入力装置７０３は、入力デジタルまたは文字情報を受信し、オンライン予測モデルのトレーニング方法の電子デバイスのユーザ設定及び機能制御に関連するキー信号入力を生成することができる。例えば、タッチスクリーン、キーパッド、マウス、トラックパッド、タッチパッド、ポインティングスティック、１つ以上のマウスボタン、トラックボール、ジョイスティック、その他の入力装置。出力装置７０４は、ディスプレイデバイス、補助照明装置（例えば、ＬＥＤ）、触覚フィードバック装置（例えば、振動モーター）などを備えてもよい。該ディスプレイデバイスは、液晶ディスプレイ（ＬＣＤ）、発光ダイオード（ＬＥＤ）ディスプレイ、及びプラズマディスプレイを備えてもよい。いくつかの実施例では、ディスプレイデバイスはタッチスクリーンであってもよい。

ここでは説明されるシステム及び技術の様々な実施形態は、デジタル電子回路システム、集積回路システム、特定用途向けＡＳＩＣ（特定用途向け集積回路）、コンピュータハードウェア、ファームウェア、ソフトウェア、および／またはそれらの組み合わせにおいて実現できる。これらの様々な実施形態は、以下を含んでもよく、１つまたは複数のコンピュータプログラムに実施され、該１つまたは複数のコンピュータプログラムは、少なくとも１つのプログラマブルプロセッサを含むプログラマブルシステム上で実行および／または解釈されてもよく、該プログラマブルプロセッサは、ストレージシステム、少なくとも１つの入力装置、及び少なくとも１つの出力装置からデータと命令を受信し、そのデータと命令をストレージシステム、少なくとも１つの入力装置、及び少なくとも１つの出力装置に送信できる専用または汎用のプログラマブルプロセッサであってもよい。

これらのコンピュータプログラム（プログラム、ソフトウェア、ソフトウェアアプリケーション、またはコードとも呼ばれる）は、プログラマブルプロセッサの機械命令を含み、高レベルのプロセス及び／またはオブジェクト指向プログラミング言語、及び／またはアセンブリ／機械言語を利用してこれらのコンピュータプログラムを実施することができる。本文で使用されるように、「機械読み取り可能な媒体」及び「コンピュータ読み取り可能な媒体」という用語は、プログラマブルプロセッサに機械命令および／またはデータを提供するために用いられる任意のコンピュータプログラム製品、デバイス、および／または装置（例えば、磁気ディスク、光ディスク、メモリ、プログラマブルロジック装置（ＰＬＤ）を指す。機械読み取り可能な信号である機械命令を受信する機械読み取り可能な媒体を含む。「機械読み取り可能な信号」という用語は、プログラマブルプロセッサに機械命令および／またはデータを提供するために用いられる任意の信号を指す。

ユーザとのインタラクティブを提供するために、コンピュータにここでは説明されるシステム及び技術を実施してもよく、該コンピュータは、ユーザに情報を表示するためのディスプレイ装置（例えば、ＣＲＴ（陰極線管）またはＬＣＤ（液晶ディスプレイ）モニター）、及びキーボードとポインティング装置（マウスやトラックボールなど）を備え、ユーザが該キーボードとポインティング装置を介してコンピュータに入力を提供することができる。他のタイプの装置もユーザとのインタラクティブを提供するために用いられ、例えば、ユーザに提供されるフィードバックは、任意の形式の感覚フィードバック（例えば、視覚フィードバック、聴覚フィードバック、または触覚フィードバック）であってもよく、任意の形式（音入力、音声入力、または触覚入力を含み）でユーザからの入力を受信することができる。

ここでは説明されるシステムと技術は、バックエンドコンポーネント（例えば、データサーバー）を含むコンピュータシステム、ミドルウェアコンポーネント（例えば、アプリケーションサーバー）を含むコンピュータシステム、またはフロントエンドコンポーネントを含むコンピュータシステム（例えば、グラフィカルユーザインターフェイスまたはＷｅｂブラウザーを備え、ユーザが該ラフィカルユーザインターフェイスまたはＷｅｂブラウザーでシステムと技術の実施例とインタラクティブできるユーザのコンピュータ）、またはそのようなバックエンドコンポーネント、ミドルウェアコンポーネント、またはフロントエンドコンポーネントを含む任意の組み合わせに実施してもよく、システムのコンポーネントは、任意の形式または媒体のデジタルデータ通信（通信ネットワークなど）を介して相互に接続してもよい。通信ネットワークの例としては、ローカルエリアネットワーク（ＬＡＮ）、ワイドエリアネットワーク（ＷＡＮ）、インターネット、ブロックチェーンネットワークが挙げられる。

コンピュータシステムは、クライアント端末及びサーバーを含んでもよい。クライアント端末とサーバーは、一般的に互いに離れており、通常は通信ネットワークを介してインタラクティブする。対応するコンピュータ上で、互いにクライアント端末／サーバー関係を持つコンピュータプログラムを実行することによりクライアント端末とサーバーの関係を生成する。

なお、上記に示される様々な形態のプロセスを使用して再度ソートし、ステップを追加し、削除できる。例えば、本願に記載される各ステップは、本願に開示される技術的解決手段の所望の結果を達成できる限り、並列、順次、または異なる順序で実行されてもよく、ここでは本文に限定されない。

上記の具体的な実施形態は、本願の特許範囲を限定するものではない。当業者は、設計要件及び他の要因に応じて、様々な修正、組み合わせ、サブ組み合わせ、及び置換を行うことができると理解すべきである。本願の精神及び原則を逸脱せずに行われる変形、均等など置換、改良などはすべて本願の特許範囲に含まれるべきである。

Claims (21)

1. オンライン予測モデルのトレーニング装置により実行される方法であって、
   取得ユニットが、ユーザのユーザ肖像画特徴を含むオフラインサンプル特徴と、オンラインサンプル特徴とを取得するステップと、
   オフライントレーニングユニットが、ユーザのオフラインサンプル特徴とオンラインサンプル特徴に基づいて、オフライントレーニングしてオフラインリコメンドモデルを取得するステップと、
   モデル同期ユニットが、前記オフラインリコメンドモデルを、オンラインリコメンドモデルとして、オンラインに同期するステップと、
   オンライントレーニングユニットが、ユーザの最新オンライン特徴を取得し、且つユーザの前記最新オンライン特徴を前記オンラインリコメンドモデルに入力し、オンライントレーニングしてオンライン学習モデルを取得するステップと、
   モデル生成ユニットが、前記オンライン学習モデルを、オンライン予測モデルとするステップと、を含み、
   前記オンライン学習モデルは、前記最新オンライン特徴がオンラインサンプル特徴として入力されることに適応させるように、前記オンラインリコメンドモデルのパラメーターを調整したモデルである、方法。
2. 前記オフラインリコメンドモデルは、ＸＧＢｂｏｏｓｔモデルまたはＷｉｄｅ＆Ｄｅｅｐモデルを備える請求項１に記載の方法。
3. 前記方法は、データ同期ユニットがユーザの前記最新オンライン特徴をユーザの前記オフラインサンプル特徴を記憶するオフライン特徴ライブラリに同期するステップをさらに含む請求項１に記載の方法。
4. 前記方法は、オンラインサンプル特徴生成ユニットがユーザオンラインオペレーション行動を含むユーザオンラインリアルタイム行動に従ってユーザのオンラインサンプル特徴を決定するステップをさらに含む請求項１または３に記載の方法。
5. 前記方法は、結果出力ユニットが前記オンライン予測モデルの出力に従ってリコメンドシステムのリコメンドソートまたはクリック率推定を決定するステップをさらに含む請求項１または４に記載の方法。
6. 前記オフラインリコメンドモデルはＸＧＢｂｏｏｓｔモデルであり、前記オフライントレーニングユニットがユーザのオフラインサンプル特徴とオンラインサンプル特徴に基づいてオフライントレーニングしてオフラインリコメンドモデルを取得するステップは、
   前記オフラインサンプル特徴をＸＧＢｂｏｏｓｔに入力し、前記オフラインサンプル特徴の特徴コードを生成することと、
   前記オンラインサンプル特徴を特徴コードし、且つ前記オンラインサンプル特徴の特徴コードとオフラインサンプル特徴の組み合わせコードをスティッチングすることと、
   スティッチング結果をロジスティック回帰器に入力して予測トレーニングし、トレーニング済みのオフラインリコメンドモデルを取得することと、を含む請求項４に記載の方法。
7. 前記ユーザの前記最新オンライン特徴を前記オンラインリコメンドモデルに入力し、オンライントレーニングしてオンライン学習モデルを取得するステップは、
   オンライン機械学習アルゴリズム（ＦＴＲＬ）で前記オンラインリコメンドモデルの最新オンライン特徴に関するパラメーターを調整することにより、前記最新オンライン特徴をオンラインサンプル特徴として特徴コードすることに適応させることを含む請求項６に記載の方法。
8. 前記オフラインリコメンドモデルはＷｉｄｅ＆Ｄｅｅｐモデルであり、前記オフライントレーニングユニットがユーザのオフラインサンプル特徴とオンラインサンプル特徴に基づいてオフライントレーニングしてオフラインリコメンドモデルを取得するステップは、
   ユーザの前記オフラインサンプル特徴をＤｅｅｐレイヤーに入力することと、
   特徴プロセスを経た前記オンラインサンプル特徴をＷｉｄｅレイヤーに入力することと、
   Ｄｅｅｐレイヤー特徴とスティッチングされたＷｉｄｅレイヤー特徴をロジスティック回帰器に入力して予測トレーニングし、トレーニング済みのオフラインリコメンドモデルを取得することと、を含む請求項４に記載の方法。
9. 前記ユーザの前記最新オンライン特徴を前記オンラインリコメンドモデルに入力し、オンライントレーニングしてオンライン学習モデルを取得するステップは、
   前記オンラインリコメンドモデルのＷｉｄｅレイヤーパラメーターを調整することにより、前記最新オンライン特徴をオンラインサンプル特徴としてＷｉｄｅレイヤーに入力されることに適応させることを含む請求項８に記載の方法。
10. オンライン予測モデルのトレーニング装置であって、
    ユーザのユーザ肖像画特徴を含むオフラインサンプル特徴と、オンラインサンプル特徴とを取得するように構成される取得ユニットと、
    ユーザのオフラインサンプル特徴とオンラインサンプル特徴に基づいて、オフライントレーニングしてオフラインリコメンドモデルを取得するように構成されるオフライントレーニングユニットと、
    前記オフラインリコメンドモデルを、オンラインリコメンドモデルとして、オンラインに同期するように構成されるモデル同期ユニットと、
    ユーザの最新オンライン特徴を取得し、且つユーザの前記最新オンライン特徴を前記オンラインリコメンドモデルに入力し、オンライントレーニングしてオンライン学習モデルを取得するように構成されるオンライントレーニングユニットと、
    前記オンライン学習モデルを、オンライン予測モデルとするように構成されるモデル生成ユニットと、を備え、
    前記オンライン学習モデルは、前記最新オンライン特徴がオンラインサンプル特徴として入力されることに適応させるように、前記オンラインリコメンドモデルのパラメーターを調整したモデルである、装置。
11. 前記オフラインリコメンドモデルは、ＸＧＢｂｏｏｓｔモデルまたはＷｉｄｅ＆Ｄｅｅｐモデルを備える請求項１０に記載の装置。
12. 前記装置は、さらに、ユーザの前記最新オンライン特徴またはオンラインサンプル特徴を、ユーザの前記オフラインサンプル特徴を記憶するオフライン特徴ライブラリに同期するように構成されるデータ同期ユニットと、を備える請求項１０に記載の装置。
13. 前記装置は、さらに、ユーザオンラインオペレーション行動を含むユーザオンラインリアルタイム行動に従って、ユーザのオンラインサンプル特徴を決定するように構成されるオンラインサンプル特徴生成ユニットを備える請求項１０または１２に記載の装置。
14. 前記装置は、さらに、前記オンライン予測モデルの出力に従ってリコメンドシステムのリコメンドソートまたはクリック率推定を決定するように構成される結果出力ユニットを備える請求項１０または１３に記載の装置。
15. 前記オフラインリコメンドモデルはＸＧＢｂｏｏｓｔモデルであり、前記オフライントレーニングユニットは、さらに、
    前記オフラインサンプル特徴をＸＧＢｂｏｏｓｔに入力し、前記オフラインサンプル特徴の特徴コードを生成し、
    前記オンラインサンプル特徴を特徴コードし、且つ前記オンラインサンプル特徴の特徴コードとオフラインサンプル特徴の組み合わせコードをスティッチングし、
    スティッチング結果をロジスティック回帰器に入力して予測トレーニングし、トレーニング済みのオフラインリコメンドモデルを取得するように構成される請求項１３に記載の装置。
16. 前記オンライントレーニングユニットは、さらに、
    オンライン機械学習アルゴリズム（ＦＴＲＬ）で前記オンラインリコメンドモデルの最新オンライン特徴に関するパラメーターを調整することにより、前記最新オンライン特徴をオンラインサンプル特徴として特徴コードすることに適応させるように構成される請求項１５に記載の装置。
17. 前記オフラインリコメンドモデルはＷｉｄｅ＆Ｄｅｅｐモデルであり、前記オフライントレーニングユニットは、さらに、
    ユーザの前記オフラインサンプル特徴をＤｅｅｐレイヤーに入力し、
    特徴プロセスを経た前記オンラインサンプル特徴をＷｉｄｅレイヤーに入力し、
    Ｄｅｅｐレイヤー特徴とスティッチングされたＷｉｄｅレイヤー特徴をロジスティック回帰器に入力して予測トレーニングし、トレーニング済みのオフラインリコメンドモデルを取得するように構成される請求項１３に記載の装置。
18. 前記オンライントレーニングユニットは、さらに、
    前記オンラインリコメンドモデルのＷｉｄｅレイヤーパラメーターを調整することにより、前記最新オンライン特徴をオンラインサンプル特徴としてＷｉｄｅレイヤーに入力されることに適応させるように構成される請求項１７に記載の装置。
19. 電子デバイスであって、
    １つまたは複数のプロセッサと、
    １つまたは複数のプログラムを記憶するための記憶装置と、を備え、
    前記１つまたは複数のプログラムが前記１つまたは複数のプロセッサに実行されると、前記１つまたは複数のプロセッサが請求項１～９いずれか１項に記載の方法を実現する電子デバイス。
20. コンピュータプログラムを記憶したコンピュータ可読記憶媒体であって、該コンピュータプログラムは、プロセッサに実行されると、請求項１～９いずれか１項に記載の方法を実現する記憶媒体。
21. コンピュータプログラムであって、該コンピュータプログラムは、プロセッサにより実行されると、請求項１～９いずれか１項に記載の方法を実現するコンピュータプログラム。

Images