JP6985518B2 - パーソナライズされた推奨を生成するために適合されたクライアント、サーバ、およびクライアント−サーバシステム - Google Patents

Description

この開示は、パーソナライズされた推奨の生成を可能にする改良されたクライアント、サーバ、およびクライアント−サーバシステムに関する。

クライアント−サーバシステムは、システムのタスクがサービスのプロバイダ、すなわちサーバとサービス要求者、すなわちクライアントとの間で分割される構造である。サーバは、そのリソースをクライアントと共有する１つ以上のプログラムを実行することができる。一方、クライアントはそのリソースのいかなるものも共有せず、サーバのコンテンツやサービス機能を要求する。クライアント、すなわち、携帯電話、タブレットなどのユーザ装置は、各クライアントがデータのソースであるので、そのようなクライアント−サーバシステムにおいて使用される機械学習プロセスの重要な部分であり、そのデータは、機械学習プロセスにおいて使用されるモデルを構築し、モデルから結果を生成するために使用される。

結果は、例えば、クライアントのユーザにとって関心のある特定のアイテムが１つまたは複数のモデルによって予測される、より大きなアイテムのセットから取られた、１つまたは複数の特定のアイテムの推奨とすることができる。アイテムは、例えば、視聴に利用可能なビデオ、ダウンロードに利用可能なアプリケーション、または購入に利用可能な衣服のような物理オブジェクトである。クライアントとアイテムは、いわゆるクライアント−アイテム行列に収集することができる。

機械学習プロセスは、例えば、履歴およびトランザクションデータに見い出されるパターンを利用することによって、予測作成に使用され得る複雑なモデルおよびアルゴリズムを作成することを含む。予測作成にはいくつかの技法があるが、１つの共通する特徴は、例えば、ビデオクリップ、衣服などのより大きな要素セット内の個々の要素に対して、レーティングのような予測スコアを適用することである。予測は、ユーザがビデオを視聴し、アプリケーションをダウンロードし、または衣服を購入する確率を示し、その後、ユーザへの推奨を生成するために使用され得る。

効率的な機械学習プロセスを達成することは困難である。なぜなら、パターンを見つけることが困難であり、しばしば利用可能である十分な訓練データがないためである。その結果、機械学習プロセスは送達に失敗することが多い。したがって、機械学習プロセスに可能な限り多くのデータが利用可能であることが重要である。クライアント−サーバシステムの場合、これは、できるだけ多くのクライアントおよびそれらのデータへのアクセス権を持つサーバに変換される。各クライアントは、携帯電話、タブレットなどのユーザデバイスであり、機械学習プロセスで使用されるモデルを構築するために使用されるデータのソースであるだけでなく、最も高いスコアを得たビデオクリップまたは衣服をクライアントのユーザに推奨するなど、モデルの結果を配信するための媒体でもある。

このようなモデル構築に対する従来技術のアプローチは、ユーザデータを中央サーバに送信することを含み、データを処理し、モデルを構築し、推奨の形式で結果を生成するために異なるアルゴリズムが使用される。推奨は、個別および個人的であるべきであり、データが個人的であるほど、推奨は良好になる。

携帯電話、タブレットなどのクライアントは、異なる種類の個人的なユーザデータ、例えば、非常に機密性の高い個人的なデータと考えられることがあるクライアント位置、および特に機密性の高い個人的なデータとは考えられないことがあるダウンロードされたアプリケーションを含む。機密性のレベルにかかわらず、データは依然として個人的なユーザデータと考えられる。

例えば、２０１８年にＥＵ諸国で施行されるＧＤＰＲ（General Data Protection Regulation）や、企業がどのようにしてユーザデータを収集し、保管し、使用するかについての一般的な精査は、パーソナライズされた推薦を生成することをより困難にする問題であり、ユーザのデータを収集し、保管し、処理するために明示的なユーザのオプトイン同意が要求されるときには不可能でさえあるかもしれない。オプトイン率が２０％と低いことを開示している調査では、このようなパーソナライズされた推奨を生成しようとすることは、もはや有益ではないことがある。

さらに、多数のクライアントのために毎日ギガバイトのユーザデータを収集し、データをセキュアに保管および使用するには、高価なインフラストラクチャおよび管理ソリューションが必要である。

クライアントのユーザにパーソナライズされた推奨のような結果を提供することは、例えば、すでに視聴したビデオクリップであることにより、関心のないコンテンツをフィルタリングしながら、例えば、視聴を楽しめるビデオクリップをユーザが見つける手助けをすることによって、ユーザをサービスに関与させる重要な手段である。

これは、改良されたクライアント、サーバ、およびクライアント−サーバシステムを提供することを目的とする。

前述および他の目的は、独立請求項の特徴によって達成される。さらなる実施態様の形式は、従属クレーム、明細書および図面から明らかである。

第１の態様によれば、クライアントのユーザのためにパーソナライズされたアイテムの推奨を生成するように適合されたクライアントであって、クライアントは、アイテムのグローバルセットおよび少なくとも１つのモデルを利用するサーバに接続されており、クライアントは、サーバからダウンロードした少なくとも１つのモデルを利用することと、ダウンロードしたモデルの少なくとも１つおよびクライアントに記憶されたローカル・クライアント・データセットを用いて、アイテムの少なくとも１つを含む推奨セットを生成することと、をするように構成されている、クライアントが提供される。

これらの特徴を含むクライアントは、パーソナライズされたアイテムの推奨を生成するために必要な計算の一部がクライアントで実行され、計算で使用されるデータの一部がクライアントに記憶されるため、効率的で安全なパーソナライズされたアイテムの推奨の生成を可能にする。

第１の態様の可能な実施態様の形式では、モデルは、異なるタイプの使用のために十分に確立されたモデルである、協調フィルタリング、予測モデリング、および／または深層学習モデルを含む。

第１の態様のさらなる可能な実施態様の形式では、クライアント・データセットは、暗黙的なユーザフィードバックおよび／または明示的なユーザフィードバックを含み、パーソナライズされたアイテムの推奨を生成するために使用される推定値が、ユーザの行動に基づいて計算されることを可能にするとともに、ユーザのレビューが計算において考慮されることを可能にする。

第１の態様のさらなる可能な実施態様の形式では、推奨セットは、２つのモデルの組み合わせとクライアント・データセットを用いて生成され、一方のモデルは協調フィルタリングであり、他方のモデルは予測モデリングであり、それらが組み合わされると、パーソナライズされたアイテムの推奨の高い効率的な生成を可能にする。

第１の態様のさらなる可能な実施態様の形式では、勧告セットは、１つのモデルおよびクライアント・データセットを用いて生成された第１の推奨セットと、さらなるモデル、第１の推奨セットおよびクライアント・データセットを用いて生成された第２の推奨セットとを含み、第１の推奨セットが改善されることを可能にする。

第１の態様のさらなる可能な実施態様の形式では、第２の推奨セットを生成することは、第１の推奨セットの個々のアイテムを選択し、スコアリングすることを含み、より小さい、および／または、より正確な推奨セットを生成することを可能にする。

第１の態様のさらなる可能な実施態様の形式では、クライアントは、ダウンロードしたモデルおよびローカル・クライアント・データセットを用いて更新モデルを計算することと、更新モデルをサーバにアップロードすることであって、更新モデルは、サーバが新しい更新モデルを計算するために使用される、アップロードすることと、サーバから新しい更新モデルをダウンロードすることと、新しい更新モデルおよびローカル・クライアント・データセットを用いて、少なくとも１つの更なる更新モデルを計算することと、を用いて各ダウンロードされたモデルを更新するように構成されている。

これらの機能を含むクライアントは、サーバに接続されたすべてのクライアントのクライアントデータへのアクセス権を有するため、効率的であり、個々のクライアントに関するクライアントデータがまったく同じままであるので、安全である機械学習プロセスを可能にする。クライアントに接続されたサーバは、大量のクライアントデータを収集または記憶する必要がないため、このプロセスは、時間的にもコスト的にも効果的である。

第１の態様のさらなる可能な実施態様の形式では、クライアントは、ローカル・クライアント・データセットを用いて、各ダウンロードされたモデルに対する更新を計算することと、更新をサーバにアップロードすることであって、更新は、サーバが更新モデルを計算するために使用される、アップロードすることと、更新モデルをサーバからダウンロードすることと、ローカル・クライアント・データセットを用いて、更新モデルに対する新しい更新を計算することと、更新モデル、新しい更新およびローカル・クライアント・データセットを用いて、少なくとも１つのさらなる更新モデルを計算することと、を用いて各モデルに対する少なくとも１つの更新を計算するように構成されている。

上述したように、これらの機能を含むクライアントは、効率的で安全な機械学習プロセスを可能にする。クライアントは、サーバからモデル全体をダウンロードまたはアップロードしなくてもよいため、このプロセスは特に効果的である。

第１の態様のさらなる可能な実施態様の形式では、更新を計算することは、関数ｆ（ｉ，ｊ）を用いて各アイテムの値を計算することを含み、任意の個人的な顧客データから解放された値を計算することを可能にする。

第１の態様のさらなる可能な実施態様の形式では、クライアントは、さらなる更新モデルおよびローカル・クライアント・データセットを用いて推奨セットを生成するようにさらに構成され、可能な限り多くのクライアントデータを使用することを可能にする。

第２の態様によれば、クライアントで、クライアントのユーザのためのパーソナライズされたアイテムの推奨を生成するのを支援するように適合されたサーバであって、サーバは、アイテムのグローバルセットおよび少なくとも１つのモデルを利用するように構成されており、サーバは、複数のクライアントに接続されており、各クライアントは、モデルをダウンロードし、モデルに対する更新モデルまたは更新を生成するように構成されており、サーバは、さらに、クライアントの少なくとも１つによってアップロードされた更新モデルまたは更新を用いて新しい更新モデルを生成することと、複数のクライアントに新しい更新モデルを送信することと、をするように構成されており、クライアントに記憶された新しい更新モデルおよびローカル・クライアント・データセットは、各クライアントがパーソナライズされたアイテムの推奨を生成するために使用される、サーバが提供される。

これらの特徴を含むサーバは、パーソナライズされたアイテムの推奨を生成するために必要な計算の一部がクライアントで実行され、計算に使用されるデータの一部がクライアントに記憶されるため、パーソナライズされたアイテムの推奨の効率的で安全な生成を可能にする。

第２の態様の可能な実施態様の形式では、サーバには、モデルを利用する前に少なくとも１つのモデルが割り当てられ、割り当てることは、ランダムモデルまたは既知のモデルのうちの１つを選択することを含む、新しいモデルまたは以前に使用されたモデルのうちのいずれかを計算の出発点として使用することを可能にする。

第２の態様のさらなる可能な実施態様の形式では、サーバは、クライアントのうちのいくつかを決定することであって、各決定されたクライアントは、ダウンロードしたモデルおよびローカル・クライアント・データセットを用いて更新モデルを計算し、更新モデルをサーバにアップロードするように構成されている、決定することと、決定されたクライアントの少なくとも１つによってアップロードされた更新モデルを受信することと、受信した更新モデルを平均することによって、新しい更新モデルを計算することと、を用いて新しい更新モデルを生成するように構成されている。

これらの機能を含むサーバは、サーバに接続されたすべてのクライアントのクライアントデータへのアクセス権を有するため、効率的であり、個々のクライアントに関するクライアントデータがまったく同じままであるため、安全である機械学習プロセスを可能にする。クライアントに接続されたサーバは、大量のクライアントデータを収集または記憶する必要がないため、このプロセスは、時間的にもコスト的にも効果的である。

第２の態様のさらなる可能な実施態様の形式の形式では、サーバは、クライアントのうちのいくつかを決定することであって、各決定されたクライアントは、ローカル・クライアント・データセットによって各モデルに対する更新を計算し、更新をサーバにアップロードするように構成されている、決定することと、決定されたクライアントの少なくとも１つによってアップロードされた更新を受信することと、モデルおよび受信した更新の集合を用いて、新しい更新モデルを計算することと、を用いて新しい更新モデルを生成するように構成されている。

上述のように、これらの機能を有するサーバは、効率的で安全な機械学習プロセスを可能にする。クライアントは、サーバからモデル全体をダウンロードまたはアップロードしなくてもよいため、このプロセスは特に効果的である。

第３の態様によれば、クライアントのユーザに対してパーソナライズされたアイテムの推奨を生成するように構成された機械学習クライアント−サーバシステムであって、上述の複数のクライアントと、上述のサーバとを含む、クライアント−サーバシステムが提供される。これらの機能を含むクライアント−サーバシステムは、パーソナライズされたアイテムの推奨を生成するために必要な計算の一部がクライアントで実行され、計算で使用されるデータの一部がクライアントに記憶されるので、効率的で安全なパーソナライズされたアイテムの推奨の生成を可能にする。

これらおよび他の態様は、以下に説明する実施形態から明らかであろう。

本開示の以下の詳細な部分では、図面に示された例示的な実施形態を参照して、態様、実施形態、および実施態様をより詳細に説明する。

本開示の一実施形態によるクライアント−サーバシステムの概略図である。 本開示のさらなる実施形態によるクライアント−サーバシステムの概略図である。

背景の項で述べたように、クライアント−サーバシステムとは、システムのタスクが、サービス提供者、すなわちサーバと、サービス依頼者、すなわち、携帯電話、タブレット端末などのクライアントとに分割される構造である。提供されるべきサービスは、ビデオサービスであってもよく、ビデオサービスに関連するユーザデータのすべてがサーバに記憶される。

従来技術のモデル構築は、データが処理され、モデルが構築され、結果が生成され、クライアントに返送される中央サーバにクライアントから個人的なユーザデータを送信することを含む。結果は、例えば、より大きなアイテムのセットから取得された、１つまたは複数の特定のアイテムの推奨を生成するために使用される推定値でもよく、特定のアイテムは、クライアントのユーザにとって関心があると、１つまたは複数のモデルによって予測される。アイテムは、例えば、視聴に利用可能なビデオ、ダウンロードに利用可能なアプリケーション、または購入に利用可能な衣服のような物理的オブジェクトである。

クライアントの数および使用可能なアイテムは、通常、非常に多く、クライアント−アイテム行列

において好ましくは収集され、Ｎは、サーバに接続されたクライアントｉの最大数であり、Ｍは、サーバで利用可能なアイテムｊの最大数である。

クライアントの数Ｎは数百万であり、アイテムの数Ｍは数千であることを考えると、クライアント−アイテム行列Ｒは、多くの要素ｒ_ｉｊが特定されていないスパースである可能性がある。本開示の１つの目的は、そのような特定されていない要素をそれらの推定値

で置き換えることである。

従来技術とは対照的に、また、クライアントの計算能力の一般的な増加のような技術的進歩により、本開示は、依然としてクライアント上のすべての個人的なユーザデータを維持しつつ、すなわち、個人ユーザデータは、中央サーバで使用も保存もされないが、そのような推定値を生成する。従って、サーバに転送されて記憶されるデータの量が減り、データ収集とユーザのプライバシーに関する問題が回避される。要素ｒ_ｉｊとその推定値

は、パーソナライズされたアイテムの推奨を生成するために使用される。

上記は、部分的に、協調フィルタリングによって達成される。要するに、協調フィルタリングでは、モデルは、以前に購入または選択されたアイテム、および／または、ユーザによってそれらのアイテムに与えられた数値評価、ならびに、他のユーザによってなされた同様の決定のような、ユーザの過去の行動から構築される。次いで、このモデルは、ユーザがどの他のアイテムに関心を持つかを予測するために使用される。協調フィルタリングは、単独で、または他のタイプのモデル、例えば、予測モデリングと組み合わせて、ユーザのための推奨を生成するために最も使用されるモデルの１つである。予測モデリングは、好ましくは、上述の推定値

に対して、評価のような予測スコアを適用するために使用される。

従来技術では、これらのモデルは両方とも、集中サーバで収集されるモデルの構築に使用されるすべてのデータを収集する必要がある。

前述したように、クライアントの数とアイテムの数は、通常、非常に多いため、モデルの組み合わせを使用して、特定のクライアントｉのユーザに関連性のあるパーソナライズされたアイテムの推奨のみを提供することができる。一例として、図２にも示されているように、協調フィルタリングモデルＡ１が、第１のセットのアイテムの推奨Ｒ１_ｉｊ、前述の要素ｒ_ｉｊおよび推定値

のすべてではない場合、いくつかを含むいわゆる候補セットを生成するために使用されてもよく、予測モデリングモデルＡ２が、最初に推奨されたアイテムＲ１_ｉｊをスコアリングし、それらを重みで分類することによって、最終的な使用可能な推奨Ｒ２_ｉｊを生成するために使用されてもよい。

推定値

は、特定のクライアントだけでなく複数のクライアント、一実施形態においてはすべての可能なクライアントからの暗黙的および／または明示的なフィードバックに基づいてもよい。暗黙的なフィードバックは、例えばアプリケーションをダウンロードするなど、ユーザによって取られるアクションを含む。明示的なフィードバックは、アイテムのユーザレビューを含む。協調フィルタリングは、これら２種類のデータのみを使用するが、上述の予測モデリングは、人口統計学、行動データ、アイテムがどこで、いつ、アイテムが相互作用したか、およびどのような種類の装置が使用されたかのような他のユーザ活動関連データ、名前およびログインデータのような個人的なユーザデータ等の追加の種類の明示的なフィードバックを使用してもよい。

すべての協調フィルタリング・リコメンダ・システムの基本は、前述のクライアント−アイテム行列

である。簡単のために、以下の説明では、クライアントｉをそのユーザ、アイテムｊをダウンロード可能なアプリケーションと同一視することがある。

協調フィルタリングでは、値ｒ_ｉｊは、ユーザレビューなどの明示的なフィードバックから導き出され、例えば、

である。

例えば、ユーザがアプリケーションをダウンロードするような暗黙的なフィードバックの場合、ユーザ／クライアントｉがアプリケーション／アイテムｊをダウンロードしたとき、ｒ_ｉｊ＝１であり、そうでなければ、ｒ_ｉｊは特定されず、１≦ｉ≦Ｎおよび１≦ｊ≦Ｍである。

協調フィルタリングは、特定されていないｒ_ｉｊをそれらの推定値

で置き換えるために、例えば、行列因数分解を用いて使用される。行列因数分解は、各クライアントｉに対してクライアント・ファクタ・ベクトル

、

と、各アイテムｊに対してアイテム・ファクタ・ベクトル

、

と、を生成することを伴う。ｋは、ファクタの数であり、通常、ＭとＮの両方よりもはるかに小さい。特定されていないｒ_ｉｊの推定値は、

で与えられる。

第１のモデルＡ１は、複数のクライアント・ファクタ・ベクトル（ｘ_ｉ）を含むファクタ行列Ａ１＝Ｘ（ｉ，ｋ）であり、第２のモデルＡ２は、複数のアイテム・ファクタ・ベクトル（ｙ_ｊ）を含むファクタ行列Ａ２＝Ｙ（ｊ，ｋ）である。

クライアント・ファクタ・ベクトルは、行列

に収集され、Ｘ＝（ｘ_１，ｘ_２，．．．，ｘ_ｉ，．．．，ｘ_Ｍ）であり、アイテム・ファクタ・ベクトルは、行列

に収集され、Ｙ＝（ｙ_１，ｙ_２，．．．，ｙ_ｊ，．．．，ｙ_Ｎ）である。クライアント−アイテム行列Ｒはまた、言い換えると

で定義される。

明示的なフィードバックの場合、バイナリ変数ｐ_ｉｊのセットは、ユーザ／クライアントｉがアプリケーション／アイテムｊを評価したかどうかを示すために導入され、

である。値ｐ_ｉｊ＞０は、アプリケーション／アイテムｊが評価されていることを意味し、値ｐ_ｉｊ＝０は、ユーザがアプリケーション／アイテムｊを評価しなかったか、または単にアプリケーション／アイテムｊが存在することに気づいていないことを意味する。

暗黙的なフィードバックの場合、バイナリ変数ｐ_ｉｊのセットは、アプリケーション／アイテムｊに対するユーザ／クライアントｉの嗜好を示すために導入され、

である。値ｐ_ｉｊ＝０は、ユーザ／クライアントｉがアプリケーション／アイテムｊに関心がないか、またはアプリケーション／アイテムｊが存在することに気づいていないことを含めて、多くの解釈を有することができる。これを説明するために、信頼パラメータｃ_ｉｊが導入され、

として定義され、α＞０である。暗黙的なフィードバック問題は、言い換えると、信頼レベルｃ_ｉｊを考慮に入れる必要があるという点で、標準の明示的なフィードバック問題とは異なる。

すべての更新は、ダウンロードｊがあるクライアントｉではなく、すべてのクライアントｉとすべてのアイテムｊを通して行われる。

従来技術の協調フィルタリングモデルでは、ｘ_ｉは、式

を用いて更新され、Ｙ、

は、アイテム・ファクタ・ベクトルの前述の行列であり、Ｃ^ｉは、

である対角行列であり、Ｉは、単位行列であり、

は、クライアントｉに対するバイナリ嗜好変数ベクトルである。

同様に、ｙ_ｊは、式

を用いて、更新され、Ｘ、

は、前述のクライアント・ファクタ・ベクトルの行列であり、Ｃ^ｉは、

である対角行列であり、

は、クライアントｉに対するバイナリ嗜好変数ベクトルである。

要約すると、上述の従来技術の方法は、Ｘを計算するためにＹを使用し、Ｙを計算するためにＸを使用し、少なくとも適切な収束基準が満たされるまで、２つの方程式の間で繰り返し、交互に使用する。収束基準は、あらかじめ定義された制限値、たとえば１％とされる。Ｃおよびｐは、ユーザ／クライアントデータに基づいており、ＸおよびＹの両方を計算するために使用され、すべてのユーザデータは、ＸおよびＹと同じ場所、すなわちサーバに配置されなければならない。これは、協調フィルタリングのためのＡＬＳ（Alternating Least Squares）法と呼ばれ、従来技術において頻繁に使用されている。

図１に概略的に示す本開示の実施形態は、Ｙを計算するために異なるアプローチがとられるようなＡＬＳ法の適応を含み、この適応は、計算がクライアントに配布されることを可能にし、従って、クライアントデータをサーバに転送する必要性を回避する。すべてのアイテム・ファクタ・ベクトル

はサーバに配置され、サーバで更新され、その後、各クライアントｉに配布される。すべてのクライアント・ファクタ・ベクトル

はクライアントｉにとどまり、ローカル・クライアント・データｕ_ｉとサーバからのアイテム・ファクタ・ベクトルとを使用してクライアントで更新される。更新は、各クライアントｉのアイテムｊから計算され、サーバに送信され、集約され、ｙ_ｊが更新される。

を計算をするのに必要な値はすべて、アイテム・ファクタ・ベクトル

の現在のセットがクライアントｉにダウンロードされている限り、クライアントｉで利用可能であり、Ｙはアイテム・ファクタ・ベクトルの行列、Ｃ^ｉは、

である対角行列であり、λは、正則化ファクタであり、Ｉは、単位行列であり、

は、クライアントｉに対するバイナリ嗜好変数ベクトルである。さらに、これらの値はすべて、任意の他のクライアントｉの対応する値から独立している。従って、ＡＬＳアルゴリズムの第１ステップに対応するものは、他のクライアントを参照することなく、各個々のクライアントｉで計算することができる。

しかし、ＡＬＳ法を使用するときに、ｙ_ｊ、

は、クライアント・ファクタ・ベクトルの行列Ｘを必要とし、この更新は、すべてのクライアントデータが利用可能なサーバで行わなければならない。ＡＬＳ法におけるように、ｙ_ｊの更新を直接計算するのではなく、本開示は、勾配降下アプローチを適用して、サーバで更新されたｙ_ｊを計算する。より具体的には、本開示は、式

を用いて更新ｙ_ｊ、すなわち、更新行列Ｙを計算し、Ｙはゲイン関数であり、∂Ｊ／∂ｙ_ｊは、式

を用いて計算される。

上述の式∂Ｊ／∂ｙ_ｊは、コスト関数Ｊ、

に由来し、λは、正則化ファクタである。コスト関数Ｊは、クライアント・ファクタ・ベクトル行列Ｘとアイテム・ファクタ・ベクトル行列Ｙの計算を交互に行うことによって最小化される。コスト関数Ｊを最小化するための第一段階は、∂Ｊ／∂ｘ_ｉおよび∂Ｊ／∂ｙ_ｊを用いて、すべてクライアントｉに対するｘ_ｉおよびすべてのアイテムｊに対するｙ_ｊについて、Ｊを微分することである。

ＡＬＳ法のように、ｘ_ｉの初期開始値が、

、

により直接計算することが可能であり、前述のように、必要な値がクライアントｉで利用可能である。

一方、∂Ｊ／∂ｙ_ｊは、すべてのクライアントｉに対する合計である成分を含み、合計はｆ（ｉ，ｊ）と定義される。ｆ（ｉ，ｊ）は、クライアントデータのみに基づいて、

を用いて計算される、すなわち、ｆ（ｉ，ｊ）は、他のすべてのクライアントとは独立に、各クライアントｉで計算される。

各クライアントｉは、各アイテムｊに対して計算された値ｆ（ｉ，ｊ）の評価をサーバに報告し、その後、すべてのクライアント評価がサーバで、

を用いて合計され、その後、

に適用される。

本開示は、言い換えると、少なくとも１つのモデル、例えば、協調フィルタリングモデルＡ１を訓練することに関し、クライアントからサーバにユーザデータを転送する必要はなく、同時に、モデルＡ１を使用して、クライアント−アイテム行列Ｒの特定されていない要素の推定値

を計算し、推定値は、パーソナライズされた推奨を生成するために使用される。図１に示すように、機械学習モデルＡ１は、最初に、集中サーバに配置され、各ユーザ装置／クライアントｉに配布される。初期モデルＡ１は、モデルＡ１およびクライアントに配置されるクライアントデータｕ_ｉを使用して、各クライアントで更新される。各ユーザ装置／クライアントで生成された更新ｄＡ１_ｉ、または完全更新モデルＡ１２_ｉは、サーバに返送され、すべての決定されたクライアントを横断して集約され、新しいモデルコンポーネントＡ１２を生成し、これが次にクライアントｉにダウンロードされ、モデルＡ１３_ｉを形成するように更新される。

「モデル」によって、モデル全体またはモデルの部分のいずれかが意味される。後者の場合、モデルは少なくとも２つの部分Ａ１、Ａ２を含む。１つの個々の部分Ａ１_ｉは、クライアントに割り当てられ、１つの部分Ａ２は、サーバからクライアントｉにダウンロードされる。個々の部分Ａ１_ｉは、ダウンロードされたサーバ部分およびローカル・クライアント・データｕ_ｉの要素によって更新され、更新された個々の部分Ａ１２_ｉをもたらす。各アイテムｊに対する個々の値は、ダウンロードしたサーバ部分Ａ２、更新された個々の部分Ａ１２_ｉ、およびローカル・クライアント・データｕ_ｉの要素を使用してクライアントで計算される。値の評価は、各クライアントからサーバにアップロードされ、サーバ部分は、そのような評価の集合体を用いて更新され、更新サーバ部分Ａ２２を形成することができる。更新サーバ部分Ａ２２は、クライアントにダウンロードされ、さらに、ダウンロードした更新サーバ部分Ａ２２およびローカル・クライアント・データｕ_ｉの要素を用いて、クライアントでさらに更新された個々の部分Ａ１３_ｉが計算される。その後、クライアント−アイテム行列Ｒの少なくとも１つの特定されていない要素は、さらに更新された個々の部分Ａ１３_ｉおよび更新サーバ部分Ａ２２を用いて、特定されていない要素をその推定値で置き換えることによって、更新され得る。

クライアントｉにローカルに記憶されたモデルＡ１３_ｉとクライアントデータｕ_ｉは、クライアント−アイテム行列Ｒの特定されていない要素を置き換える推定値を計算するために使用される。したがって、クライアントデータｕ_ｉはクライアントから離れることはない。更新クライアント−アイテム行列Ｒは、言い換えると、第１の推奨セットＲ１_ｉｊを生成するために使用される。

予測モデリングのようなさらなるモデルが使用されて、第１の推奨セットＲ１_ｉｊを選択し、再スコアリングし、ソートし、その後絞り込んで、第２の推奨セットＲ２_ｉｊにする。

本開示の一態様は、クライアントｉのユーザのためにパーソナライズされたアイテムの推奨を生成するように適合されたクライアントに関する。クライアントは、アイテムｊ_１，．．．，ｊ_Ｍのグローバルセットおよび少なくとも１つのモデルＡ１，．．．，ＡＫを利用するサーバに接続される。クライアントｉは、図１に示すように、サーバからダウンロードした少なくとも１つのモデルＡ１，．．．，ＡＫを利用し、ダウンロードしたモデルＡ１，．．．，ＡＫの少なくとも１つおよびクライアントｉに記憶されたローカル・クライアント・データセットｕ_ｉを用いて、アイテムｊ_１，．．．，ｊ_Ｍの少なくとも１つを含む推奨セットＲ_ｉｊを生成するように構成されている。

モデルＡ１，．．．，ＡＫは、協調フィルタリング、予測モデリング、および／または深層学習モデルを含む。クライアント・データセットは、暗黙的なユーザフィードバックおよび／または明示的なユーザフィードバックを含む。

推奨セットＲ_ｉｊは、２つのモデルＡ１、Ａ２の組み合わせとクライアント・データセットｕ_ｉを用いて生成され、一方のモデルＡ１は、協調フィルタリングであり、他方のモデルＡ２は予測モデリングである。

推奨セットＲ_ｉｊは、１つのモデルＡ１、Ａ１２、Ａ１３およびクライアント・データセットｕ_ｉによって生成された第１の推奨セットＲ１_ｉｊと、さらなるモデルＡ２、Ａ２２、第１の推奨セットＲ１_ｉｊ、およびクライアント・データセットｕ_ｉによって生成された第２の推奨セットＲ２_ｉｊを含む。これは、図２に模式的に示される。

第２の推奨セットＲ２_ｉｊを生成することは、第１の推奨セットＲ１_ｉｊの個々のアイテムｊ_ｐを選択し、スコアリングすることを含む。

クライアントｉは、図１および図２に概略的に示される、以下のステップを用いて、各ダウンロードされたモデルを更新するように構成され得る。
Ａ．ダウンロードしたモデルＡ１，．．．，ＡＫ、およびローカル・クライアント・データセットｕ_ｉを用いて、更新モデルＡ１２_ｉ，．．．，ＡＫ２_ｉを計算する。
Ｂ．更新モデルＡ１２_ｉ，．．．，ＡＫ２_ｉをサーバにアップロードし、更新モデルＡ１２_ｉ，．．．，ＡＫ２_ｉは、サーバが新しい更新モデルＡ１２，．．．，ＡＫ２を計算するために使用される。
Ｃ．新しい更新モデルＡ１２，．．．，ＡＫ２をサーバからダウンロードする。
Ｄ．新しい更新モデルＡ１２，．．．，ＡＫ２およびローカル・クライアント・データセットｕ_ｉを用いて少なくとも１つのさらなる更新モデルＡ１３_ｉ，．．．，ＡＫ３_ｉを計算する。

モデルＡは、上記のステップＡおよびＤに記載されるように、クライアントで更新され得る。モデルが協調フィルタリングモデルであるときに、式

を用いて、更新が実行され、ｐ（ｉ）は、クライアントｉに対するバイナリ嗜好変数ベクトル、Ｒ^ｉは、クライアントｉに対する既知の入力のベクトル、Ｉは、単位行列であり、λは、正規化パラメータである。

モデルＡは、上記のステップＢに記載されるように、サーバで更新され得る。更新は、ステップＢにおいても、サーバにアップロードされた更新モデルを平均化することによって実行される。

クライアント（ｉ）は、さらに、以下のステップによって、各モデルに対して少なくとも１つの更新を計算するように構成され得る。
Ａ．ローカル・クライアント・データセットｕ_ｉを用いて、各ダウンロードしたモデルＡ１，．．．，ＡＫに対する更新ｄＡ１_ｉ，．．．，ｄＡＫ_ｉを計算する。
Ｂ．更新ｄＡ１_ｉ，．．．，ｄＡＫ_ｉをサーバにアップロードし、更新ｄＡ１_ｉ，．．．，ｄＡＫ_ｉは、サーバが更新モデルＡ１２，．．．，ＡＫ２を計算するために使用される。
Ｃ．更新モデルＡ１２，．．．，ＡＫ２をサーバからダウンロードする。
Ｄ．ローカル・クライアント・データセットｕ_ｉを用いて、更新モデルＡ１２，．．．，ＡＫ２に対する新しい更新ｄＡ１２_ｉ，．．．，ｄＡＫ２_ｉを計算する。
Ｅ．更新モデルＡ１２，．．．，ＡＫ２、新しい更新ｄＡ１２_ｉ，．．．，ｄＡＫ２_ｉ、およびローカル・クライアント・データセットｕ_ｉを用いて、少なくとも１つのさらなる更新モデルＡ１３_ｉ，．．．，ＡＫ３_ｉを計算する。
更新ｄＡ１ｉ_１，．．．，ｄＡＫ_ｉ、ｄＡ１２ｉ_１，．．．，ｄＡＫ２_ｉを計算することは、関数ｆ（ｉ，ｊ）を用いて、各アイテムｊ_１，．．．，ｊ_Ｍの値を計算することを含む。

モデルＡは、上記のステップＡ、Ｄ、およびＥに記載されているように、クライアントで更新され得る。モデルが協調フィルタリングモデルであるときに、式

を用いて、更新が実行され、ｐ（ｉ）はクライアントｉに対するバイナリ嗜好変数ベクトル、Ｒ^ｉは、クライアントｉに対する既知の入力のベクトルであり、Ｉは、単位行列であり、λは、正規化パラメータである。

モデルＡは、上記ステップＢに記載されるように、サーバで更新され得る。更新は、式

を用いて実行され、γはゲイン関数である。各モデルＡ、例えばＡ１は、モデルパラメータｙについて最小化されるコスト関数Ｊ１を有する。∂Ｊ／∂ｙ_ｊは、ｄＡ１_ｉの合計、すなわち、クライアントｉ_１〜ｉ_Ｎによって提供されるｄＡ１によって与えられる。

クライアントｉは、さらに、更新モデルＡ１３_ｉ，．．．，ＡＫ３_ｉおよびローカル・クライアント・データセットｕ_ｉを用いて、推奨セットＲ_ｉｊを生成するように構成されている。

本開示のさらなる態様は、クライアントｉのユーザに対して、クライアントｉで、パーソナライズされたアイテムの推奨を生成するのを支援するように構成されたサーバに関し、サーバは、アイテムｊ_１，．．．，ｊ_Ｍのグローバルセットおよび少なくとも１つのモデルＡ１，．．．，ＡＫを利用するように構成されている。サーバは、複数のクライアントｉ_１，．．．，ｉ_Ｎに接続されており、各クライアントｉは、モデルＡ１，．．．，ＡＫをダウンロードし、モデルＡ１，．．．，ＡＫに対する更新モデルｄＡ１_ｉ，．．．，ｄＡＫ_ｉを生成するように構成されている。サーバは、さらに、クライアントｉ_１，．．．，ｉ_Ｎの少なくとも１つによってアップロードされた更新モデルＡ１２_ｉ，．．．，ＡＫ２_ｉまたは更新ｄＡ１_ｉ，．．．，ｄＡＫ_ｉを用いて、新しい更新モデルＡ１２，．．．，ＡＫ２を生成し、複数のクライアントｉ_１，．．．，ｉ_Ｎに新しい更新モデルＡ１２，．．．，ＡＫ２を送信するように構成されている。新しい更新モデルＡ１２，．．．，ＡＫ２およびクライアントｉに記憶されたローカル・クライアント・データセットｕ_ｉは、各クライアントｉがパーソナライズされたアイテムの推奨を生成するために利用される。これは、図１および図２に概略的に示される。

サーバには、モデルを利用する前に、少なくとも１つのモデルＡ１，．．．，ＡＫが割り当てられ、割り当てることは、ランダムモデルまたは既知のモデルを選択することの１つを含む。

サーバは、次のステップによって新しい更新モデルを生成するように構成されている。
Ａ．クライアントｉ_１，．．．，ｉ_Ｎのうちのいくつかを決定し、各決定されたクライアントｉは、ダウンロードしたモデルＡ１，．．．，ＡＫおよびローカル・クライアント・データセットｕ_ｉを用いて、更新モデルＡ１２_ｉ，．．．，ＡＫ２_ｉを計算し、サーバに更新モデルＡ１２_ｉ，．．．，ＡＫ２_ｉをアップロードするように構成されている。
Ｂ．決定されたクライアントｉ_１，．．．，ｉ_Ｎの少なくとも１つによってアップロードされた更新モデルＡ１２_ｉ，．．．，ＡＫ２_ｉを受信する。
Ｃ．受信した更新モデルＡ１２_ｉ，．．．，ＡＫ２_ｉを平均することを用いて、新しい更新モデルＡ１２，．．．，ＡＫ２を計算する。

サーバは、さらに、以下のステップによって、新しい更新モデルを生成するように構成され得る。
Ａ．クライアントｉ_１，．．．，ｉ_Ｎのうちのいくつかを決定し、各決定されたクライアントｉは、ローカル・クライアント・データセットｕ_ｉを用いて、更新ｄＡ１_ｉ，．．．，ｄＡＫ_ｉを計算し、サーバに更新ｄＡ１_ｉ，．．．，ｄＡＫ_ｉをアップロードするように構成されている。
Ｂ．決定されたクライアントｉ_１，．．．，ｉ_Ｎの少なくとも１つによってアップロードされた更新ｄＡ１_ｉ，．．．，ｄＡＫ_ｉを受信する。
Ｃ．モデルＡ１，．．．，ＡＫおよび受信した更新モデルｄＡ１_ｉ，．．．，ｄＡＫ_ｉの集約することを用いて、新しい更新モデルＡ１２，．．．，ＡＫ２を計算する。

モデルＡは、上記ステップＣで記載されたように、サーバで更新され得る。更新は、式

によって実行され、γはゲイン関数である。

本開示のさらに別の態様は、クライアントｉのユーザに向けてパーソナライズされたアイテムの推奨を生成するように適合された機械学習クライアント−サーバシステムに関する。システムは、上述のサーバおよび上述の複数のクライアントを含む。

図１は、概略的に、クライアント−アイテム行列Ｒを更新するように適合したクライアント−サーバシステムにおける情報のフローを示す。アイテムｊに対する値ｆ（ｉ，ｊ）は、ローカル・ユーザ・データｕ_ｉを使用してクライアントｉで計算される。更新モデルＡ１２_ｉに含まれる複数のアイテムｊの値ｆ（ｉ，ｊ）は、複数のクライアントからサーバＳに返送され、集約され、その後、初期モデルＡ１はモデルＡ１２に更新される。したがって、モデルＡ１を更新するためにクライアントｉからローカル・クライアント・データｕ_ｉを転送する必要がない。その後、同じ手順が少なくともモデルＡ１２に対して実行され、各クライアントｉでモデルＡ１３_ｉをもたらし、そのモデルは、クライアントｉのユーザに向けてパーソナライズされたアイテムの推奨を生成するために使用される。

システムは、１つのサーバＳとＮ個のクライアントｉを含む。簡略化のために、図１は、ｉ_１とｉ_Ｎの２つのクライアントを示し、すなわちｉ_Ｎは２に等しい。クライアントｉ_１は、ローカル・クライアント・データｕ_ｉ、すなわちｕ_１、およびダウンロードしたモデルＡ１を利用する。同様に、クライアントｉ２は、モデルＡ１と同様に、ローカル・クライアント・データｕ_２を利用する。

図２は、同様に、１つのサーバＳ、１つのクライアントｉ_１を含み、パーソナライズされたアイテムの推奨を生成するために２つのモデルＡ１、Ａ２を利用するクライアント−サーバシステムにおける情報のフローを示す。

種々の態様および実施態様が、本明細書の種々の実施形態と併せて説明された。しかしながら、開示された実施形態に対する他の変形は、図面、開示、および添付の請求の範囲の研究から、請求項の主題を実施する際に当業者によって理解され、有効にされ得る。請求項において、文言「含む」は、他の要素またはステップを除外せず、不定冠詞「ａ」または「ａｎ」は、複数を除外しない。特定の測定値が相互に異なる従属クレームで規定されているという単なる事実は、これらの測定値の組み合わせが有利に使用できないことを示すものではない。

請求項において使用される参照符号は、範囲を限定するものと解釈されないものとする。

Claims (11)

1. クライアント（ｉ）のユーザのためにパーソナライズされたアイテムの推奨を生成するように適合されたクライアントであって、
   当該クライアント（ｉ）は、アイテムのグローバルセット（ｊ_１，．．．，ｊ_Ｍ）および少なくとも１つのモデル（Ａ１，．．．，ＡＫ）を利用するサーバに接続されており、
   当該クライアントは、
   前記サーバからダウンロードした少なくとも１つのモデル（Ａ１，．．．，ＡＫ）を利用することと、
   前記ダウンロードしたモデル（Ａ１，．．．，ＡＫ）の少なくとも１つおよび当該クライアント（ｉ）に記憶されたローカル・クライアント・データセット（ｕ_ｉ）を用いて、前記アイテム（ｊ_１，．．．，ｊ_Ｍ）の少なくとも１つ（ｊ_ｐ）を含む推奨セット（Ｒ_ｉｊ）を生成することと、をするように構成されており、
   当該クライアント（ｉ）は、
   Ａ．前記ダウンロードしたモデル（Ａ１，．．．，ＡＫ）および前記ローカル・クライアント・データセット（ｕ _ｉ ）を用いて更新モデル（Ａ１２ _ｉ ，．．．，ＡＫ２ _ｉ ）を計算することと、
   Ｂ．前記更新モデル（Ａ１２ _ｉ ，．．．，ＡＫ２ _ｉ ）を前記サーバにアップロードすることであって、前記更新モデル（Ａ１２ _ｉ ，．．．，ＡＫ２ _ｉ ）は、前記サーバが新しい更新モデル（Ａ１２，．．．，ＡＫ２）を計算するために使用される、アップロードすることと、
   Ｃ．前記サーバから前記新しい更新モデル（Ａ１２，．．．，ＡＫ２）をダウンロードすることと、
   Ｄ．前記新しい更新モデル（Ａ１２，．．．，ＡＫ２）および前記ローカル・クライアント・データセット（ｕ _ｉ ）を用いて、少なくとも１つの更なる更新モデル（Ａ１３ _ｉ ，．．．，ＡＫ３ _ｉ ）を計算することと、
   を用いて各ダウンロードされたモデルを更新するように構成されている、クライアント。
2. 前記モデル（Ａ１，．．．，ＡＫ）は、協調フィルタリング、予測モデリング、および／または深層学習モデルを含む、請求項１に記載のクライアント。
3. 前記クライアント・データセット（ｕ_ｉ）は、暗黙的なユーザフィードバック、および／または明示的なユーザフィードバックを含む、請求項１または２に記載のクライアント。
4. 前記推奨セット（Ｒ_ｉｊ）は、２つのモデル（Ａ１、Ａ２）の組み合わせと前記クライアント・データセット（ｕ_ｉ）を用いて生成され、一方のモデル（Ａ１）は協調フィルタリングであり、他方のモデル（Ａ２）は予測モデリングである、請求項１〜３のいずれか１項に記載のクライアント。
5. 前記推奨セット（Ｒ_ｉｊ）は、１つのモデル（Ａ１、Ａ１２、Ａ１３）および前記クライアント・データセット（ｕ_ｉ）を用いて生成された第１の推奨セット（Ｒ１_ｉｊ）と、さらなるモデル（Ａ２、Ａ２２）、前記第１の推奨セット（Ｒ１_ｉｊ）および前記クライアント・データセット（ｕ_ｉ）を用いて生成された第２の推奨セット（Ｒ２_ｉｊ）とを含む、請求項１〜４のいずれか１項に記載のクライアント。
6. 前記第２の推奨セット（Ｒ２_ｉｊ）を生成することは、前記第１の推奨セット（Ｒ１_ｉｊ）の個々のアイテム（ｊ_ｐ）を選択し、スコアリングすることを含む、請求項５に記載のクライアント。
7. 当該クライアント（ｉ）は、さらなる更新モデル（Ａ１３_ｉ，．．．，ＡＫ３_ｉ）および前記ローカル・クライアント・データセット（ｕ_ｉ）を用いて推奨セット（Ｒ_ｉｊ）を生成するようにさらに構成されている、請求項１に記載のクライアント。
8. クライアント（ｉ）で、前記クライアント（ｉ）のユーザのためのパーソナライズされたアイテムの推奨を生成するのを支援するように適合されたサーバであって、
   当該サーバは、アイテムのグローバルセット（ｊ_１，．．．，ｊ_Ｍ）および少なくとも１つのモデル（Ａ１，．．．，ＡＫ）を利用するように構成されており、
   当該サーバは、複数のクライアント（ｉ_１，．．．，ｉ_Ｎ）に接続されており、各クライアント（ｉ）は、前記モデル（Ａ１，．．．，ＡＫ）をダウンロードし、前記モデル（Ａ１，．．．，ＡＫ２_ｉ）に対する更新モデル（Ａ１２_ｉ，．．．，ＡＫ２_ｉ ）を生成するように構成されており、
   当該サーバは、さらに、
   前記クライアント（ｉ_１，．．．，ｉ_Ｎ）の少なくとも１つによってアップロードされた更新モデル（Ａ１２_ｉ，．．．，ＡＫ２_ｉ ）を用いて新しい更新モデル（Ａ１２，．．．，ＡＫ２）を生成することと、
   前記複数のクライアント（ｉ_１，．．．，ｉ_Ｎ）に前記新しい更新モデル（Ａ１２，．．．，ＡＫ２）を送信することと、をするように構成されており、
   前記クライアント（ｉ）に記憶された前記新しい更新モデル（Ａ１２，．．．，ＡＫ２）およびローカル・クライアント・データセット（ｕ_ｉ）は、各クライアント（ｉ）が前記パーソナライズされたアイテムの推奨を生成するために使用される、サーバ。
9. 当該サーバには、前記モデルを利用する前に、前記少なくとも１つのモデル（Ａ１，．．．，ＡＫ）が割り当てられ、割り当てることは、ランダムモデルまたは既知のモデルのうちの１つを選択することを含む、請求項８に記載のサーバ。
10. 当該サーバは、
    Ｄ．前記クライアント（ｉ_１，．．．，ｉ_Ｎ）のうちのいくつかを決定することであって、各決定されたクライアント（ｉ）は、前記ダウンロードしたモデル（Ａ１，．．．，ＡＫ）および前記ローカル・クライアント・データセット（ｕ_ｉ）を用いて更新モデル（Ａ１２_ｉ，．．．，ＡＫ２_ｉ）を計算し、前記更新モデル（Ａ１２_ｉ，．．．，ＡＫ２_ｉ）を当該サーバにアップロードするように構成されている、決定することと、
    Ｅ．前記決定されたクライアント（ｉ_１，．．．，ｉ_Ｎ）の少なくとも１つによってアップロードされた更新モデル（Ａ１２_ｉ，．．．，ＡＫ２_ｉ）を受信することと、
    Ｆ．前記受信した更新モデル（Ａ１２_ｉ，．．．，ＡＫ２_ｉ）を平均することによって、前記新しい更新モデル（Ａ１２，．．．，ＡＫ２）を計算することと、
    を用いて前記新しい更新モデルを生成するように構成されている、請求項８または９に記載のサーバ。
11. クライアント（ｉ）のユーザに対してパーソナライズされたアイテムの推奨を生成するように適合された機械学習クライアント−サーバシステムであって、請求項１〜７のいずれか一項に記載の複数のクライアントと、請求項８〜１０のいずれか一項に記載のサーバとを含む、クライアント−サーバシステム。

Images