JP7423694B2 - 機械学習方法、訓練方法、予測システム、及び非一時的コンピュータ可読媒体 - Google Patents

Description

本開示は、一般に、機械学習ベースの推薦システムに関し、より具体的には、サンプル選択のバイアスが少なく、電子商取引プラットフォーム上の小型ショップに対してより良いパフォーマンスを発揮する改良型推薦システムに関する。

推薦システムは、ターゲット広告のために、アイテム（item）を購入する可能性が最も高いユーザを特定するために使用される場合がある。また、ユーザにアイテムを推薦するために使用されることもある。過去数十年の電子商取引の爆発的な成長により、消費者が処理できる以上の商品提供が行われており、推薦システムはこの過負荷の問題を克服するために不可欠なものとなってきている。推薦システムの目的は、既知のユーザからのフィードバックを受け、アイテムに対する未知のユーザのフィードバックを予測することである。これは、商品の広告をターゲットとする際、又は、ユーザに推薦アイテムのリストを提供する際に役立つ。フィードバックは、しばしば相互作用と呼ばれ、暗示的なもの（例えば、購入した／購入しそう）、または明示的なもの（例えば、1－5の間の評価）があり得る。

多くの推薦システムは、機械学習モデルを用いて予測を行う。例えば、ニューラル協調フィルタリング（NCF）システムは、ユーザデータとアイテムデータに、ニューラルネットワークエンコーダを適用して、ユーザデータとアイテムデータの表現を生成し、ユーザ表現とアイテム表現を使用してアイテムに対するユーザの評価を予測する。

電子商取引のプラットフォームの予測に使用される機械学習モデルは、通常、電子商取引プラットフォームにおけるユーザ－アイテム相互作用に基づいて訓練される。プラットフォーム上で販売量の多いショップの訓練データは、小型ショップの訓練データよりも圧倒的に多く存在する。その結果、これらのモデルは、小型ショップよりも大型ショップの予測を行うのに適している。これは、サンプル選択バイアスとして知られている。実際、小型ショップの新アイテムに関し、このモデルのパフォーマンスは低いことがある。したがって、電子商取引プラットフォームにおいて、小型ショップと大型ショップの双方に対して良好な予測性能を持つ推薦システムの需要がある。

本開示は、大型ショップに対する精度を維持しつつ、電子商取引プラットフォーム上の小型ショップに対する推薦を改善することに関する。この改善は、メタ学習プロセスを用いてサンプル選択バイアスを低減するために、機械学習推薦モデルを再訓練することによって達成される。再訓練処理は、電子商取引プラットフォーム上のショップのサンプルサブセットを特定し、次に、機械学習推薦モデルを使用して、サンプルバッチ内の各ショップについて、ショップ固有ユーザ－アイテム相互作用の予測を行うことを含む。各ショップのショップ固有の予測は、ショップのユーザ－アイテム相互作用データを含むショップ固有訓練データセットに、モデルを適用することによって得られる。ショップ固有損失は、ショップ固有訓練データセットに対するモデルの予測したユーザ－アイテム相互作用と、ショップ固有訓練データセットにおける実際のユーザ－アイテム相互作用とに基づいて、各ショップについて算出される。グローバル損失は、各ショップ固有損失に基づいて算出され、基準モデルは、グローバル損失を最小化するように更新される。サンプルサブセットには、小型カテゴリに属するショップと大型カテゴリに属するショップの双方が含まれる。

より具体的には、一実施形態では、再訓練処理は、以下のステップからなる。
（ａ）前記電子商取引プラットフォーム上のショップのサンプルバッチを特定し、
（ｂ）各ショップのショップ固有訓練データセットを取得し、各前記ショップ固有訓練データセットは、前記ショップ内のアイテムに関するアイテムデータと前記ショップ内のアイテムに関するユーザ－アイテム相互作用データを含むユーザデータを有し、
（ｃ）前記サンプルバッチの各ショップについて、
前記ショップ固有訓練データセット内のユーザデータとアイテムデータに前記機械学習モデルを適用し、前記ショップの予測されたユーザ－アイテム相互作用を取得し、
前記ショップ固有訓練データセット内の、前記予測されたユーザ－アイテム相互作用と、実際のユーザ－アイテム相互作用との間のショップ固有損失を算出し、
（ｄ）前記ショップ固有損失に基づいて、グローバル損失を算出し、
（ｅ）前記グローバル損失を低減するため前記機械学習モデルのグローバルパラメータ調整を算出し、
（ｆ）前記グローバルパラメータ調整を用いて前記機械学習モデルのパラメータを調整することにより、更新されたモデルを生成し、
（ｇ）前の繰り返しの前記更新されたモデルが、次の繰り返しの前記機械学習モデルとなるように、ステップ（ｃ）－（ｆ）を複数回繰り返す。

一実施形態に係る推薦モデルの訓練段階の概要を説明するフローチャートである。 一実施形態による推薦モデルの再訓練方法を示すフローチャートである。 （ａ）（ｂ）は、予測段階を説明するフローチャートである。 （ａ）（ｂ）は、推薦システムの機械学習モデルのアーキテクチャの一例を示すブロック図である。 推薦システムのアーキテクチャの一例を示すブロック図である。

本開示は、販売量の異なるショップを含む電子商取引プラットフォーム上において、ユーザ－アイテム相互作用を予測する機械学習ベースの推薦システム及び方法に関するものである。具体的には、本開示は、大型ショップに対する予測精度を維持しつつ、小型ショップに対するより良い予測を有する改良された推薦システムに関する。この改良は、メタ学習プロセスを用いてサンプル選択バイアスを低減するように推薦システムを再訓練することによって達成される。本明細書に開示される方法は、コンピュータシステム（「システム」）によって実行される。

適用できる電子商取引プラットフォームにおける、閾値に関連する一定期間の販売数に基づいて、小型／大型ショップを定義する。具体的には、本明細書では、「小型ショップ（small shop)」「より小型ショップ（small shop）」という用語は、売上高がある閾値以下のショップを指す。逆に、「大型ショップ（large shop）」、「より大型ショップ（larger shop）」、「最大型ショップ（largest shop）」という用語は、ある閾値以上の売上高を有するショップを意味する。本発明は、特定の閾値または閾値の範囲に依存または限定されるものではない。小型ショップおよび大型ショップを定義する閾値は、問題となる特定の電子商取引プラットフォームに依拠してもよいし、電子商取引プラットフォームごとに異なってもよい。しかしながら、例として、閾値は、過去12ヶ月などの期間中の電子商取引プラットフォーム上の全ショップのショップ販売量の中央値であってもよい。

以下、推薦システムの訓練段階と予測段階の双方を説明する。
（1.訓練段階）
図１は、訓練段階の概要を示す図である。システムは、電子商取引のプラットフォームにおけるユーザ－アイテム相互作用を予測するため、以前に訓練された機械学習モデルを取得する（ステップ110）。このモデルは、本明細書において基準モデルと呼ばれる。一実施形態では、基準モデルは、電子商取引プラットフォーム上のユーザ－アイテム相互作用を含む、アイテムデータとユーザデータを用いて訓練される。基準モデルは、多数の既知の訓練方法のうちの１つを使用して訓練されてもよく、本明細書で開示される再訓練方法は、基準モデルが最初に訓練される方法に依存しない。上述したように、小型ショップのアイテムよりも大型ショップからのアイテムの方がより多くの訓練データがある。したがって、基準モデルは、より大型ショップからのアイテムについてより良く、予測を行うことになる。これはサンプル選択バイアスと呼ばれる。

システムは、サンプル選択バイアスを低減するために、基準モデルを再訓練する（ステップ120）。モデルを再訓練することは、電子商取引プラットフォーム上のショップのサンプルバッチを特定することを含む（ステップ120a）。サンプルバッチは、プラットフォーム上のショップのサブセットであり、小型カテゴリのショップと大型カテゴリのショップとを含む。

システムは、サンプルバッチ内の各ショップについて、ショップ固有訓練データセットを取得する（ステップ120b）。各ショップ固有訓練データセットは、(1)ショップ内のアイテムに関するアイテムデータ、及び(2)訓練データセットのユーザと、ショップのアイテムとに関するユーザ－アイテム相互作用データを含むユーザデータを含む。ユーザ－アイテム相互作用データの例には、ユーザの評価又は購入履歴（すなわち、ユーザがアイテムを購入したか否か）が含まれる。

システムは、ショップのサンプルバッチとショップ固有データセットに関して、図２記載された再訓練方法を実行する（ステップ120c）。システムは、図２に記載された再訓練方法を、多く繰り返す（ステップ120d）。繰り返しは、固定された繰返し回数であってもよく、あるいは、システムは、収束が達成されるまで再訓練の方法を繰り返してもよい。

（1.1.再訓練の方法）
図２は、このモデルの再訓練の方法を示す。次のセクションで説明するように、この方法の第１の部分は、ショップ固有訓練データセットにこのモデルを適用し、ショップ固有損失を算出することから構成される。

（1.1.1.モデルのショップ固有損失の算出）
このセクションで説明する再訓練テップは、サンプルバッチ内の各ショップについて実行される。システムは、モデル（200）を、ショップ固有訓練データセット（210）中のユーザデータとアイテムデータに適用する。ショップ固有訓練データセットは、訓練データセットのユーザとショップにより販売されたアイテムに関して、ユーザ－アイテム相互作用データを含む。モデルは、ショップ固有訓練データセットにおけるユーザとアイテムのペアについて、ユーザ－アイテム相互作用の予測（220）を生成する。言い換えれば、モデルは、ショップのための予測を生成する。再訓練方法の最初の繰り返しの間、モデル200は、基準モデルである。それ以降の繰り返しでは、モデル200は、基準モデルの更新版である。

システムは、ショップ固有訓練データセットにおける、予測されたユーザ－アイテム相互作用と、実際のユーザ－アイテム相互作用とに基づいて、ショップのショップ固有損失（230）を算出する。一実施形態では、平均二乗誤差が損失関数として使用される。

サンプルバッチは、大型ショップと小型ショップの双方を含むので、システムは小型ショップと大型ショップの双方についてショップ固有損失を有する。後述するように、再訓練の方法の次の部分は、ショップ固有損失を使用してグローバルパラメータ調整を算出することである。

（1.1.2.ショップ固有損失を用いたグローバルパラメータ調整の算出）
システムは、全てのショップ固有損失に基づいて、グローバル損失（240）を算出する。一実施形態では、グローバル損失は、ショップ固有損失の平均として算出される。次に、システムは、グローバル損失を低減するために、モデルのグローバルパラメータ調整（250）を算出する。システムは、グローバルパラメータ調整を用いて、モデルのパラメータを調整することにより、更新されたモデルを生成する。一実施形態では、グローバルパラメータ調整は、勾配降下法を用いて算出され、グローバルパラメータ調整は、勾配ステップである。

グローバル損失は、ショップ固有損失の関数であるため、小型ショップの予測からの損失は、グローバルパラメータ調整に大きな影響を与え、訓練データセット内の全ショップの総合損失を直接算出し、最初にショップ固有損失を算出しない訓練法となる。これにより、再訓練されたモデルの小型ショップに対する予測能力が向上する。また、サンプルバッチには大型ショップも含まれているため、再訓練されたモデルは、大型ショップに対する予測精度を維持することができる。

システムは、前回の繰り返しで更新されたモデルが次の繰り返しのモデルとなる、再訓練方法を、多く繰り返す。

（1.1.3 再訓練処理の数式表現）
以下は、一実施形態による再訓練方法の数式である。

上のアルゴリズムでは
θは、グローバル推薦モデルｇのパラメータ。
θ^ｐは、ショップ固有推薦モデルのパラメータ。
Ｄ^ｐ _ｑは、ショップpのサンプリングデータセット。
βは、学習率。
∇は、勾配ステップ。
Lは、損失関数

後述する図４（ａ）および図４（ｂ）は、パラメータθを用いたモデルの例を示している。

一実施形態では、損失関数は次のように定義される。

ここで、yは、実際の購入ラベル（購入しない場合は0、購入した場合は1）であり、

は、予測されたラベルである。ここで、ｆ_u,f_iは、それぞれユーザ特徴とアイテム特徴であり、一実施形態では、訓練可能なワンホット埋込みである。

（2.予測段階）
予測段階では、再訓練されたモデルは、ターゲット広告のためショップにユーザを推薦する、又は、電子商取引プラットフォーム上でユーザにアイテムを推薦するために使用することができる。

図３（ａ）は、予測段階において、ユーザをショップに推薦する方法を示す図である。システムは、再訓練されたモデルを用いて、相互作用値が知られていないテストユーザとアイテムのペアに関して、ユーザ－アイテム相互作用値の予測を得る（ステップ310）。システムは、電子商取引プラットフォーム上でショップが販売するアイテム及び複数のテストユーザのそれぞれに関する予測された相互作用値に基づいて、１人以上のテストユーザをショップに推薦する（ステップ320）。より小型ショップに関する再訓練されたモデルの性能が良いということは、コールドスタート広告の性能を含む、小型ショップのためのより良い広告性能を意味する。

図３（ｂ）は、テストユーザに１つ以上のアイテムを推薦するための方法を示す図である。システムは、再訓練されたモデルを使用して、相互作用値が知られていないテストユーザとアイテムのペアに関して、ユーザ－アイテム相互作用値の予測を得る（ステップ330）。次に、システムは、テストユーザと電子商取引プラットフォーム上の複数のアイテムの各々に関する予測された相互作用値に基づいて、テストユーザに１つ以上のアイテムを推薦する（ステップ340）。

（3.モデルアーキテクチャの例）
図４（ａ）及び図４（ｂ）は、機械学習推薦モデルのアーキテクチャの例を示す。図４（ａ）において、モデル400aは、連結モジュール420と、ニューラルネットワークエンコーダ430とを含む。連結モジュール420は、ユーザ入力とアイテム入力を受取り、それらを連結する。ニューラルネットワークエンコーダ430は、結合されたユーザデータとアイテムデータを入力として受取り、ユーザ－アイテム相互作用スコア（これはベクトルの形である）を出力する。ユーザ－アイテム相互作用スコアは、分類モジュール440によって使用され、ユーザ－アイテム相互作用を予測する。

図４（ｂ）において、モデルは、ユーザニューラルネットワークエンコーダ460とアイテムニューラルネットワークエンコーダ465を含む。ユーザニューラルネットワークエンコーダ460は、入力されたユーザデータ445に適用され、ユーザベクトル表現を生成する。同様に、アイテムニューラルネットワークエンコーダ465は、入力されたアイテムデータ450に適用され、アイテムベクトル表現を得る。ドット積モジュール470は、ユーザとアイテムのベクトルのドット積を取り、ユーザ－アイテム相互作用スコアを生成する。これは、分類モジュール480によって使用され、ユーザ－アイテム相互作用を予測する。

一実施形態では、入力されたユーザデータは、ユーザ－アイテム相互作用データを含む。また、ユーザに関する「サイド情報」（例えば、ユーザの年齢、場所などのユーザ情報）を含んでもよい。一実施形態では、アイテムデータは、アイテムに関する情報であるアイテム「サイド情報」（例えば、商品カテゴリ及びサブカテゴリ）を含む。

一実施形態では、ユーザ及びアイテムニューラルネットワークエンコーダの各々は、複数の隠れ層を有する。各層は、重み行列と活性化関数とに関連付けられる。グローバルパラメータ調整を行うことは、ユーザおよびアイテムニューラルネットワークエンコーダ層における１つまたは複数の重み行列を調整することを含む。

（4.システムアーキテクチャの例）
図5は、推薦システムソフトウェアアーキテクチャの一例を示す図である。本明細書に開示されるシステム及び方法は、必ずしもこのアーキテクチャに限定されるものではない。システム500は、機械学習モデル530と、訓練モジュール550と、推薦モジュール540とを含む。機械学習モデル530は、入力されたユーザ及びアイテムデータ510、520に適用され、ユーザ－アイテム相互作用を予測する。機械学習モデル530は、本明細書に記載の訓練方法に従って、訓練モジュール550によって訓練される。推薦モジュール540は、予測されたユーザ－アイテム相互作用に基づいて、ユーザをショップに推薦するか、又はユーザにアイテムを推薦する。当業者は、推薦システムが、本明細書の開示に関連しない他のモジュールを有し得ることを理解するであろう。

（5.一般）
図１－5に関して説明した方法は、ソフトウェアで具現化され、ソフトウェアを実行するコンピュータシステム（１つまたは複数のコンピューティングデバイスからなる）によって実行される。当業者であれば、コンピュータシステムが、ソフトウェア命令を格納するための１つ以上の物理的なメモリユニット、ディスク、または他の物理的なコンピュータ可読記録媒体、ならびにソフトウェア命令を実行するための１つ以上のプロセッサを有することを理解するであろう。当業者であれば、コンピュータシステムは、スタンドアロンであっても、サーバとしてコンピュータネットワークに接続されていてもよいことも理解するであろう。

当業者には理解されるように、本発明は、その精神または本質的特徴から逸脱することなく、他の特定の形態で具現化することができる。従って、上記の開示は、請求された発明の範囲を例示するものであって、限定するものではないことを意図している。

本出願は、2021年7月14日に出願された米国仮出願第63/221,872号、タイトルは「Cold-Start Item Advertisement for Small Businesses」、及び2022年1月28日に出願された米国出願第17/588,099号、タイトルは「Reducing Sample Selection Bias in a Machine Learning-based Recommender System」、これらの利益を主張し、その内容は、参照により、本明細書に完全に開示されたように組み込まれる。

Claims (13)

1. コンピュータシステムによって実行され、異なる販売量を有する異なるショップからの商品を含む電子商取引プラットフォーム上で、ユーザ－アイテム相互作用値を予測するための機械学習方法であって、
   訓練段階と予測段階を含み、
   前記訓練段階は、
   前もって訓練された機械学習モデルであって、前記異なる販売量を有する異なるショップを含む前記電子商取引プラットフォーム上のユーザデータとアイテムデータに基づいて、ユーザ－アイテム相互作用を予測する機械学習モデルを取得する取得ステップと、
   前記機械学習モデルを修正して、販売量の多いショップに有利なサンプル選択バイアスを低減させる修正ステップと、を備え、
   前記修正ステップは、
   （ａ）前記電子商取引プラットフォーム上のショップのサンプルバッチを特定し、
   （ｂ）各ショップのショップ固有訓練データセットを取得し、各前記ショップ固有訓練データセットは、前記ショップ内のアイテムに関するアイテムデータと前記ショップ内のアイテムに関するユーザ－アイテム相互作用データを含むユーザデータを有し、
   （ｃ）前記サンプルバッチの各ショップについて、
   前記ショップ固有訓練データセット内のユーザデータとアイテムデータに前記機械学習モデルを適用し、前記ショップの予測されたユーザ－アイテム相互作用を取得し、
   前記ショップ固有訓練データセット内の、前記予測されたユーザ－アイテム相互作用と、実際のユーザ－アイテム相互作用との間のショップ固有損失を算出し、
   （ｄ）前記ショップ固有損失に基づいて、グローバル損失を算出し、
   （ｅ）前記グローバル損失を低減するため前記機械学習モデルのグローバルパラメータ調整を算出し、
   （ｆ）前記グローバルパラメータ調整を用いて前記機械学習モデルのパラメータを調整することにより、更新されたモデルを生成し、
   （ｇ）前の繰り返しの前記更新されたモデルが、次の繰り返しの前記機械学習モデルとなるように、ステップ（ｃ）－（ｆ）を複数回繰り返し、
   前記予測段階は、
   前記更新されたモデルを使用して、相互作用値が知られていないユーザとアイテムのペアに関して、前記電子商取引プラットフォーム上でユーザ－アイテム相互作用値の予測を取得すること、
   を備える、機械学習方法。
2. 前記グローバルパラメータ調整は、勾配降下法を用いて算出され、前記グローバルパラメータ調整は、勾配ステップである、
   ことを特徴とする請求項１に記載の機械学習方法。
3. 前記電子商取引プラットフォーム上のショップにより販売されたアイテムと、複数のテストユーザのそれぞれについて、予測された相互作用値に基づいて、前記ショップに１人以上のテストユーザを推薦するステップを、さらに含む、
   請求項１に記載の機械学習方法。
4. テストユーザと、前記電子商取引プラットフォーム上の複数のアイテムのそれぞれについて、予測された相互作用値に基づいて、前記テストユーザに１つ以上のアイテムを推奨するステップを、さらに含む、
   請求項１に記載の機械学習方法。
5. コンピュータシステムにより実行され、異なる販売量を有する異なるショップからの商品を含む電子商取引プラットフォーム上で、ユーザ－アイテム相互作用値を予測するモデルを訓練する訓練方法であって、
   前もって訓練された機械学習モデルであって、前記異なる販売量を有する異なるショップを含む前記電子商取引プラットフォーム上のユーザデータとアイテムデータに基づいて、ユーザ－アイテム相互作用を予測する機械学習モデルを取得する取得ステップと、
   前記機械学習モデルを修正して、販売量の多いショップに有利なサンプル選択バイアスを低減させる修正ステップと、を備え、
   前記修正ステップは、
   （ａ）前記電子商取引プラットフォーム上のショップのサンプルバッチを特定し、
   （ｂ）各ショップのショップ固有訓練データセットを取得し、各前記ショップ固有訓練データセットは、前記ショップ内のアイテムに関するアイテムデータと前記ショップ内のアイテムに関するユーザ－アイテム相互作用データを含むユーザデータを有し、
   （ｃ）前記サンプルバッチの各ショップについて、
   前記ショップ固有訓練データセット内のユーザデータとアイテムデータに前記機械学習モデルを適用し、前記ショップの予測されたユーザ－アイテム相互作用を取得し、
   前記ショップ固有訓練データセット内の、前記予測されたユーザ－アイテム相互作用と、実際のユーザ－アイテム相互作用との間のショップ固有損失を算出し、
   （ｄ）前記ショップ固有損失に基づいて、グローバル損失を算出し、
   （ｅ）前記グローバル損失を低減するため前記機械学習モデルのグローバルパラメータ調整を算出し、
   （ｆ）前記グローバルパラメータ調整を用いて前記機械学習モデルのパラメータを調整することにより、更新されたモデルを生成し、
   （ｇ）前の繰り返しの前記更新されたモデルが、次の繰り返しの前記機械学習モデルとなるように、ステップ（ｃ）－（ｆ）を複数回繰り返す、
   訓練方法。
6. 前記グローバルパラメータ調整は、勾配降下法を用いて算出され、前記グローバルパラメータ調整は、勾配ステップである、
   請求項5記載の訓練方法。
7. 異なる販売量を有する異なるショップの商品を含む電子商取引プラットフォームにおいて、ユーザ－アイテム相互作用値を予測するための予測システムであって、
   機械コードのセットを使用してプログラムされた命令を実行するように構成されたプロセッサと、
   前記プロセッサに結合された１つ以上のメモリユニットと、
   当該システムの前記１つ以上のメモリユニットに格納され、ユーザ入力とアイテム入力を取得し、前記電子商取引プラットフォーム上のユーザとアイテムの予測されたユーザ－アイテム相互作用値に対応するユーザ相互作用スコアを出力する機械学習モデルであって、前記出力を生成するために前記機械コードに実装された算出命令を含む機械学習モデルと、を備え、
   前記機械学習モデルは、訓練段階と予測段階を含み、
   前記訓練段階は、
   （ａ）前記電子商取引プラットフォーム上のショップのサンプルバッチを特定し、
   （ｂ）各ショップのショップ固有訓練データセットを取得し、各前記ショップ固有訓練データセットは、前記ショップ内のアイテムに関するアイテムデータと前記ショップ内のアイテムに関するユーザ－アイテム相互作用データを含むユーザデータを有し、
   （ｃ）前記サンプルバッチの各ショップについて、
   前記ショップ固有訓練データセット内のユーザデータとアイテムデータに前記機械学習モデルを適用し、前記ショップの予測されたユーザ－アイテム相互作用を取得し、
   前記ショップ固有訓練データセット内の、前記予測されたユーザ－アイテム相互作用と、実際のユーザ－アイテム相互作用との間のショップ固有損失を算出し、
   （ｄ）前記ショップ固有損失に基づいて、グローバル損失を算出し、
   （ｅ）前記グローバル損失を低減するため前記機械学習モデルのグローバルパラメータ調整を算出し、
   （ｆ）前記グローバルパラメータ調整を用いて前記機械学習モデルのパラメータを調整することにより、更新されたモデルを生成し、
   （ｇ）前の繰り返しの前記更新されたモデルが、次の繰り返しの前記機械学習モデルとなるように、ステップ（ｃ）－（ｆ）を複数回繰り返し、
   前記予測段階は、
   前記更新されたモデルを使用して、相互作用値が知られていないユーザとアイテムのペアに関して、前記電子商取引プラットフォーム上でユーザ－アイテム相互作用値の予測を取得する、
   予測システム。
8. 前記機械学習モデルは、
   前記ユーザ入力と前記アイテム入力を受け取り、前記ユーザ入力と前記アイテム入力を連結する連結モジュールと、
   連結された前記ユーザ入力と前記アイテム入力を受け取り、ユーザ－アイテム相互作用スコアを出力するニューラルネットワークエンコーダと、を含む、
   請求項７に記載の予測システム。
9. 前記機械学習モデルは、
   前記アイテムデータを受け取り、アイテム特徴表現を出力するためのアイテムニューラルネットワークエンコーダと、
   前記ユーザデータを受け取り、ユーザ特徴表現を出力するユーザニューラルネットワークエンコーダと、を備え、
   ユーザ－アイテム相互作用スコアは、前記ユーザ特徴表現と前記アイテム特徴表現のドット積を取得することにより生成される、
   請求項７に記載の予測システム。
10. 前記グローバルパラメータ調整は、勾配降下法を用いて算出され、前記グローバルパラメータ調整は、勾配ステップである、
    請求項7に記載の予測システム。
11. コンピュータシステムに、異なる販売量の異なるショップからの商品を含む電子商取引プラットフォームにおいて、ユーザ－アイテム相互作用値を予測する方法を実行させるためのコンピュータプログラムを記録した非一時的コンピュータ可読媒体であって、該方法は、訓練段階と予測段階を備え、
    前記訓練段階は、
    前もって訓練された機械学習モデルであって、前記異なる販売量を有する異なるショップを含む前記電子商取引プラットフォーム上のユーザデータとアイテムデータに基づいて、ユーザ－アイテム相互作用を予測する機械学習モデルを取得する取得ステップと、
    前記機械学習モデルを修正して、販売量の多いショップに有利なサンプル選択バイアスを低減させる修正ステップと、を備え、
    前記修正ステップは、
    （ａ）前記電子商取引プラットフォーム上のショップのサンプルバッチを特定し、
    （ｂ）各ショップのショップ固有訓練データセットを取得し、各前記ショップ固有訓練データセットは、前記ショップ内のアイテムに関するアイテムデータと前記ショップ内のアイテムに関するユーザ－アイテム相互作用データを含むユーザデータを有し、
    （ｃ）前記サンプルバッチの各ショップについて、
    前記ショップ固有訓練データセット内のユーザデータとアイテムデータに前記機械学習モデルを適用し、前記ショップの予測されたユーザ－アイテム相互作用を取得し、
    前記ショップ固有訓練データセット内の、前記予測されたユーザ－アイテム相互作用と、実際のユーザ－アイテム相互作用との間のショップ固有損失を算出し、
    （ｄ）前記ショップ固有損失に基づいて、グローバル損失を算出し、
    （ｅ）前記グローバル損失を低減するため前記機械学習モデルのグローバルパラメータ調整を算出し、
    （ｆ）前記グローバルパラメータ調整を用いて前記機械学習モデルのパラメータを調整することにより、更新されたモデルを生成し、
    （ｇ）前の繰り返しの前記更新されたモデルが、次の繰り返しの前記機械学習モデルとなるように、ステップ（ｃ）－（ｆ）を複数回繰り返し、
    前記予測段階は、
    前記更新されたモデルを使用して、相互作用値が知られていないユーザとアイテムのペアに関して、前記電子商取引プラットフォーム上でユーザ－アイテム相互作用値の予測を取得すること、を備える、
    非一時的コンピュータ可読媒体。
12. 前記電子商取引プラットフォーム上でショップにより販売されるアイテムと、複数のテストユーザのそれぞれについて、予測された相互作用値に基づいて、前記ショップに１人以上のテストユーザを推薦するステップを、さらに含む、
    請求項１１に記載の非一時的コンピュータ可読媒体。
13. テストユーザと、前記電子商取引プラットフォーム上の複数のアイテムのそれぞれについて、予測される相互作用値に基づいて、前記テストユーザに１つ以上のアイテムを推奨すること、をさらに含む、
    請求項１１に記載の非一時的コンピュータ可読媒体。

Images