JP2019125364A - マルチモーダルレコメンデーション方法及びシステム - Google Patents

マルチモーダルレコメンデーション方法及びシステム Download PDF

Info

Publication number
JP2019125364A
JP2019125364A JP2018244098A JP2018244098A JP2019125364A JP 2019125364 A JP2019125364 A JP 2019125364A JP 2018244098 A JP2018244098 A JP 2018244098A JP 2018244098 A JP2018244098 A JP 2018244098A JP 2019125364 A JP2019125364 A JP 2019125364A
Authority
JP
Japan
Prior art keywords
entities
knowledge graph
recommendation
attributes
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018244098A
Other languages
English (en)
Other versions
JP6829240B2 (ja
Inventor
オノロ ルビオ ダニエル
Onoro Rubio Daniel
オノロ ルビオ ダニエル
ニーペルト マティアス
Niepert Mathias
ニーペルト マティアス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Laboratories Europe GmbH
Original Assignee
NEC Laboratories Europe GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Laboratories Europe GmbH filed Critical NEC Laboratories Europe GmbH
Publication of JP2019125364A publication Critical patent/JP2019125364A/ja
Application granted granted Critical
Publication of JP6829240B2 publication Critical patent/JP6829240B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0631Item recommendations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/02Knowledge representation; Symbolic representation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/02Knowledge representation; Symbolic representation
    • G06N5/022Knowledge engineering; Knowledge acquisition

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Finance (AREA)
  • Accounting & Taxation (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • Marketing (AREA)
  • Economics (AREA)
  • Development Economics (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

【課題】知識グラフに基づいてユーザのためのレコメンデーションを生成する方法及びシステムを提供する。【解決手段】小売りシステムにおいて商品レコメンデーションを生成する方法では、複数のエンティティと複数のエンティティの属性を含むデータセットを収集する。複数のエンティティ間の関係性を生成する。複数のエンティティ、属性、および関係性を知識グラフに格納する。知識グラフに格納される複数のエンティティ、属性、および関係性の表現を学習する。新たなエンティティおよび新たなエンティティの属性のゼロショット学習を実行する。新たなエンティティおよび新たなエンティティの属性を知識グラフに格納する。知識グラフに基づいてユーザのためのレコメンデーションを生成する。【選択図】図5

Description

本発明は、エンティティ間の論理ベース推論およびゼロショット学習をサポートするマルチモーダルな知識グラフ表現に基づいて商品レコメンデーションを生成するための方法およびシステムに関する。
従来のレコメンデーションシステムでは、ユーザによる商品評価を使用する。例えば、ユーザが商品を購入すると、ユーザはその商品の評価をすることができる。ユーザは、所有している商品または過去に使用したことのある商品についても評価できる。従来のレコメンデーションシステムでは、商品評価に対して様々な協調フィルタリングまたは行列因数分解アルゴリズムを適用する。従来のレコメンデーションシステムを学習する際、エンティティ(例えば、商品)を用意し、そのエンティティについて質問をする必要がある。そのため、学習の対象となっていない新しいエンティティについての質問に答えることができない。
また、従来のレコメンデーションシステムはユーザプロファイルを作成する。ユーザプロファイルは、多くの場合、ユーザの属性の類似性またはグループ間の異なる統計によってユーザをクラスタ化することによって作成する。従来のレコメンデーションシステムは、例えば、ユーザが購入する商品の種類に基づいてユーザプロファイルを作成してもよい。
従来のレコメンデーションシステムは、ユーザによる商品評価とユーザのプロファイル情報とを組み合わせることによって、そのユーザに対して商品の簡単なレコメンデーションを提供することができる。従来のシステムが推薦できる商品は、従来のシステムが学習されたものに限定される。従来のシステムが新しい商品を推薦できるようになるには、その新しい商品に対する学習プロセスを経る必要がある。
一実施形態によれば、小売りシステムにおいて商品レコメンデーションを生成する方法を提供する。かかる方法では、複数のエンティティと前記複数のエンティティの属性を含むデータセットを収集する。複数のエンティティ間の関係性を生成する。複数のエンティティ、属性、および関係性を知識グラフに格納する。知識グラフに格納される複数のエンティティ、属性、および関係性の表現を学習する。新たなエンティティおよび新たなエンティティの属性のゼロショット学習を実行する。新たなエンティティおよび新たなエンティティの属性を知識グラフに格納する。知識グラフに基づいてユーザのためのレコメンデーションを生成する。
別の実施形態において、1つまたは複数のプロセッサを含むレコメンデーションシステムは、前記1つまたは複数のプロセッサが複数のステップを実行する。複数のエンティティと前記複数のエンティティの属性を含むデータセットを収集する。複数のエンティティ間の関係性を生成する。複数のエンティティ、属性、および関係性を知識グラフに格納する。知識グラフに格納される複数のエンティティ、属性、および関係性の表現を学習する。新たなエンティティおよび新たなエンティティの属性のゼロショット学習を実行する。新たなエンティティおよび新たなエンティティの属性を知識グラフに格納する。知識グラフに基づいてユーザのためのレコメンデーションを生成する。
本発明は、以下の例示的な図面においてさらに詳細に説明される。本発明は、例示的な実施形態に限定されない。本明細書において説明および/または図示されたすべての特徴は、本発明の実施形態において単独で使用されてもよく、または異なる組み合わせで組み合わせられてもよい。本発明の様々な実施形態の特徴および利点は、添付の図面の以下の詳細な説明によって、以下の図の例示とともに明らかになるであろう。
一実施形態による商品レコメンデーションシステムのシステム構成を示す。 一実施形態による複数のデータモダリティを含む学習プロセスのためのシステムを示す。 一実施形態によるレコメンデーションシステムにおける学習プロセスを実施するシステムを示す。 一実施形態による小売りシステムにおける商品レコメンデーションシステムのシステム構成を示す。 一実施形態による学習プロセスを示すフロー図である。 一実施形態による処理システムのブロック図である。
コンピュータ化されたレコメンデーションシステムの固有の問題として、新しい商品を推薦するためにレコメンデーションシステムを学習することがあげられるが、この問題は、本発明の実施形態によって解決される。本実施形態による知識グラフにおけるエンティティは、商品、ユーザ、または記号情報のいずれでもよい。知識グラフ内の関係性とは、エンティティ間のリンクである。本システムは、「埋め込み」と呼ばれる各エンティティのベクトル表示を生成する。このベクトル表示は、ターゲット知識グラフに適合し、「条件pの場合、qである」という形で事前定義された論理規則を満たしている。具体例としては、「ユーザXがナッツに対してアレルギーを持っており、商品Pにナッツが含まれている場合、ユーザXは商品Pに対してアレルギーを持っている」がある。さらに、従来のレコメンデーションシステムでは新しい商品を推薦するには学習を必要とするが、本発明の実施形態によるレコメンデーションシステムでは、ゼロショット学習を用いて新商品を推薦することができる。
本発明の一実施形態において、本システムがゼロショット学習を実行することを可能にする方法を提供する。これにより、本システムは新しいエンティティに関する問い合わせに応答することができる。ゼロショット学習を適用することで、本システムは、問い合わせに応答できるようになる前に新しいエンティティに対して学習プロセスを実行する必要がなくなる。画像、テキスト、およびその他のデータモダリティを利用することによって、商品の形状やデザインなど、エンティティについての知覚的情報が増える。様々なデータモダリティを利用することによって、本システムは学習プロセスまたは訓練に含まれていなかったエンティティについて推論することもできる。
さらに、本システムは、各種エンティティ間できめ細かい推論ができる。一連の規則およびエンティティの学習された埋め込み表現を与えられると、本システムはエンティティ間の新しいリンクおよび論理規則を推論することができる。例えば、(ユーザX、アレルギーがある、ナッツ)の三つ組と(シリアル、含む、ナッツ)の三つ組が与えられた場合、本システムは新しいルールとして(ユーザX、アレルギーがある、シリアル)を推論することができる。
いくつかの実施形態によれば、本システムはレコメンデーションシステムにおいて使用される。本システムは、エンティティ間の質問に答えることによって商品のランク付けを行ってもよい。顧客は、この商品ランキングを利用して、興味のある商品を探すことができる。
商品の推薦は、顧客が買い物をする度に顧客の買い物かごに基づいて行うか、または顧客からの直接的なクエリに応じて行うことができる。また、商品の所有者が、商品の知名度や順位を向上させるために、特定の商品やユーザのグループに対して行う様々な変更によって、商品ランキングも直接影響を受けることがある。本システムは、例えば、ユーザに推薦する商品を順位付けしたリストをユーザに提供してもよい。小売り業者などの所有者は、レコメンデーションシステム内の商品属性を変更して商品の順位を上げてもよい。
実施形態において、商品やユーザなどのエンティティからの複数のデータモダリティを組み合わせて知識グラフを構築するための方法およびシステムを提供する。知識グラフには、エンティティ間の様々な関係性が保存されている。本システムは、事前定義された一連の規則に基づいて論理的推論を行う。本システムは知識グラフのエンティティ間の新しいリンクを推論し、ゼロショット学習の環境で動作する。ゼロショット学習の環境において、本システムは新しいエンティティと既存のエンティティとの間のリンクを確立するが、このとき新しいエンティティに対して学習プロセスを実行する必要がない。
データモダリティとしては、例えば、画像などの知覚データ、数値的特徴(サイズ、価格、成分、商品の購買層に関するデータなど)、ならびにテキストによる説明および評価などがあげられる。知覚データにより、本システムは知識グラフにデザイン的特徴を含めることができる。テキストによる説明と評価は、商品を購入または評価した他のユーザの感想である。他の数値データおよびカテゴリデータを本システムに追加することにより、エンティティの特徴を取り入れることができる。本システムに提供される、エンティティに関する追加情報としては、例えば、寸法、商品カテゴリ情報、およびその他のカテゴリデータがある。
図1は、一実施形態による商品推薦システム100のシステム構成を示す。複数のデータソースが組み合わされて共通の埋め込み空間102に射影される。データソースには、ユーザ情報または顧客情報104が含まれる。顧客情報104には、性別、年齢、結婚歴、居住地、およびアレルギー、高血圧、糖尿病などの健康状態が含まれてもよい。他には、商品のテキストやタグなどの商品画像106およびテキスト情報108を含む商品情報を入力することもできる。顧客情報104はマージブロック110において処理される。マージブロック110は顧客情報104のベクトル表示を生成する。同様に、マージブロック112は商品情報106および108のベクトル表示を生成する。マージブロック110からのベクトル表示は、その後、埋め込みブロック114において処理される。同様に、マージブロック112からのベクトル表示は、その後、埋め込みブロック116において処理される。埋め込みブロック114および116の出力は、埋め込み空間102に統合される。図2は、マージブロックおよび埋め込みブロックの詳細を示す。
埋め込み空間102において、異なるエンティティを互いにリンクさせる様々な関係性が知識グラフとして符号化される。エンティティとは、システムへの各種入力である。例えば、エンティティには、ユーザ、ユーザの一群、商品、特定カテゴリの商品の一群、または記号的カテゴリ(つまり、抽象的な意味を持つカテゴリ、または属性では正確に表すことができないもののカテゴリ(例としては、有機食品)が含まれる。顧客および商品の複雑な関係性を符号化することが可能である。これらの関係性を実店舗または電子商取引の環境に適用することによって、個別の顧客に対して様々な商品を推薦することができる。
埋め込み空間102は、情報を符号化する疑似空間(潜在空間)内における点集合である。知識グラフは、エンティティ間の関係性を表すデータ構造である。例えば、(トマト、材料である、サラダ)および(シーザーソース、材料である、サラダ)はある知識グラフに含まれる三つ組である。さらに、トマト、様々なブランドのシーザーソースのボトル、サラダの画像を入手することもできる。次に、本システムは、知識グラフによって与えられる関係性が符号化されている埋め込み空間(または潜在空間)への射影を学習する。その後、本システムにトマトの新しい写真と「材料である」の関係性が入力されると、「サラダ」という回答を得られうる。
図示の実施形態では、顧客118に関する情報ならびにシリアルエンティティ120、牛乳エンティティ122、およびコーヒーエンティティ122などの商品エンティティが埋め込み空間102に示されている。顧客118とシリアルエンティティ120との間に関係名「頻繁に購入する」126が示されている。同様に、顧客118とナッツ130との間に関係名「アレルギー」128が示されている。特定のシリアル132はナッツ130に対して関係名「含まれない」134の関係性を持つ。本システムは、これらの関係性に基づいて、ユーザ118に対して適切なシリアルを推薦することができる。
同様に、図示の実施形態では、特定の牛乳136がラクトース140に対して関係名「含まれる」138の関係性を持つことが示されている。さらに、特定のコーヒー142がグルテン144に対して関係名「含まれない」142の関係性を持っている。埋め込み空間102では、シリアルエンティティ120と牛乳エンティティ122との間、およびコーヒーエンティティ124と牛乳エンティティ122との間において関係名「一緒に使う」146の関係性が保たれている。図1は説明のために限定された数の商品および関係性のみを例示しているが、埋め込み空間102には多数の商品エンティティおよび関係性が適用されている。
一実施形態によれば、本システムは、埋め込み空間102内のエンティティおよび関係性に基づいて、顧客が興味を示す可能性のある商品の順位を決めることができる。
いくつかの実施形態によれば、知識グラフの構造および一連の論理規則が事前定義されている。知識グラフは、エンティティの初期セットとエンティティ間の関係性で構成されている。論理規則は、(商品、含む、グルテン)および(ユーザ、過敏症、グルテン)などの条件、ならびに「商品を薦めない」などの結果を定義する。
知識グラフを作成した後、各種商品およびユーザを含む既存のデータセットを知識グラフに入力できる。本システムはデータセットのベクトル表示を生成する。
図2は、一実施形態による複数のデータモダリティを含む、学習プロセスのためのシステムを示す。学習プロセスでは、各種データモダリティから表現を学習し、埋め込み空間102などの共通の埋め込み空間に統合する。共通の埋め込み空間は、特定の知識グラフ内の2つの異なるエンティティに関する質問に答えるために最適化されている。
一実施形態によれば、本システムはタプルによって動作する。本システムは2つのインスタンス(すなわち2つの商品)のデータを収集する。各商品は埋め込み空間に射影される。埋め込みは、演算(すなわち、総和、連結、乗算など)によって統合され、得られたベクトルは、例えば、知識グラフにおけるベクトルの関係の誤分類を最小限に抑えるために用いられる。
マージブロックは、複数のデータモダリティを用いて特定の商品のベクトル表示を生成する。図2において、例えば「商品X」に対するマージブロック202が示されている。マージブロック202には、画像204、テキスト206、およびオーディオクリップ208などが入力される。図示された3つのモダリティはそれぞれニューラルネットワークにおいて処理され、中間埋め込み空間にキャストされる。例えば、画像204はニューラルネットワーク210において処理される。ニューラルネットワーク210は、VGG、ResNet、LSTM、CNN、および他のニューラルネットワークを含むことができる。同様に、テキスト206はニューラルネットワーク212において処理される。他の入力もまたニューラルネットワークにおいて処理されてもよい。
それぞれのニューラルネットワークは、それぞれの入力に対応するベクトル表示を生成する。ニューラルネットワーク210はベクトル214を生成し、ニューラルネットワーク212はベクトル216を生成する。同様に、追加のデータモダリティが入力されると、ニューラルネットワークを介して処理され、対応するベクトル表示が生成される。ベクトル表示を生成するプロセスを「埋め込み」と呼ぶ。
次に、入力源に対応するベクトルは、連結演算、点ごとの乗算演算、平均演算、差分演算、または他の演算などの演算(OP’)によって結合される。図示の実施形態によれば、ベクトル214とベクトル216はOP’218によってベクトル(Vec_X)220に結合される。演算プロセスにおいて、各種ソースモダリティの情報をマージして、共通空間の埋め込みを生成する。
各種カテゴリおよびソースモダリティにも同様の手順が適用される。入力モダリティ222、224などはマージブロック228において処理され、ベクトル230が生成される。図示されたプロセスは、多数のデータモダリティおよびエンティティに適用できる。例えば、モダリティが異なる商品カテゴリ、ユーザ、その他のエンティティをマージブロックにおいて処理できる。2つの異なるエンティティインスタンスからの埋め込みは、演算(OP’)によってさらに結合される。いくつかの実施形態によれば、ベクトル220などのエンティティベクトルは、知識グラフに直接使われる。他の実施形態によれば、処理中のエンティティに応じて、ベクトル220および230などの2つ以上のエンティティベクトルをOP’232などの演算で処理することによって、新しいベクトル234を生成できる。最後に、システム全体を最適化し、エンティティインスタンス間のリンクおよび知識グラフの関係に関するエラーを最小限に抑える。この最適化プロセス236は、共通の埋め込み空間が、知識グラフ内の2つ以上の異なるエンティティを含むクエリに応答することを可能にする。
最適化プロセスは、リンクの誤分類、関係に基づく埋め込み間の距離などを含むリンク誤りを最小限に抑える。一実施形態によれば、この機能は、運動量を伴う確率的勾配降下法を用いた逆伝播アルゴリズムによって実現することができる。
実施形態における本システムは、マルチモーダルデータに基づいてゼロショット学習を実行できる。これにより、商品と他のエンティティとの間に明示的な関係を構築する必要がない。エンティティの単一インスタンスを表すために複数のデータモダリティ(画像、音声など)を同時に使用することは、ゼロショット学習に役立つ。画像204、テキスト206、および音声208などの各種データモダリティにより、本システムはエンティティ間の関係性を含む知識グラフを生成できる。一実施形態によれば、知識グラフにより商品を顧客に推薦することができる。一連の論理規則を定義できる。エンティティの埋め込みに基づいて、本システムはエンティティ間の新しいリンクおよび論理規則を推論することができる。エンティティの知覚情報をマージすることにより、形状や外観などの重要な特徴を追加できる。また、図2に示した学習プロセスに含まれていない新しいエンティティとの関係性も推論できる。
図3は、顧客に推薦を行うための推薦プロセス300を示す。レコメンデーションシステム308には、図2に示すような学習プロセスを適用することができる。本システムを初期化し、図2に示すように知識グラフを構築した後、実店舗または電子商取引の所有者302は、顧客312に対して推薦を行うために様々な操作を実行することができる。所有者302は商品304をシステム308に追加することができる。いくつかの実施形態によれば、商品304は、図2に示すような学習プロセスを用いて本システムに追加される。したがって、商品のデータモダリティを入力することによって、商品304を埋め込み空間に追加することができる。システム全体を再学習することなく、新しい商品304を追加することができる。
いくつかの実施形態によれば、所有者302は、システム308の動きに直接影響を与え、特定の商品がより高い推薦順位310となるようにすることができる。例えば、所有者302は、特定の商品304の特売306を表示することができる。特売は商品の推薦順位310に直接影響する。
いくつかの新しい商品および顧客312などの数人のユーザがシステム308に追加されると、システム308は、新しいデータで「微調整」することによって更新されて全体の性能が向上する。この調整プロセスには、例えば、図2に示す最適化プロセス236を適用できる。
一実施形態によれば、顧客312は、質問またはクエリ318をシステム308に直接送信することによってシステム308と交信する。システム308は、クエリ318に応答して、商品順位を含めたレコメンデーション310を提供する。レコメンデーション310を提供するときには、システム308は顧客312の顧客プロファイル314を使用する。いくつかの実施形態によれば、レコメンデーション310は、例えばウェブページまたはモバイルアプリケーションを介して顧客312に直接提供される。
別の実施形態によれば、システム308は、買い物かご316および顧客プロファイル314を利用して、レコメンデーション310を生成する。買い物かご316は、顧客312が購入する可能性のある商品のリストを提供する。例えば、顧客312は、レシピに含まれるいくつかの食材の情報を保存することができる。システム308は、埋め込み空間を用いることによって、顧客が特定のレシピに興味があることを認識し、そのレシピに関連するレコメンデーション310を提供する。さらに、システム308は、顧客プロファイル314により、顧客312の好みまたは要件に関する追加の情報を受け取ることができ、推薦順位310を生成するときにこの追加の情報を考慮に入れることができる。したがって、システム308は、レコメンデーション310を生成するときに買い物かご316および顧客プロファイル314を一緒に用いることができる。
図4は、一実施形態による小売りシステムにおける商品推薦システム400のシステム構成を示す。データベースサーバ416には、様々な異なる商品およびユーザ404に関する情報が格納される。この情報には、画像、テキストによる評価、ユーザデータ、およびその他のデータが含まれる。フロントエンドサーバ414は、インターネットなどのネットワーク408に接続されている。ネットワーク408は、所有者402および/または顧客404と商品推薦システム400とのインタフェースである。図示の実施形態によれば、所有者402はコンピュータ406を使用して、ネットワーク408を介してフロントエンドサーバ414に接続する。同様に、顧客404はコンピュータまたはモバイルデバイス410などのデバイスを使用して、ネットワークに無線接続または有線接続することによってフロントエンドサーバ414に接続できる。
顧客404はデバイス410を使用して、プロファイル情報の送信、買い物、商品の買い物かご412への追加し、または商品のウィッシュリストなどの別のリストへの追加を行うことができる。バックエンドサーバ418は、学習されたニューラルネットワークのパラメータを含み、顧客への商品のレコメンデーションやその他のレコメンデーションを生成する。
所有者402は、コンピュータ406などの装置を介してフロントエンドサーバ414にリモート接続することによって本システムに新しい商品を追加することができる。フロントエンドサーバ414は、ハイエンド情報(画像、テキスト、商品属性など)をフォーマットしてデータベースサーバ416に送信するか、あるいは順位変更因子の送信、モデルへの新しいエンティティの追加、またはモデルの微調整によってバックエンドサーバ418内のシステムを更新する。ユーザ404は、フロントエンドサーバ414を介して商品推薦システム400にアクセスする。データベースサーバ416から情報を取得し、バックエンドサーバ418からレコメンデーションおよびその他のメタデータを取得することができる。いくつかの実施形態によれば、フロントエンドサーバ414は、顧客404および顧客の買い物かご412からデータを自動的に収集する。次にフロントエンドサーバ414はバックエンドサーバ418からレコメンデーションを取得し、取得したレコメンデーションを顧客のデバイス410に送信する。
図5は、一実施形態による学習プロセスを示すフロー図である。ステップ502において、エンティティの各種属性が収集される。これらの属性には、マルチモーダルデータおよびシステムの所有者または他のユーザによって提供される情報などの情報が含まれる。エンティティとは、システムへの各種入力である。例えば、エンティティには、ユーザ、ユーザの一群、商品、または特定のカテゴリの商品の一群が含まれる。このようにして、商品とユーザおよびそれらの属性などのエンティティのデータセットが収集される。
ステップ504において、本システムは知識グラフを生成する。知識グラフには各種エンティティに関する情報が格納される。本システムは知識グラフ内のエンティティ間の関係性を決定する。知識グラフは、異なるエンティティを互いにリンクする様々な関係性を符号化している。例えば、顧客と商品との間の複雑な関係性を符号化することが可能である。
ステップ506において、本システムは知識グラフの表現を学習する。本システムは、知識グラフ内のエンティティ、関係性、および属性の表現を学習する。知識グラフの表現とは、学習されることの射影である。射影とは、画像または属性をベクトル(埋め込み)に変換することである。知識グラフは、情報を関係付けるステートメントを含むデータ構造である。ステートメントの例としては、(トマト、材料である、サラダ)、(レタス、材料である、サラダ)、(オリーブ、材料である、サラダ)があげられる。したがって、本システムは、データ(すなわち、トマト、レタス、オリーブなどの画像)に基づいて射影を学習するが、この射影は、知識グラフの条件を満たす埋め込み空間にデータをマッピングする。後にキュウリの画像が入力されると、本システムは、学習において三つ組(キュウリ、材料である、サラダ)が知識グラフの一部でなかったとしても、キュウリの調理法を判断できる。キュウリは野菜なので、本システムはキュウリがサラダの材料であることを推論することができる。
ステップ508において、システムはレコメンデーションを生成する。一実施形態によれば、レコメンデーションは1人の顧客に対するものである。レコメンデーションは、知識グラフおよび知識グラフ内のエンティティ間の関係性に基づいている。
図6は、一実施形態による処理システムのブロック図である。この処理は、上記の推薦システム、サーバ、およびユーザのデバイスを実装するために実行することができる。本処理システムは計算装置の中央処理装置(CPU)などのプロセッサ604を含む。プロセッサ604は、上述の機能および方法を実行するためのシステムの実施形態を構成するコンピュータ実行可能命令を実行する。実施形態によれば、コンピュータ実行可能命令は、ローカルに格納され、例えば、ハードドライブまたはフラッシュドライブであるストレージ610などのコンピュータ可読媒体からアクセスされる。読み取り専用メモリ(ROM)606は、プロセッサ604を初期化するためのコンピュータ実行可能命令を格納し、ランダムアクセスメモリ(RAM)608は、プロセッサ604によって実行される命令を読み込み処理するためのメインメモリである。ネットワークインターフェース612は、有線ネットワークまたはセルラーネットワーク、およびローカルエリアネットワークまたはインターネットなどのワイドエリアネットワークに接続することができる。
本明細書で引用した刊行物、特許出願、および特許を含むすべての参考文献は、あたかも各参考文献が個別におよび具体的に参照により組み込まれることが示され、その全体が本明細書に記載されるのと同程度に参照により本明細書に組み込まれる。
本発明は、図面および前述の説明において詳細に図示され説明されてきたが、これらの図示および説明は、例示的または代表的であり、限定的ではないとみなされるべきである。本発明の趣旨または添付クレームの範囲を逸脱せずに変更および修正を加えうることは当業者には明らかなところである。特に、上記および下記の異なる実施形態の特徴の任意の組み合わせも本発明の実施形態に含まれる。さらに、本明細書で述べた本発明を特徴づける記述は、本発明の実施形態を指し、必ずしもすべての実施形態を指すものではない。
特許請求の範囲で使用される用語は、前述の説明と一致する最も広い合理的な解釈を有すると解釈されるべきである。例えば、要素を導入する際に冠詞「a」または「the」を使用することは、複数の要素を除外するものとして解釈されるべきではない。同様に、「または」の列挙は、「AまたはB」の記載が「AおよびB」を除外しないように包括的であると解釈されるべきである。ただし、文脈または上記の説明から、AおよびBのうちの1つのみが意図されていることが明らかである場合はこの限りではない。さらに、「A、BおよびCのうち少なくとも1つ」の記載は、A、BおよびCが区分またはその他において関連しているかどうかにかかわらず、A、BおよびCからなる要素群の1つまたは複数として解釈されるべきであり、列挙された要素A、BおよびCのそれぞれを少なくとも1つずつ必要とすると解釈されるべきではない。さらに、「A、Bおよび/またはC」または「A、BまたはCの少なくとも1つ」の記載は、列挙された要素から任意の単数の実体(例えば、A)、列挙された要素の一部(例えば、AとB)、または要素A、B、Cのすべてを含むものとして解釈されるべきである。

Claims (15)

  1. 複数のエンティティと前記複数のエンティティの属性を含むデータセットを収集し、
    前記複数のエンティティ間の関係性を生成し、
    前記複数のエンティティ、前記属性、および前記関係性を知識グラフに格納し、
    前記知識グラフに格納される前記複数のエンティティ、前記属性、および前記関係性の表現を学習し、
    新たなエンティティおよび前記新たなエンティティの属性のゼロショット学習を実行し、
    前記新たなエンティティおよび前記新たなエンティティの前記属性を前記知識グラフに格納し、
    前記知識グラフに基づいてユーザのためのレコメンデーションを生成する、
    小売りシステムにおいて商品レコメンデーションを生成する方法。
  2. 前記ゼロショット学習を実行することにより、前記新たなエンティティおよび前記複数のエンティティの間の関係性を生成する、ことを含む請求項1の方法。
  3. 前記エンティティが少なくともユーザと商品を含む、請求項1の方法。
  4. 前記属性がマルチモーダルデータを含む、請求項1の方法。
  5. 前記マルチモーダルデータが少なくともテキスト、画像、および音声クリップのいずれかを含む、請求項4の方法。
  6. 前記ユーザのためのレコメンデーションを生成する際に、前記知識グラフに基づいて前記ユーザのための前記レコメンデーションを自動的に生成する、
    ことを含む、請求項1の方法。
  7. 前記新たなエンティティを含む前記知識グラフに格納される前記複数のエンティティ、前記属性、および前記関係性の第2の表現を学習する、
    ことをさらに含む請求項1の方法。
  8. 前記ユーザの顧客プロファイルを格納する、ことを含む請求項1の方法。
  9. 前記知識グラフに基づいてユーザのためのレコメンデーションを生成する際に、前記ユーザに関連付けられている買い物かごを分析する、
    ことを含む請求項1の方法。
  10. 前記ユーザのためのレコメンデーションを生成する際に、前記レコメンデーションを前記ユーザのデバイスに送信する、
    ことを含む請求項1の方法。
  11. 複数のエンティティと前記複数のエンティティの属性を含むデータセットを収集し、
    前記複数のエンティティ間の関係性を生成し、
    前記複数のエンティティ、前記属性、および前記関係性を知識グラフに格納し、
    前記知識グラフに格納される前記複数のエンティティ、前記属性、および前記関係性の表現を学習し、
    新たなエンティティおよび前記新たなエンティティの属性のゼロショット学習を実行し、
    前記新たなエンティティおよび前記新たなエンティティの前記属性を前記知識グラフに格納し、
    前記知識グラフに基づいてユーザのためのレコメンデーションを生成する、
    処理を実行する1つまたは複数のプロセッサを含む、
    小売りシステムにおいて商品レコメンデーションを生成するレコメンデーションシステム。
  12. 前記新たなエンティティおよび前記複数のエンティティの間の関係性を生成する、ことをさらに含む請求項11のレコメンデーションシステム。
  13. 前記エンティティが少なくともユーザと商品を含む、ことをさらに含む請求項11のレコメンデーションシステム。
  14. 前記ユーザのためのレコメンデーションを生成する際に、前記知識グラフに基づいて前記ユーザのための前記レコメンデーションを自動的に生成する、
    ことを含む請求項11のレコメンデーションシステム。
  15. 前記知識グラフに基づいてユーザのためのレコメンデーションを生成する際に、前記ユーザに関連付けられている買い物かごを分析する、
    ことを含む請求項11のレコメンデーションシステム。

JP2018244098A 2018-01-03 2018-12-27 マルチモーダルレコメンデーション方法及びシステム Active JP6829240B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US15/860,724 US11042922B2 (en) 2018-01-03 2018-01-03 Method and system for multimodal recommendations
US15/860,724 2018-01-03

Publications (2)

Publication Number Publication Date
JP2019125364A true JP2019125364A (ja) 2019-07-25
JP6829240B2 JP6829240B2 (ja) 2021-02-10

Family

ID=67057855

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018244098A Active JP6829240B2 (ja) 2018-01-03 2018-12-27 マルチモーダルレコメンデーション方法及びシステム

Country Status (2)

Country Link
US (1) US11042922B2 (ja)
JP (1) JP6829240B2 (ja)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6917092B1 (ja) * 2020-08-01 2021-08-11 Hitowaケアサービス株式会社 代理作業支援プログラム、代理作業支援方法、サーバ、端末装置及びシステム
WO2021176572A1 (ja) 2020-03-03 2021-09-10 富士通株式会社 機械学習プログラム、機械学習方法及び機械学習装置
JP2022505015A (ja) * 2019-10-08 2022-01-14 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド 知識グラフのベクトル表現生成方法、装置及び電子機器
JP2022018087A (ja) * 2020-07-14 2022-01-26 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド 地図情報表示方法、装置、電子デバイス及び記憶媒体
JP2022018095A (ja) * 2020-07-14 2022-01-26 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド マルチモーダル事前訓練モデル取得方法、装置、電子デバイス及び記憶媒体
WO2022102975A1 (ko) * 2020-11-12 2022-05-19 삼성전자주식회사 음성 비서를 통해 광고를 제공하는 전자 장치 및 그 제어 방법
WO2022190215A1 (ja) 2021-03-09 2022-09-15 富士通株式会社 機械学習プログラム、予測プログラム、装置、及び方法
WO2023042288A1 (ja) * 2021-09-15 2023-03-23 日本電気株式会社 食事レコメンド装置、食事レコメンド方法、及び食事レコメンドプログラム
EP4177773A1 (en) 2021-11-04 2023-05-10 Fujitsu Limited Machine learning program, machine learning method, and machine learning apparatus
US11880866B2 (en) 2020-11-12 2024-01-23 Samsung Electronics Co., Ltd. Electronic apparatus for providing advertisement through voice assistant and control method thereof
WO2024018548A1 (ja) * 2022-07-19 2024-01-25 富士通株式会社 生成プログラム、生成方法および情報処理装置
WO2024134704A1 (ja) * 2022-12-19 2024-06-27 日本電気株式会社 情報処理装置、情報処理方法、及び、記録媒体

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11636123B2 (en) * 2018-10-05 2023-04-25 Accenture Global Solutions Limited Density-based computation for information discovery in knowledge graphs
US20210034945A1 (en) * 2019-07-31 2021-02-04 Walmart Apollo, Llc Personalized complimentary item recommendations using sequential and triplet neural architecture
US11321406B2 (en) 2019-07-31 2022-05-03 Walmart Apollo, Llc Personalized ranking using deep attribute extraction and attentive user interest embeddings
US11184301B2 (en) * 2019-08-15 2021-11-23 Microsoft Technology Licensing, Llc Message recommendation system
US11886971B2 (en) 2019-08-15 2024-01-30 Microsoft Technology Licensing, Llc Multiple-entity-based recommendation system
CN110928961B (zh) * 2019-11-14 2023-04-28 出门问问(苏州)信息科技有限公司 一种多模态实体链接方法、设备及计算机可读存储介质
CN110929046B (zh) * 2019-12-10 2022-09-30 华中师范大学 一种基于异质网络嵌入的知识实体推荐方法及系统
CN112989176A (zh) * 2019-12-12 2021-06-18 国网电子商务有限公司 一种信息推荐方法及装置
CN113742531B (zh) * 2020-05-27 2023-09-01 杭州海康威视数字技术股份有限公司 一种图推荐方法、装置及电子设备
CN112100392B (zh) * 2020-07-28 2022-03-15 浙江大学 一种基于强化学习和知识图谱的设备故障溯因方法
CN112102029B (zh) * 2020-08-20 2022-10-14 浙江大学 一种基于知识图谱的长尾推荐计算方法
CN111986006A (zh) * 2020-09-02 2020-11-24 深圳壹账通智能科技有限公司 基于知识图谱的产品推荐方法、装置、计算机设备及存储介质
CN112364257B (zh) * 2020-11-13 2021-05-18 四川省人工智能研究院(宜宾) 一种基于知识图谱的用户群组推荐系统及方法
CN112446629B (zh) * 2020-12-02 2024-03-29 东莞理工学院 一种基于知识图谱的供应商选择方法
US20220188850A1 (en) * 2020-12-15 2022-06-16 Accenture Global Solutions Limited Utilizing machine learning models for data-driven customer segmentation
CN114691973A (zh) * 2020-12-31 2022-07-01 华为技术有限公司 一种推荐方法、推荐网络及相关设备
CN112800326B (zh) * 2021-01-18 2022-03-15 吉林大学 一种改进的多任务学习与知识图谱结合的Ripp-MKR推荐方法
US20220400159A1 (en) * 2021-06-09 2022-12-15 Capital One Services, Llc Merging data from various content domains to train a machine learning model to generate predictions for a specific content domain
CN113590946B (zh) * 2021-07-26 2023-06-20 西安工程大学 一种基于知识图谱实体锚定的网络资源推荐方法和装置
CN113569050B (zh) * 2021-09-24 2021-12-07 湖南大学 基于深度学习的政务领域知识图谱自动化构建方法和装置
US12001794B2 (en) 2022-01-14 2024-06-04 International Business Machines Corporation Zero-shot entity linking based on symbolic information
CN115587875B (zh) * 2022-11-10 2024-06-18 广州科拓科技有限公司 基于均衡感知注意力网络的纺织品电商推荐方法及装置
CN117540102B (zh) * 2023-12-04 2024-07-09 中国科学院地理科学与资源研究所 一种基于知识图谱和多模态数据的生态文明模式推荐方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020065797A1 (en) * 2000-11-30 2002-05-30 Wizsoft Ltd. System, method and computer program for automated collaborative filtering of user data
US7730063B2 (en) 2002-12-10 2010-06-01 Asset Trust, Inc. Personalized medicine service
US10789526B2 (en) * 2012-03-09 2020-09-29 Nara Logics, Inc. Method, system, and non-transitory computer-readable medium for constructing and applying synaptic networks
US10223727B2 (en) 2014-10-20 2019-03-05 Oath Inc. E-commerce recommendation system and method
US9547823B2 (en) 2014-12-31 2017-01-17 Verizon Patent And Licensing Inc. Systems and methods of using a knowledge graph to provide a media content recommendation
US10331676B2 (en) * 2016-04-13 2019-06-25 Disney Enterprises, Inc. System and method of vocabulary-informed categorization of items of interest included within digital information
US20180232443A1 (en) * 2017-02-16 2018-08-16 Globality, Inc. Intelligent matching system with ontology-aided relation extraction

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7262571B2 (ja) 2019-10-08 2023-04-21 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド 知識グラフのベクトル表現生成方法、装置及び電子機器
JP2022505015A (ja) * 2019-10-08 2022-01-14 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド 知識グラフのベクトル表現生成方法、装置及び電子機器
US11995560B2 (en) 2019-10-08 2024-05-28 Beijing Baidu Netcom Science And Technology Co., Ltd. Method and apparatus for generating vector representation of knowledge graph
WO2021176572A1 (ja) 2020-03-03 2021-09-10 富士通株式会社 機械学習プログラム、機械学習方法及び機械学習装置
JP7159405B2 (ja) 2020-07-14 2022-10-24 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド 地図情報表示方法、装置、電子デバイス及び記憶媒体
US11630560B2 (en) 2020-07-14 2023-04-18 Beijing Baidu Netcom Science And Technology Co., Ltd. Map information display method and apparatus, electronic device, and computer storage medium
JP2022018087A (ja) * 2020-07-14 2022-01-26 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド 地図情報表示方法、装置、電子デバイス及び記憶媒体
US11928432B2 (en) 2020-07-14 2024-03-12 Beijing Baidu Netcom Science And Technology Co., Ltd. Multi-modal pre-training model acquisition method, electronic device and storage medium
JP2022018095A (ja) * 2020-07-14 2022-01-26 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド マルチモーダル事前訓練モデル取得方法、装置、電子デバイス及び記憶媒体
JP6917092B1 (ja) * 2020-08-01 2021-08-11 Hitowaケアサービス株式会社 代理作業支援プログラム、代理作業支援方法、サーバ、端末装置及びシステム
JP2022027678A (ja) * 2020-08-01 2022-02-14 Hitowaケアサービス株式会社 代理作業支援プログラム、代理作業支援方法、サーバ、端末装置及びシステム
US11880866B2 (en) 2020-11-12 2024-01-23 Samsung Electronics Co., Ltd. Electronic apparatus for providing advertisement through voice assistant and control method thereof
WO2022102975A1 (ko) * 2020-11-12 2022-05-19 삼성전자주식회사 음성 비서를 통해 광고를 제공하는 전자 장치 및 그 제어 방법
WO2022190215A1 (ja) 2021-03-09 2022-09-15 富士通株式会社 機械学習プログラム、予測プログラム、装置、及び方法
WO2023042288A1 (ja) * 2021-09-15 2023-03-23 日本電気株式会社 食事レコメンド装置、食事レコメンド方法、及び食事レコメンドプログラム
EP4177773A1 (en) 2021-11-04 2023-05-10 Fujitsu Limited Machine learning program, machine learning method, and machine learning apparatus
WO2024018548A1 (ja) * 2022-07-19 2024-01-25 富士通株式会社 生成プログラム、生成方法および情報処理装置
WO2024134704A1 (ja) * 2022-12-19 2024-06-27 日本電気株式会社 情報処理装置、情報処理方法、及び、記録媒体

Also Published As

Publication number Publication date
JP6829240B2 (ja) 2021-02-10
US11042922B2 (en) 2021-06-22
US20190205964A1 (en) 2019-07-04

Similar Documents

Publication Publication Date Title
JP6829240B2 (ja) マルチモーダルレコメンデーション方法及びシステム
AU2019253767B2 (en) System architecture for customer genome construction and analysis
Chong et al. Predicting consumer product demands via Big Data: the roles of online promotional marketing and online reviews
US11568464B2 (en) Method, non-transitory computer-readable medium, and system for determining recommended search terms for a user of an online concierge system
TW201804400A (zh) 資料物件推送的方法、裝置及系統
JP6780992B2 (ja) 判定装置、判定方法および判定プログラム
US11587028B2 (en) Computer system for optimizing garment inventory of retailer based on shapes of users
JP7565926B2 (ja) 個人向けの在庫管理のためのテキストデータの符号化
Pennacchioli et al. Explaining the product range effect in purchase data
US20240161163A1 (en) Query reformulations for an item graph
Turčínek et al. Exploring consumer behavior: Use of association rules
Satheesan et al. Product Recommendation System for Supermarket
WO2024049547A1 (en) Suggesting keywords to define an audience for a recommendation about a content item
US11776016B2 (en) Systems and methods for determining user personas for a user
Liao et al. A rough set-based association rule approach implemented on a brand trust evaluation model
Colombo-Mendoza et al. Recommender systems in the offline retailing domain: a systematic literature review
Vilas Boas et al. Trust and perceived risk in consumer behaviour: A preliminary study in electronic commerce
CN112488355A (zh) 基于图神经网络预测用户评级的方法和装置
US11010813B2 (en) System for building grocery basket and method of using same
JP6809148B2 (ja) プログラムおよび組み合わせ抽出システム
US11928526B1 (en) Data analytics for digital catalogs
US20220318878A1 (en) Digital preferences based on physical store patterns
US20230206253A1 (en) Systems and methods for providing customer insights
US20240193664A1 (en) System and method for noise-resistant complementary item recommendation
US20150269644A1 (en) Electronic concierge

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190225

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200218

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200303

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200513

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200610

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200904

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20201001

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201111

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20201111

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20201124

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20201125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210106

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210121

R150 Certificate of patent or registration of utility model

Ref document number: 6829240

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350