JP7058304B2 - 異種グラフにおけるノード表現の生成方法、装置及び電子機器 - Google Patents

異種グラフにおけるノード表現の生成方法、装置及び電子機器 Download PDF

Info

Publication number
JP7058304B2
JP7058304B2 JP2020117636A JP2020117636A JP7058304B2 JP 7058304 B2 JP7058304 B2 JP 7058304B2 JP 2020117636 A JP2020117636 A JP 2020117636A JP 2020117636 A JP2020117636 A JP 2020117636A JP 7058304 B2 JP7058304 B2 JP 7058304B2
Authority
JP
Japan
Prior art keywords
node
heterogeneous graph
representation
subgraphs
nodes
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020117636A
Other languages
English (en)
Other versions
JP2021105980A (ja
Inventor
ウェイビン リー,
ジーファン ヂュ,
ウェイユ スー,
ジンヂョウ フェ,
シクン フェン,
ユーフェイ カオ,
シューイ チェン,
ダンシャン ヂュ,
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Publication of JP2021105980A publication Critical patent/JP2021105980A/ja
Application granted granted Critical
Publication of JP7058304B2 publication Critical patent/JP7058304B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/901Indexing; Data structures therefor; Storage structures
    • G06F16/9024Graphs; Linked lists
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/02Knowledge representation; Symbolic representation
    • G06N5/022Knowledge engineering; Knowledge acquisition

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Computational Linguistics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本願は、インターネットと機械学習技術の分野に関し、特に、異種グラフにおけるノード表現の生成方法、装置及び電子機器に関する。
現実世界内の多数の問題は、ほぼグラフモデル、すなわちノードとエッジの集合に抽象化することができ、例えば、ソーシャルプラットフォーム内の各ユーザと他のユーザとの間の関係は、グラフモデルとして抽象化することができる。グラフモデル内の各ノードは、ベクトル形式として表すことができ、このような表現形式は、ノード分類、リンク予測、コミュニティ発見(Community detection)などの様々な下流タスクに適用することができる。
現在、異種グラフノード表現学習では、メタパスサンプリングによって異なるウォーキングシーケンスを取得し、ウォーキングシーケンスをセンテンスシーケンスとして扱われ、word2vecなどのトレーニング方法によって、ウォーキングシーケンスをトレーニングしてグラフノードの表現を取得する。このような方式は、メタパスサンプリング後に異種グラフを同型グラフとしてトレーニングし、異種グラフの構造情報が失われるため、最終的に生成されたノード表現が正確ではない。
本願は、従来技術でメタパスサンプリング方式を採用して異種グラフを同型グラフとしてトレーニングし、異種グラフの構造情報が失われ、生成されたノード表現の精度が低い技術問題を解決するための異種グラフにおけるノード表現の生成方法、装置及び電子機器を提供する。
本願の第1の態様の実施例は、異種グラフにおけるノード表現の生成方法を提供し、前記異種グラフにおけるノード表現の生成方法は、複数のタイプのノードを含む異種グラフを取得するステップと、前記異種グラフを異種グラフ学習モデルに入力して前記異種グラフ内の各ノードのノード表現を生成するステップと、を含み、前記異種グラフ学習モデルが、前記異種グラフを複数のサブグラフに分割するステップであって、各サブグラフが、二つのタイプのノードと前記二つのタイプのノード間の一つのエッジタイプとを含むステップと、前記複数のサブグラフに基づいて各前記ノードのノード表現を生成するステップと、によって、前記各ノードのノード表現を生成する。
本願の実施例の異種グラフにおけるノード表現の生成方法は、異種グラフを取得し、異種グラフを異種グラフ学習モデルに入力して異種グラフ内の各ノードのノード表現を生成し、異種グラフを複数のサブグラフに分割し、各サブグラフは、二つのタイプのノードと二つのタイプのノード間の一つのエッジタイプとを含み、複数のサブグラフに基づいて各ノードのノード表現を生成する。これにより、ノードタイプとエッジタイプとに基づいて異種グラフを複数のサブグラフに分割し、複数のサブグラフに基づいて各ノードのノード表現を生成することによって、異なるエッジタイプでの図の構造情報を取得することができ、異種グラフの構造情報が失われないことを確保し、異種グラフ内のノードの情報の完全性を確保することによって、ノード表現の精度を向上させる。
本願の実施例の可能な実現方式では、前記複数のサブグラフに基づいて各前記ノードのノード表現を生成するステップが、i番目の前記ノードの、それぞれの前記複数のサブグラフにおけるM個の第1のノード表現を取得するステップであって、i及びMは正の整数であるステップと、前記M個の第1のノード表現を集約して前記i番目の前記ノードのノード表現を生成するステップと、を含む。
これにより、i番目のノードの、それぞれの複数のサブグラフにおけるM個の第1のノード表現を取得し、M個の第1のノード表現を集約してi番目のノードのノード表現を生成することによって、同じノードの、異なるエッジタイプでの第1のノード表現を一緒に融合することを実現し、ノードの異なるエッジタイプでのノード表現を実現し、構造情報の完全性を確保する。
本願の実施例の可能な実現方式では、前記i番目の前記ノードの、それぞれの前記複数のサブグラフにおけるM個の第1のノード表現を取得するステップが、前記i番目のノードがあるM個のサブグラフを取得するステップと、前記i番目のノードの前記j番目のサブグラフにおける隣接ノードを取得するステップであって、jは、M以下の正の整数であるステップと、前記隣接ノードの特徴を取得して前記i番目のノードの前記j番目のサブグラフにおける第1のノード表現を生成し、前記i番目のノードの、前記M個のサブグラフにおける他のサブグラフの第1のノード表現を順次に計算するステップと、を含む。
これにより、i番目のノードがあるM個のサブグラフを取得し、i番目のノードのj番目のサブグラフにおける隣接ノードを取得し、次に、隣接ノードの特徴を取得してi番目のノードのj番目のサブグラフにおける第1のノード表現を生成し、i番目のノードのM個のサブグラフにおける他のサブグラフの第1のノード表現を順次に計算することによって、メッセージ伝達を利用してノードの表現を更新することを実現し、隣接行列全体を構築しない場合に各サブグラフ内のノードの表現を取得することができ、ノードの異なるエッジタイプでのノード表現を取得し、構造情報の完全性を確保するための条件を提供し、隣接行列を記憶するために必要なストレージスペースを低減し、ストレージコストを節約することができる。
本願の実施例の可能な実現方式では、前記異種グラフ学習モデルが、複数のタイプのノードを含むサンプル異種グラフを取得するステップと、前記サンプル異種グラフのトレーニングデータを取得するステップと、前記サンプル異種グラフを複数のサンプルサブグラフに分割するステップであって、各サンプルサブグラフは、二つのタイプのノードと前記二つのタイプのノード間の一つのエッジタイプとを含むステップと、前記複数のサンプルサブグラフにおける各ノードのノード表現をそれぞれ計算するステップと、前記各ノードのノード表現と前記トレーニングデータとに基づいて前記異種グラフ学習モデルのパラメータをトレーニングするステップと、によって生成される。
これにより、サンプル異種グラフとサンプル異種グラフのトレーニングデータを取得し、サンプル異種グラフを複数のサンプルサブグラフに分割し、各サンプルサブグラフは、二つのタイプのノードと二つのタイプのノード間の一つのエッジタイプとを含み、複数のサンプルサブグラフにおける各ノードのノード表現をそれぞれ計算し、さらに、各ノードのノード表現とトレーニングデータとに基づいて異種グラフ学習モデルのパラメータをトレーニングすることによって、サンプル異種グラフをエッジタイプとノードタイプによって複数のサンプルサブグラフに分割してそれぞれのメッセージ集約のトレーニングを行うことを実現し、異なるエッジタイプでの図の構造情報を取得することができ、構造情報の完全性を確保し、下流タスクの実現に有利であり、メッセージ伝達モードを採用してノード表現を行い、隣接行列全体を構築しない場合にノード表現を完了することができ、隣接行列を記憶するために必要なストレージスペースを低減することができる。
本願の実施例の可能な実現方式では、skipgramアルゴリズムによって前記各ノードのノード表現と前記トレーニングデータとに基づいて前記異種グラフ学習モデルのパラメータをトレーニングする。
これにより、skipgramアルゴリズムなどの教師なし学習技術を使用することによって、モデルが記憶することに必要な内容が少なくなり、トレーニングプロセスの簡略化に有利である。
本願の第2の態様の実施例は、異種グラフにおけるノード表現の生成装置を提供し、前記異種グラフにおけるノード表現の生成装置は、複数のタイプのノードを含む異種グラフを取得するための取得モジュールと、前記異種グラフを異種グラフ学習モデルに入力して前記異種グラフ内の各ノードのノード表現を生成するための生成モジュールと、を備え、前記異種グラフ学習モデルが、前記異種グラフを複数のサブグラフに分割するステップであって、各サブグラフは、二つのタイプのノードと前記二つのタイプのノード間の一つのエッジタイプとを含むステップと、前記複数のサブグラフに基づいて各前記ノードのノード表現を生成するステップと、によって前記各ノードのノード表現を生成する。
本願の実施例の異種グラフにおけるノード表現の生成装置は、異種グラフを取得し、異種グラフを異種グラフ学習モデルに入力して異種グラフ内の各ノードのノード表現を生成し、異種グラフを複数のサブグラフに分割し、各サブグラフは、二つのタイプのノードと二つのタイプのノード間の一つのエッジタイプとを含み、複数のサブグラフに基づいて各ノードのノード表現を生成する。これにより、ノードタイプとエッジタイプとに基づいて異種グラフを複数のサブグラフに分割し、複数のサブグラフに基づいて各ノードのノード表現を生成することによって、異なるエッジタイプでの図の構造情報を取得することができ、異種グラフの構造情報が失われないことを確保し、異種グラフ内のノードの情報の完全性を確保することによって、ノード表現の精度を向上させる。
本願の実施例の可能な実現方式では、前記装置が、モデルトレーニングモジュールをさらに備え、複数のタイプのノードを含むサンプル異種グラフを取得し、前記サンプル異種グラフのトレーニングデータを取得し、前記サンプル異種グラフを複数のサンプルサブグラフに分割し、各サンプルサブグラフは、二つのタイプのノードと前記二つのタイプのノード間の一つのエッジタイプとを含み、前記複数のサンプルサブグラフにおける各ノードのノード表現をそれぞれ計算し、前記各ノードのノード表現と前記トレーニングデータとに基づいて前記異種グラフ学習モデルのパラメータをトレーニングするために用いられる。
本願の実施例の可能な実現方式では、前記モデルトレーニングモジュールは、具体的には、skipgramアルゴリズムによって前記各ノードのノード表現と前記トレーニングデータとに基づいて前記異種グラフ学習モデルのパラメータをトレーニングする。
本願の第3の態様の実施例は、少なくとも一つのプロセッサと、該少なくとも一つのプロセッサと通信可能に接続されたメモリと、を備える電子機器を提供し、前記メモリには、前記少なくとも一つのプロセッサによって実行可能な命令が記憶され、前記命令が、前記少なくとも一つのプロセッサによって実行されて、前記少なくとも一つのプロセッサが、上記の第1の態様の実施例に記載の異種グラフにおけるノード表現の生成方法を実行する。
本願の第4の態様の実施例は、コンピュータ命令が記憶されている非一時的なコンピュータ読み取り可能な記憶媒体を提供し、前記コンピュータ命令が、前記コンピュータに上記の第1の態様の実施例に記載の異種グラフにおけるノード表現の生成方法を実行させる。
上記の出願の一つの実施例は、以下のような利点または有益な効果を有する。
異種グラフを取得し、異種グラフを異種グラフ学習モデルに入力して異種グラフ内の各ノードのノード表現を生成し、異種グラフを複数のサブグラフに分割し、各サブグラフは、二つのタイプのノードと二つのタイプのノード間の一つのエッジタイプとを含み、複数のサブグラフに基づいて各ノードのノード表現を生成する。これにより、ノードタイプとエッジタイプとに基づいて異種グラフを複数のサブグラフに分割し、複数のサブグラフに基づいて各ノードのノード表現を生成することによって、異なるエッジタイプでの図の構造情報を取得することができ、異種グラフの構造情報が失われないことを確保し、異種グラフ内のノードの情報の完全性を確保することによって、ノード表現の精度を向上させる。ノードタイプとエッジタイプとに基づいて異種グラフを複数のサブグラフに分割し、複数のサブグラフに基づいて各ノードのノード表現を生成する技術的手段を採用するため、各エッジタイプのノードに対応する特徴情報がすべて保留されることによって、異種グラフの構造情報が失われないことを確保し、異種グラフ内のノードの情報の完全性を確保することによって、ノード表現の精度を向上させるため、従来技術でメタパスサンプリング方式を採用して異種グラフを同型グラフとしてトレーニングし、異種グラフの構造情報が失われ、生成されたノード表現の精度が低い課題を克服する。
上記の選択可能な方式が有する他の効果は、以下で、具体的な実施例を組み合わせて説明する。
図面は、本技術案をよりよく理解するために用いられ、本願を限定するものではない。
本願の第1の実施例に係る異種グラフにおけるノード表現の生成方法の概略フローチャートである。 エッジタイプとノードタイプとに基づいて異種グラフを複数のサブグラフに分割する例を示す図である。 メッセージ伝達プロセスの例を示す図である。 異なるサブグラフにおける同じノードを融合する例を示す図である。 本願の第2の実施例に係る異種グラフにおけるノード表現の生成方法の概略フローチャートである。 本願の第3の態様の実施例に係る異種グラフにおけるノード表現の生成方法の概略フローチャートである。 本願の第4の実施例に係る異種グラフにおけるノード表現の生成装置の概略構造図である。 本願の第5の実施例に係る異種グラフにおけるノード表現の生成装置の概略構造図である。 本願の実施例の異種グラフにおけるノード表現の生成方法を実現するための電子機器のブロック図である。
以下、図面を組み合わせて本願の例示的な実施例を説明し、理解を容易にするために、本願の実施例の様々な詳細事項を含んでおり、それらは単なる例示的なものと見なされるべきである。したがって、当業者は、本願の範囲及び精神から逸脱することなく、ここで説明される実施例に対して様々な変更と修正を行うことができることを認識されたい。同様に、明確及び簡潔のため、以下の説明では、周知の機能及び構造の説明を省略する。
以下、図面を参照して本願の異種グラフにおけるノード表現の生成方法、装置及び電子機器を説明する。
現実世界内の多数の問題は、すべてグラフモデル、すなわちノードとエッジの集合に抽象化することができ、知識グラフから確率グラフモデルまで、タンパク質相互作用ネットワークからソーシャルネットワークまで、基本的な論理回路から巨大なInternetまで、グラフとネットワークとはどこにもある。
現実世界には多数の異種グラフが存在し、これらの異種グラフには、様々なノードタイプとエッジタイプがある。現在、異種グラフノード表現学習についてでは、主流の方法は、メタパスサンプリングによって異なるウォーキングシーケンスを取得し、ウォーキングシーケンスをセンテンスシーケンスとしてword2vecなどのトレーニング方法によって、ウォーキングシーケンスをトレーニングしてグラフノードの表現を取得する。このような方式は、メタパスサンプリング後に異種グラフを同型グラフとしてトレーニングし、異種グラフの構造情報が失われるため、最終的に生成されたノード表現が正確ではない。
また、いくつかの学習方法があり、ノードのタイプの違いを考慮して、異種グラフ表現学習でノードタイプを区分するが、隣接ノードの情報伝達を計算する時、異種グラフに対して隣接行列全体を構築する必要があり、異種グラフ内のノード数が多い場合、構築された隣接行列は、大きなストレージスペースを占有し、隣接行列全体の計算と記憶のコストが大きい。
上記の問題に対して、本願は、異種グラフにおけるノード表現の生成方法を提供し、異種グラフをノードタイプとエッジタイプによって複数のサブグラフに分割することによって、各サブグラフに対してメッセージ集約のトレーニングを行うことで、異なるエッジタイプでの図の構造情報を取得することができ、構造情報の完全性を確保し、ノード表現の精度を向上させ、下流タスクの実現に有利であり、メッセージ伝達モードを採用してノード表現を行い、隣接行列全体を構築しない場合にノード表現を完了することができ、隣接行列を記憶するために必要なストレージスペースを低減し、隣接行列を計算して記憶するコストを削減する。
具体的には、図1は、本願の第1の実施例に係る異種グラフにおけるノード表現の生成方法の概略フローチャートであり、当該方法は、本願によって提供される異種グラフにおけるノード表現の生成装置によって実行することができ、電子機器によって実行することもでき、その中、電子機器は、サーバであってもよいし、デスクトップコンピュータ、ノートブックコンピュータなどの端末デバイスであってもよく、本願は、これに対して制限しない。以下、本願によって提供される異種グラフにおけるノード表現の生成装置で本願の異種グラフにおけるノード表現の生成方法を実行することを例として本願を説明する。
図1に示すように、当該異種グラフにおけるノード表現の生成方法は、以下のようなステップを含む。
ステップ101:複数のタイプのノードを含む異種グラフを取得する。
異種グラフは、下流タスクのニーズに応じて選択することができる。
例えば、下流タスクは、ネットワークプラットフォームのユーザに対してコミュニティ推奨を行い、異種グラフは、当該ネットワークプラットフォーム上のすべてのユーザのソーシャル行為、各ユーザ間の関係、ユーザとコミュニティとの間の関係などに基づいて構築されたグラフネットワークであり、ユーザのソーシャル行為は、例えば、公開された文章、他のユーザの文章に対して発表した評価、参加したコミュニティなどを含むことができ、当該異種グラフには、ユーザ、コミュニティ、記事、コメントなどの様々なタイプのノードを含む。
ステップ102:異種グラフを異種グラフ学習モデルに入力して異種グラフ内の各ノードのノード表現を生成する。
本実施例では、取得された異種グラフを異種グラフ学習モデルに入力し、当該異種グラフにおける各ノードのノード表現を生成することができる。
異種グラフ学習モデルは、以下のようなステップによって異種グラフにおける各ノードのノード表現を生成する。
step1:異種グラフを複数のサブグラフに分割し、各サブグラフは、二つのタイプのノードと二つのタイプのノード間の一つのエッジタイプとを含み、
step2:複数のサブグラフに基づいて各ノードのノード表現を生成する。
本実施例では、異種グラフ学習モデルを使用して異種グラフにおける各ノードの表現を生成する時、先にノードタイプとエッジタイプとに基づいて入力された異種グラフを複数のサブグラフに分割し、次に、複数のサブグラフに基づいて各ノードのノード表現を生成する。
異種グラフをサブグラフに分割する数は、エッジタイプの種類と一致するべきであることを理解されたい。
例えば、図2は、エッジタイプとノードタイプとに基づいて異種グラフを複数のサブグラフに分割する例を示す図である。図2において、下の図は、3種類のノードタイプと4種類のエッジタイプとを含む一つの完全な異種グラフであり、3種類のノードタイプは、それぞれ主題(subject)、文章(paper)、及び著者(author)であり、4種類のエッジタイプは、それぞれpaperに対するsubjectの関係(has)、subjectに対するpaperの関係(is about)、authorに対するpaperの関係(written by)、及びpaperに対するauthorの関係(writing)である。異なるノードタイプの特徴が異なる可能性があることを考慮して、異なるノードタイプのノード表現を学習するために、本実施例では、異種グラフに含まれるノードタイプ及びエッジタイプに基づいて、当該異種グラフを四つのサブグラフに分割し、図2に示す上記の図に示す。分割された四つのサブグラフについて、その中のノードに対してそれぞれ表し、その後、複数のサブグラフに基づいて各ノードのノード表現を生成することができる。
本実施例では、各サブグラフ内のノードを表す時、メッセージ伝達モードによって、ソースノードの特徴をターゲットノードに伝達し、ソースノードの特徴を利用してターゲットノードを表し、ターゲットノードに対応するノード表現を生成する。
図3は、メッセージ伝達プロセスの例を示す図である。図3に示すように、サブグラフ内の各ノードについて、その特徴は既知であり、ストレージスペースに予め記憶されており、図3において、u~uは、ノード0~3の特徴をそれぞれ表し、index select操作によって、サブグラフ内の各ソースノードのIDに基づいて対応する特徴をインデックスし、メッセージテンソルを取得し、メッセージテンソルは、図内のエッジの分布状況に従って対応するソースノードの特徴を送信することができる。次に、各ターゲットノードについて、対応するソースノードの特徴に基づいて当該ターゲットノードのノード表現を生成することができる。例えば、ノード2について、ノード2をターゲットノードとする場合、対応するソースノードは、ノード1とノード3であり、ノード1の特徴uとノード3の特徴uを使用して、ノード2のノード表現hを生成する。図3において、h~hは、ノード0~ノード3のノード表現をそれぞれ表す。図3から分かるように、ノード3は隣接するソースノードがない場合、ノード3の表現は、ソースノードの特徴を使用して更新できず、hは、それ自体の特徴uである。
異種グラフは、複数のサブグラフに分割されるため、同一つのノードは、異なるサブグラフで異なる表現を生成し、例えば、図2では、サブグラフ1とサブグラフ4には、いずれもノードpaper0が含まれているが、サブグラフ1とサブグラフ4内のエッジタイプが異なるため、ノードpaper0は、サブグラフ1とサブグラフ4で異なる表現を生成する。本実施例では、異なるエッジタイプの情報を融合するために、分割された各サブグラフについて、サブグラフ内のノードの表現を取得した後、複数のサブグラフに基づいて各ノード最終的なノード表現を生成することができる。
具体的には、同じノードについて、関連するメッセージ集約方式を採用して、当該ノードの異なるサブグラフにおける表現を融合することができ、例えば、行列乗算などの方式によって異なるサブグラフ内の同じノードの表現を融合し、当該ノード最終的なノード表現を取得することができる。
図4は、異なるサブグラフにおける同じノードを融合する例を示す図である。図4に示すように、図4の左図の異種グラフは、2種類のエッジタイプ(それぞれ黒線と灰色線で表す)を含み、この2種類のエッジタイプに基づいて、異種グラフを二つのサブグラフ、すなわち図4のサブグラフAとサブグラフBに分割し、サブグラフAでは、ノードb1~b3は、自体の特徴をノードa1に伝達し、サブグラフA内のノードa1のノード表現を生成し、サブグラフBでは、ノードc1~c2は、自体の特徴をノードa1に伝達し、サブグラフB内のノードa1のノード表現を生成し、その後、サブグラフAとサブグラフB内のノードa1の二つの表現を集約し、異種グラフ内のノードa1の最終的な表現を取得する。
本実施例の異種グラフにおけるノード表現の生成方法は、異種グラフを取得し、異種グラフを異種グラフ学習モデルに入力して異種グラフ内の各ノードのノード表現を生成し、異種グラフを複数のサブグラフに分割し、各サブグラフは、二つのタイプのノードと二つのタイプのノード間の一つのエッジタイプとを含み、複数のサブグラフに基づいて各ノードのノード表現を生成する。これにより、ノードタイプとエッジタイプとに基づいて異種グラフを複数のサブグラフに分割し、複数のサブグラフに基づいて各ノードのノード表現を生成することによって、異なるエッジタイプでの図の構造情報を取得することができ、異種グラフの構造情報が失われないことを確保し、異種グラフ内のノードの情報の完全性を確保することによって、ノード表現の精度を向上させる。
図5は、本願の第2の実施例に係る異種グラフにおけるノード表現の生成方法の概略フローチャートである。図5に示すように、本願の実施例の異種グラフにおけるノード表現の生成方法は、複数のサブグラフに基づいて各ノードのノード表現を生成する時、以下のようなステップによって実現することができる。
ステップ201:i番目のノードの、それぞれの複数のサブグラフにおけるM個の第1のノード表現を取得し、i及びMは正の整数である。
iは、異種グラフに含まれるi番目のノードであり、iは正の整数であり、iは、異種グラフに含まれるノードの総数以下であり、Mの値は、i番目のノードを含むサブグラフの数と一致する。
可能な実現方式として、i番目のノードの、それぞれの複数のサブグラフにおけるM個の第1のノード表現を取得する時、i番目のノードがあるM個のサブグラフを取得し、i番目のノードのj番目のサブグラフにおける隣接ノードを取得し、jは、M以下の正の整数であり、隣接ノードの特徴を取得してi番目のノードのj番目のサブグラフにおける第1のノード表現を生成し、i番目のノードの、M個のサブグラフにおける他のサブグラフの第1のノード表現を順次に計算することができる。
本実施例では、分割された複数のサブグラフから、i番目のノードを含むすべてのサブグラフを取得して、M個のサブグラフとし、各サブグラフについて、i番目のノードの当該サブグラフ内の隣接ノードを取得し、且つ隣接ノードの特徴を取得し、隣接ノードの特徴を利用してi番目のノードの当該サブグラフ内の第1のノード表現を生成する。M個のサブグラフについて、上記の方式を採用してi番目のノードの各サブグラフ内の第1のノード表現を計算し、i番目のノードのM個の第1のノード表現を取得する。
ステップ202:M個の第1のノード表現を集約してi番目のノードのノード表現を生成する。
本実施例では、i番目のノードのM個のサブグラフ内のM個の第1のノード表現を取得した後、関連する集約アルゴリズムを採用して、M個の第1のノード表現を集約して、i番目のノードの異種グラフ内のノード表現を生成することができる。
本実施例の異種グラフにおけるノード表現の生成方法は、i番目のノードのそれぞれの複数のサブグラフにおけるM個の第1のノード表現を取得し、M個の第1のノード表現を集約してi番目のノードのノード表現を生成することによって、同じノードの異なるエッジタイプでの第1のノード表現を一緒に融合することを実現し、ノードの異なるエッジタイプでのノード表現を実現し、構造情報の完全性を確保する。
本願の実施例では、異種グラフ学習モデルを使用して異種グラフにおける各ノードのノード表現を生成できるために、先に異種グラフ学習モデルをトレーニングする必要があり、以下、図6を組み合わせて異種グラフ学習モデルのトレーニングプロセスを詳細に説明する。
図6は、本願の第3の態様の実施例に係る異種グラフにおけるノード表現の生成方法の概略フローチャートである。図6に示すように、本願の実施例では、異種グラフ学習モデルのトレーニングプロセスは、以下のようなステップを含む。
ステップ301:サンプル異種グラフを取得し、サンプル異種グラフは、複数のタイプのノードを含む。
ステップ302:サンプル異種グラフのトレーニングデータを取得する。
可能な実現方式として、metapathサンプリングの方式によって、サンプル異種グラフのトレーニングデータを取得することができる。
各サンプル異種グラフについて、対応するmetapathを予め定義し、次に、定義されたmetapathに基づいて、metapath定義されたサンプリング順序とサンプリングノードのシーケンス番号で、サンプル異種グラフのトレーニングデータを取得することができる。
トレーニングデータは、サンプリング対象のノードのIDを含むが、これらに限定されない。
ステップ303:サンプル異種グラフを複数のサンプルサブグラフに分割し、各サンプルサブグラフは、二つのタイプのノードと二つのタイプのノード間の一つのエッジタイプとを含む。
本実施例では、サンプル異種グラフに含まれるノードタイプとエッジタイプとに基づいてサンプル異種グラフを分割し、サンプル異種グラフを複数のサンプルサブグラフに分割する。
ステップ304:複数のサンプルサブグラフにおける各ノードのノード表現をそれぞれ計算する。
本実施例では、サンプル異種グラフを複数のサンプルサブグラフに分割した後、各サンプルサブグラフについて、サンプルサブグラフ内の各ノードのノード表現を計算することができる。
なお、サンプルサブグラフ内の各ノードのノード表現を計算する時、ノードの隣接ノードの特徴を利用してノードのノード表現を更新することができ、その具体的なプロセスは、図3に示すようなメッセージ伝達プロセスを参照することができ、ここでは省略する。
ステップ305:各ノードのノード表現とトレーニングデータとに基づいて異種グラフ学習モデルのパラメータをトレーニングする。
本実施例では、異種グラフ学習モデルのパラメータをトレーニングする時、まず、トレーニングデータに基づいて、各ノードのノード表現から、トレーニングデータ内のサンプリング対象のノードのIDに対応するノード表現をインデックス化し、ノード表現を使用して異種グラフ学習モデルのパラメータをトレーニングし、異種グラフ学習モデルのパラメータを更新することができる。
例えば、図2に示す異種グラフ及び各サブグラフについて、定義されたmetapathが「subject-paper-author-paper-subject」であると仮定すると、トレーニングデータには、サブグラフsubject-paper、サブグラフpaper-author、サブグラフauthor-paper、及びサブグラフpaper-subject内の各ノードのIDが含まれる可能性があり、さらに、異種グラフ学習モデルのパラメータをトレーニングする時、トレーニングデータに基づいて、まず、サブグラフsubject-paperをサンプリングし、次に、サブグラフpaper-authorをサンプリングし、その後、author-paperのサブグラフをサンプリングし、最後に、paper-subjectのサブグラフをサンプリングし、各サブグラフ内の各ノードのノード表現を取得し、各ノードのノード表現を使用して異種グラフ学習モデルのパラメータをトレーニングする。
可能な実現方式として、skipgramアルゴリズムによって(勾配降下アルゴリズム)各ノードのノード表現とトレーニングデータとに基づいて異種グラフ学習モデルのパラメータをトレーニングすることができる。
異種グラフ学習モデルのパラメータをトレーニングするプロセスは、連続的に反復するプロセスであり、異種グラフ学習モデルのターゲット関数を計算することによって、異種グラフ学習モデルが収束するまで、異種グラフ学習モデルのパラメータを連続的に更新し、モデルのトレーニングが完了することを理解されたい。
本実施例の異種グラフにおけるノード表現の生成方法は、サンプル異種グラフとサンプル異種グラフのトレーニングデータを取得し、サンプル異種グラフを複数のサンプルサブグラフに分割し、各サンプルサブグラフは、二つのタイプのノードと二つのタイプのノード間の一つのエッジタイプとを含み、複数のサンプルサブグラフにおける各ノードのノード表現をそれぞれ計算し、さらに、各ノードのノード表現とトレーニングデータとに基づいて異種グラフ学習モデルのパラメータをトレーニングすることによって、サンプル異種グラフをエッジタイプとノードタイプによって複数のサンプルサブグラフに分割してそれぞれのメッセージ集約のトレーニングを行うことを実現し、異なるエッジタイプでの図の構造情報を取得することができ、構造情報の完全性を確保し、下流タスクの実現に有利であり、メッセージ伝達モードを採用してノード表現を行い、隣接行列全体が構築しないでノード表現を完了することができ、隣接行列を記憶するために必要なストレージスペースを低減することができる。
本願の実施例によれば、本願は、異種グラフにおけるノード表現の生成装置をさらに提供する。
図7は、本願の第4の実施例に係る異種グラフにおけるノード表現の生成装置の概略構造図である。図7に示すように、当該異種グラフにおけるノード表現の生成装置50は、取得モジュール510と生成モジュール520とを含む。
取得モジュール510は、複数のタイプのノードを含む異種グラフを取得する。
生成モジュール520は、異種グラフを異種グラフ学習モデルに入力して異種グラフ内の各ノードのノード表現を生成するために用いられ、異種グラフ学習モデルは、異種グラフを複数のサブグラフに分割するステップであって、各サブグラフは、二つのタイプのノードと二つのタイプのノード間の一つのエッジタイプとを含むステップと、複数のサブグラフに基づいて各ノードのノード表現を生成するステップによって各ノードのノード表現を生成する。
さらに、本願の実施例の可能な実現方式では、生成モジュール520異種グラフ学習モデルを使用して、複数のサブグラフに基づいて各ノードのノード表現を生成する時、具体的には、i番目のノードの、それぞれの複数のサブグラフにおけるM個の第1のノード表現を取得するステップであって、i及びMは正の整数であるステップと、M個の第1のノード表現を集約してi番目のノードのノード表現を生成するステップと、を含む。
i番目のノードがあるM個のサブグラフを取得し、i番目のノードのj番目のサブグラフにおける隣接ノードを取得し、jは、M以下の正の整数であるステップと、隣接ノードの特徴を取得してi番目のノードのj番目のサブグラフにおける第1のノード表現を生成し、i番目のノードの、M個のサブグラフにおける他のサブグラフの第1のノード表現を順次に計算して、i番目のノードの、それぞれの複数のサブグラフにおけるM個の第1のノード表現を取得する。
本願の実施例の可能な実現方式では、図8に示すように、図7に示すような実施例に基づいて、当該異種グラフにおけるノード表現の生成装置は、モデルトレーニングモジュール500をさらに含む。
モデルトレーニングモジュール500は、複数のタイプのノードを含むサンプル異種グラフを取得し、前記サンプル異種グラフのトレーニングデータを取得し、前記サンプル異種グラフを複数のサンプルサブグラフに分割し、各サンプルサブグラフは、二つのタイプのノードと前記二つのタイプのノード間の一つのエッジタイプとを含み、前記複数のサンプルサブグラフにおける各ノードのノード表現をそれぞれ計算し、前記各ノードのノード表現と前記トレーニングデータとに基づいて前記異種グラフ学習モデルのパラメータをトレーニングする。
本願の実施例の可能な実現方式では、モデルトレーニングモジュール500は、具体的には、skipgramアルゴリズムによって前記各ノードのノード表現と前記トレーニングデータとに基づいて前記異種グラフ学習モデルのパラメータをトレーニングする。
なお、上記の異種グラフにおけるノード表現の生成方法の実施例に対する説明は、本願の実施例の異種グラフにおけるノード表現の生成装置にも適用され、その実現原理は類似し、ここでは省略する。
本願の実施例の異種グラフにおけるノード表現の生成装置は、異種グラフを取得し、異種グラフを異種グラフ学習モデルに入力して異種グラフ内の各ノードのノード表現を生成し、異種グラフを複数のサブグラフに分割し、各サブグラフは、二つのタイプのノードと二つのタイプのノード間の一つのエッジタイプとを含み、複数のサブグラフに基づいて各ノードのノード表現を生成する。これにより、ノードタイプとエッジタイプとに基づいて異種グラフを複数のサブグラフに分割し、複数のサブグラフに基づいて各ノードのノード表現を生成することによって、異なるエッジタイプでの図の構造情報を取得することができ、異種グラフの構造情報が失われないことを確保し、異種グラフ内のノードの情報の完全性を確保することによって、ノード表現の精度を向上させる。
本願の実施例によれば、本願は、電子機器及び読み取り可能な記憶媒体をさらに提供する。
図9に示すように、本願の実施例の異種グラフにおけるノード表現の生成方法を実現するための電子機器のブロック図である。電子機器は、ラップトップコンピュータ、デスクトップコンピュータ、ワークステーション、パーソナルデジタルアシスタント、サーバ、ブレードサーバ、大型コンピュータ、及び他の適切なコンピュータなどの様々な形式のデジタルコンピュータを表すことを目的とする。電子機器は、パーソナルデジタル処理、携帯電話、スマートフォン、ウェアラブルデバイス、他の同様のコンピューティングデバイスなどの様々な形式のモバイルデバイスを表すこともできる。本明細書で示されるコンポーネント、それらの接続と関係、及びそれらの機能は単なる例であり、本明細書の説明及び/または要求される本願の実現を制限することを意図したものではない。
図9に示すように、当該電子機器は、一つまたは複数のプロセッサ701と、メモリ702と、高速インターフェースと低速インターフェースを含む各コンポーネントを接続するためのインターフェースと、を備える。各コンポーネントは、異なるバスで相互に接続され、共通のマザーボードに取り付けられるか、または必要に応じて他の方式で取り付けることができる。プロセッサ701は、外部入力/出力装置(インターフェースに結合されたディスプレイデバイスなど)にGUIの図形情報をディスプレイするためにメモリ702に記憶されている命令を含む、電子機器内に実行される命令を処理することができる。他の実施方式では、必要であれば、複数のプロセッサ及び/または複数のバスを、複数のメモリとともに使用することができる。同様に、複数の電子機器を接続することができ、各機器は、例えば、サーバアレイ、ブレードサーバ、またはマルチプロセッサシステムなどの部分的な必要な操作を提供することができる。図9では、一つのプロセッサ701を例とする。
メモリ702は、本願の実施例により提供される非一時的なコンピュータ読み取り可能な記憶媒体である。その中、前記メモリ702には、少なくとも一つのプロセッサ701によって実行される命令を記憶して、前記少なくとも一つのプロセッサが本願により提供される異種グラフにおけるノード表現の生成方法を実行することができるようにする。本願の非一時的なコンピュータ読み取り可能な記憶媒体は、コンピュータが本願の実施例により提供される異種グラフにおけるノード表現の生成方法を実行するためのコンピュータ命令を記憶する。
メモリ702は、非一時的なコンピュータ読み取り可能な記憶媒体として、本願の実施例における異種グラフにおけるノード表現の生成方法に対応するプログラム命令/モジュール、非一時的なソフトウェアプログラム、非一時的なコンピュータ実行可能なプログラム及びモジュールを記憶するために用いられ、例えば、図7に示す取得モジュール510、及び生成モジュール520である。プロセッサ701は、メモリ702に記憶されている非一時的なソフトウェアプログラム、命令及びモジュールを実行することによって、サーバの様々な機能アプリケーション及びデータ処理を実行し、すなわち上記の方法の実施例における異種グラフにおけるノード表現の生成方法を実現する。
メモリ702は、ストレージプログラム領域とストレージデータ領域とを含むことができ、その中、ストレージプログラム領域は、オペレーティングシステム、少なくとも一つの機能に必要なアプリケーションプログラムを記憶することができ、ストレージデータ領域は、異種グラフにおけるノード表現の生成方法を実現するための電子機器の使用によって作成されたデータなどを記憶することができる。また、メモリ702は、高速ランダムアクセス可能メモリを含むことができ、非一時的なメモリをさらに含むことができ、例えば、少なくとも一つのディスクストレージデバイス、フラッシュメモリデバイス、または他の非一時的なソリッドステートストレージデバイスである。いくつかの実施例では、メモリ702は、プロセッサ701に対して遠隔に設置されたメモリを含むことができ、これらの遠隔メモリは、ネットワークを介して本願の実施例の異種グラフにおけるノード表現の生成方法を実現するための電子機器に接続されることができる。上記のネットワークの例は、インターネット、イントラネット、ローカルエリアネットワーク、モバイル通信ネットワーク、及びその組み合わせを含むが、これらに限定しない。
異種グラフにおけるノード表現の生成方法を実現するための電子機器は、入力装置703と出力装置704とをさらに備えることができる。プロセッサ701、メモリ702、入力装置703、及び出力装置704は、バスまたは他の方式を介して接続することができ、図9では、バスを介して接続することを例とする。
入力装置703は、入力された数字または文字情報を受信することができ、及び異種グラフにおけるノード表現の生成方法を実現するための電子機器のユーザ設置及び機能制御に関するキー信号入力を生成することができ、例えば、タッチスクリーン、キーパッド、マウス、トラックパッド、タッチパッド、指示ロッド、一つまたは複数のマウスボタン、トラックボール、ジョイスティックなどの入力装置である。出力装置704は、ディスプレイデバイス、補助照明デバイス(例えば、LED)、及び触覚フィードバックデバイス(例えば、振動モータ)などを含むことができる。当該ディスプレイデバイスは、液晶ディスプレイ(LCD)、発光ダイオード(LED)ディスプレイ、及びプラズマディスプレイを含むことができるが、これらに限定しない。いくつかの実施方式では、ディスプレイデバイスは、タッチスクリーンであってもよい。
本明細書で説明されるシステムと技術の様々な実施方式は、デジタル電子回路システム、集積回路システム、特定用途向けASIC(特定用途向け集積回路)、コンピュータハードウェア、ファームウェア、ソフトウェア、及び/またはそれらの組み合わせで実現することができる。これらの様々な実施方式は、一つまたは複数のコンピュータプログラムで実施されることを含むことができ、当該一つまたは複数のコンピュータプログラムは、少なくとも一つのプログラマブルプロセッサを含むプログラム可能なシステムで実行及び/または解釈されることができ、当該プログラマブルプロセッサは、特定用途向けまたは汎用プログラマブルプロセッサであってもよく、ストレージシステム、少なくとも一つの入力装置、及び少なくとも一つの出力装置からデータ及び命令を受信し、データ及び命令を当該ストレージシステム、当該少なくとも一つの入力装置、及び当該少なくとも一つの出力装置に伝送することができる。
これらのコンピューティングプログラム(プログラム、ソフトウェア、ソフトウェアアプリケーション、またはコードとも呼ばれる)は、プログラマブルプロセッサの機械命令、高レベルのプロセス及び/またはオブジェクト指向プログラミング言語、及び/またはアセンブリ/機械言語でこれらのコンピューティングプログラムを実施することを含む。本明細書に使用されるように、「機械読み取り可能な媒体」及び「コンピュータ読み取り可能な媒体」は、機械命令及び/またはデータをプログラマブルプロセッサに提供するために使用される任意のコンピュータプログラム製品、機器、及び/または装置(例えば、磁気ディスク、光ディスク、メモリ、プログラマブルロジックデバイス(PLD))を指し、機械読み取り可能な信号である機械命令を受信する機械読み取り可能な媒体を含む。「機械読み取り可能な信号」は、機械命令及び/またはデータをプログラマブルプロセッサに提供するための任意の信号を指す。
ユーザとのインタラクションを提供するために、コンピュータ上でここで説明されているシステム及び技術を実施することができ、当該コンピュータは、ユーザに情報を表示するためのディスプレイ装置(例えば、CRT(陰極線管)またはLCD(液晶ディスプレイ)モニタ)と、キーボード及びポインティングデバイス(例えば、マウスまたはトラックボール)とを有し、ユーザは、当該キーボード及び当該ポインティングデバイスによって入力をコンピュータに提供することができる。他の種類の装置は、ユーザとのインタラクションを提供するために用いられることもでき、例えば、ユーザに提供されるフィードバックは、任意の形式のセンシングフィードバック(例えば、視覚フィードバック、聴覚フィードバック、または触覚フィードバック)であってもよく、任意の形式(音響入力と、音声入力と、触覚入力とを含む)でユーザからの入力を受信することができる。
ここで説明されるシステム及び技術は、バックエンドコンポーネントを含むコンピューティングシステム(例えば、データサーバ側とする)、またはミドルウェアコンポーネントを含むコンピューティングシステム(例えば、アプリケーションサーバ側)、またはフロントエンドコンポーネントを含むコンピューティングシステム(例えば、グラフィカルユーザインタフェースまたはウェブブラウザを有するユーザコンピュータ、ユーザは、当該グラフィカルユーザインタフェースまたは当該ウェブブラウザによってここで説明されるシステム及び技術の実施方式とインタラクションする)、またはこのようなバックエンドコンポーネントと、ミドルウェアコンポーネントと、フロントエンドコンポーネントの任意の組み合わせを含むコンピューティングシステムで実施することができる。任意の形式または媒体のデジタルデータ通信(例えば、通信ネットワーク)によってシステムのコンポーネントを相互に接続されることができる。通信ネットワークの例は、ローカルエリアネットワーク(LAN)と、ワイドエリアネットワーク(WAN)と、インターネットとを含む。
コンピュータシステムは、クライアントとサーバとを備えることができる。クライアントとサーバは、一般に、互いに離れており、通常に通信ネットワークを介してインタラクションする。対応するコンピュータ上で実行され、互いにクライアント-サーバ関係を有するコンピュータプログラムによってクライアントとサーバとの関係が生成される。
上記に示される様々な形式のフローを使用して、ステップを並べ替え、追加、または削除することができることを理解されたい。例えば、本願に記載されている各ステップは、並列に実行されてもよいし、順次的に実行されてもよいし、異なる順序で実行されてもよいが、本願で開示されている技術案が所望の結果を実現することができれば、本明細書では限定されない。
上記の具体的な実施方式は、本願に対する保護範囲の制限を構成するものではない。当業者は、設計要求と他の要因に応じて、様々な修正、組み合わせ、サブコンビネーション、及び代替を行うことができる。任意の本願の思想と原理で行われる修正、同等の置換、及び改善などは、いずれも本願の保護範囲内に含まれなければならない。

Claims (11)

  1. 複数のタイプのノードを含む異種グラフを取得するステップと、
    前記異種グラフを異種グラフ学習モデルに入力して前記異種グラフ内の各ノードのノード表現を生成するステップと、を含み、
    前記異種グラフ学習モデルが、
    ノードタイプとエッジタイプとに基づいて、前記異種グラフを複数のサブグラフに分割するステップであって、各サブグラフが、二つのタイプのノードと前記二つのタイプのノード間の一つのエッジタイプとを含むステップと、
    前記複数のサブグラフに基づいて各前記ノードのノード表現を生成するステップと、
    によって前記各ノードのノード表現を生成する、異種グラフにおけるノード表現の生成方法。
  2. 前記複数のサブグラフに基づいて各前記ノードのノード表現を生成するステップが、
    i番目の前記ノードの、それぞれの前記複数のサブグラフにおけるM個の第1のノード表現を取得するステップであって、i及びMは正の整数であるステップと、
    前記M個の第1のノード表現を集約して前記i番目の前記ノードのノード表現を生成するステップと、
    を含む請求項1に記載の異種グラフにおけるノード表現の生成方法。
  3. 前記i番目の前記ノードの、それぞれの前記複数のサブグラフにおけるM個の第1のノード表現を取得するステップが、
    前記i番目のノードがあるM個のサブグラフを取得するステップと、
    前記i番目のノードの、j番目のサブグラフにおける隣接ノードを取得するステップであって、jは、M以下の正の整数であるステップと、
    前記隣接ノードの特徴を取得して前記i番目のノードの、前記j番目のサブグラフにおける第1のノード表現を生成し、前記i番目のノードの、前記M個のサブグラフにおける他のサブグラフの第1のノード表現を順次に計算するステップと、
    を含む請求項2に記載の異種グラフにおけるノード表現の生成方法。
  4. 前記異種グラフ学習モデルが、
    複数のタイプのノードを含むサンプル異種グラフを取得するステップと、
    前記サンプル異種グラフのトレーニングデータを取得するステップと、
    前記サンプル異種グラフを複数のサンプルサブグラフに分割するステップであって、各サンプルサブグラフは、二つのタイプのノードと前記二つのタイプのノード間の一つのエッジタイプとを含むステップと、
    前記複数のサンプルサブグラフにおける各ノードのノード表現をそれぞれ計算するステップと、
    前記各ノードのノード表現と前記トレーニングデータとに基づいて前記異種グラフ学習モデルのパラメータをトレーニングするステップと、
    によって生成される請求項1に記載の異種グラフにおけるノード表現の生成方法。
  5. skipgramアルゴリズムによって、前記各ノードのノード表現と前記トレーニングデータとに基づいて前記異種グラフ学習モデルのパラメータをトレーニングする請求項4に記載の異種グラフにおけるノード表現の生成方法。
  6. 複数のタイプのノードを含む異種グラフを取得するための取得モジュールと、
    前記異種グラフを異種グラフ学習モデルに入力して前記異種グラフ内の各ノードのノード表現を生成するための生成モジュールと、
    を備え、
    前記異種グラフ学習モデルが、
    ノードタイプとエッジタイプとに基づいて、前記異種グラフを複数のサブグラフに分割するステップであって、各サブグラフは、二つのタイプのノードと前記二つのタイプのノード間の一つのエッジタイプとを含むステップと、
    前記複数のサブグラフに基づいて各前記ノードのノード表現を生成するステップと、
    によって前記各ノードのノード表現を生成する、異種グラフにおけるノード表現の生成装置。
  7. モデルトレーニングモジュールを備え、
    該モデルトレーニングモジュールが、
    複数のタイプのノードを含むサンプル異種グラフを取得し、
    前記サンプル異種グラフのトレーニングデータを取得し、
    前記サンプル異種グラフを複数のサンプルサブグラフに分割し、各サンプルサブグラフは、二つのタイプのノードと前記二つのタイプのノード間の一つのエッジタイプとを含み、
    前記複数のサンプルサブグラフにおける各ノードのノード表現をそれぞれ計算し、
    前記各ノードのノード表現と前記トレーニングデータとに基づいて前記異種グラフ学習モデルのパラメータをトレーニングする請求項6に記載の異種グラフにおけるノード表現の生成装置。
  8. 前記モデルトレーニングモジュールが、skipgramアルゴリズムによって、前記各ノードのノード表現と前記トレーニングデータとに基づいて前記異種グラフ学習モデルのパラメータをトレーニングする請求項7に記載の異種グラフにおけるノード表現の生成装置。
  9. 少なくとも一つのプロセッサと、
    該少なくとも一つのプロセッサと通信可能に接続されたメモリと、
    を備え、
    前記メモリには、前記少なくとも一つのプロセッサによって実行可能な命令が記憶され、前記命令が、前記少なくとも一つのプロセッサによって実行される場合、前記少なくとも一つのプロセッサが、請求項1から5のいずれか一項に記載の異種グラフにおけるノード表現の生成方法を実行する電子機器。
  10. コンピュータ命令が記憶されている非一時的なコンピュータ読み取り可能な記憶媒体であって、
    前記コンピュータ命令が、前記コンピュータに請求項1から5のいずれか一項に記載の異種グラフにおけるノード表現の生成方法を実行させる非一時的なコンピュータ読み取り可能な記憶媒体。
  11. コンピュータ上で動作する際、前記コンピュータが請求項1から5のいずれか一項に記載の異種グラフにおけるノード表現の生成方法を実行するコンピュータプログラム。
JP2020117636A 2019-12-26 2020-07-08 異種グラフにおけるノード表現の生成方法、装置及び電子機器 Active JP7058304B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201911370733.3 2019-12-26
CN201911370733.3A CN111144577B (zh) 2019-12-26 2019-12-26 异构图之中节点表示的生成方法、装置和电子设备

Publications (2)

Publication Number Publication Date
JP2021105980A JP2021105980A (ja) 2021-07-26
JP7058304B2 true JP7058304B2 (ja) 2022-04-21

Family

ID=70520609

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020117636A Active JP7058304B2 (ja) 2019-12-26 2020-07-08 異種グラフにおけるノード表現の生成方法、装置及び電子機器

Country Status (3)

Country Link
US (1) US20210201198A1 (ja)
JP (1) JP7058304B2 (ja)
CN (1) CN111144577B (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111708922A (zh) * 2020-06-19 2020-09-25 北京百度网讯科技有限公司 用于表示异构图节点的模型生成方法及装置
CN111860403A (zh) * 2020-07-28 2020-10-30 商汤国际私人有限公司 场景信息的检测方法和装置、电子设备
US20220067186A1 (en) * 2020-09-02 2022-03-03 Cookie.AI, Inc. Privilege graph-based representation of data access authorizations
US11769048B2 (en) * 2020-09-15 2023-09-26 Microsoft Technology Licensing, Llc Recommending edges via importance aware machine learned model
CN112580716B (zh) * 2020-12-16 2023-07-11 北京百度网讯科技有限公司 图谱中边类型的识别方法、装置、设备及存储介质
CN113408297B (zh) * 2021-06-30 2023-08-18 北京百度网讯科技有限公司 生成节点表示的方法、装置、电子设备和可读存储介质
CN115564013B (zh) * 2021-08-09 2024-02-09 中山大学 提高网络表示学习表示能力的方法、模型训练方法和系统
CN113656927B (zh) * 2021-10-20 2022-02-11 腾讯科技(深圳)有限公司 数据处理方法、相关设备及计算机存储介质
WO2024000187A1 (en) * 2022-06-28 2024-01-04 Intel Corporation Deep learning workload sharding on heterogeneous devices
CN115809686B (zh) * 2023-02-03 2023-06-16 中国科学技术大学 提升循环图结构数据处理系统处理效率方法、设备及介质
CN116108204B (zh) * 2023-02-23 2023-08-29 广州世纪华轲科技有限公司 基于知识图谱融合多维嵌套泛化模式的作文评语生成方法
CN116304066B (zh) * 2023-05-23 2023-08-22 中国人民解放军国防科技大学 一种基于提示学习的异质信息网络节点分类方法
CN116757262B (zh) * 2023-08-16 2024-01-12 苏州浪潮智能科技有限公司 图神经网络的训练方法、分类方法、装置、设备及介质

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140172810A1 (en) 2012-12-13 2014-06-19 Marcus Paradies Graph Traversal Operator Inside a Column Store

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10003985B1 (en) * 2012-01-23 2018-06-19 Hrl Laboratories, Llc System and method for determining reliability of nodes in mobile wireless network
US20140067758A1 (en) * 2012-08-28 2014-03-06 Nokia Corporation Method and apparatus for providing edge-based interoperability for data and computations
US9195941B2 (en) * 2013-04-23 2015-11-24 International Business Machines Corporation Predictive and descriptive analysis on relations graphs with heterogeneous entities
CN106778894A (zh) * 2016-12-29 2017-05-31 大连理工大学 一种学术异构信息网络中作者合作关系预测的方法
CN107451613A (zh) * 2017-07-31 2017-12-08 广州市香港科大霍英东研究院 异构信息网络的半监督学习方法及装置
CN108280755A (zh) * 2018-02-28 2018-07-13 阿里巴巴集团控股有限公司 可疑洗钱团伙的识别方法和识别装置
CN110555050B (zh) * 2018-03-30 2023-03-31 华东师范大学 一种基于元路径的异构网络节点表示学习方法
CN109918454B (zh) * 2019-02-22 2024-02-06 创新先进技术有限公司 对关系网络图进行节点嵌入的方法及装置
US11163803B2 (en) * 2019-04-29 2021-11-02 Adobe Inc. Higher-order graph clustering
US11651194B2 (en) * 2019-11-27 2023-05-16 Nvidia Corp. Layout parasitics and device parameter prediction using graph neural networks

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140172810A1 (en) 2012-12-13 2014-06-19 Marcus Paradies Graph Traversal Operator Inside a Column Store

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
ADHIKARI Bijaya et al.,Distributed Representations of Subgraphs,2017 IEEE International Conference on Data Mining Workshops (ICDMW) [online],2017年,pp.111-117,[2021年8月25日検索], インターネット<URL: https://ieeexplore.ieee.org/abstract/document/8215651>

Also Published As

Publication number Publication date
JP2021105980A (ja) 2021-07-26
CN111144577B (zh) 2022-04-22
CN111144577A (zh) 2020-05-12
US20210201198A1 (en) 2021-07-01

Similar Documents

Publication Publication Date Title
JP7058304B2 (ja) 異種グラフにおけるノード表現の生成方法、装置及び電子機器
JP7166322B2 (ja) モデルを訓練するための方法、装置、電子機器、記憶媒体およびコンピュータプログラム
KR102484617B1 (ko) 이종 그래프 노드를 표현하는 모델 생성 방법, 장치, 전자 기기, 저장 매체 및 프로그램
JP7170082B2 (ja) 情報を生成するための方法及び装置、電子機器、記憶媒体並びにコンピュータプログラム
JP7369740B2 (ja) 検索語の推薦方法と装置、目的モデルの訓練方法と装置、電子デバイス、記憶媒体、及びプログラム
CN111079442B (zh) 文档的向量化表示方法、装置和计算机设备
JP7269913B2 (ja) ナレッジグラフ構築方法、装置、電子機器、記憶媒体およびコンピュータプログラム
US20210374343A1 (en) Method and apparatus for obtaining word vectors based on language model, device and storage medium
US11573992B2 (en) Method, electronic device, and storage medium for generating relationship of events
CN111709234B (zh) 文本处理模型的训练方法、装置及电子设备
JP2022018095A (ja) マルチモーダル事前訓練モデル取得方法、装置、電子デバイス及び記憶媒体
KR102521765B1 (ko) 인과 관계의 판별 방법, 장치, 전자 기기 및 저장 매체
CN111709252B (zh) 基于预训练的语义模型的模型改进方法及装置
US20210383233A1 (en) Method, electronic device, and storage medium for distilling model
US20210076224A1 (en) Network convergence method and device, electronic apparatus, and storage medium
CN111598246A (zh) 量子吉布斯态生成方法、装置及电子设备
JP2021190071A (ja) 医療ファクト検証方法、医療ファクト検証装置、電子デバイス、記憶媒体、及びプログラム
JP2022003509A (ja) エンティティ関係マイニング方法、装置、電子デバイス、コンピュータ可読記憶媒体及びコンピュータプログラム
CN111563198B (zh) 一种物料召回方法、装置、设备及存储介质
JP2021128779A (ja) データ拡張の方法及び装置、機器、記憶媒体
CN111125445B (zh) 社区主题生成方法、装置、电子设备及存储介质
CN110990569B (zh) 文本聚类方法、装置及相关设备
JP7300005B2 (ja) 深層学習モデルの適応方法、装置及び電子機器
US20240104403A1 (en) Method for training click rate prediction model
CN115688796B (zh) 用于自然语言处理领域中预训练模型的训练方法及其装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200708

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210831

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211124

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220405

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220411

R150 Certificate of patent or registration of utility model

Ref document number: 7058304

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150