JP7379793B2 - ノード表現生成方法、装置、電子デバイス及び可読記憶媒体 - Google Patents

ノード表現生成方法、装置、電子デバイス及び可読記憶媒体 Download PDF

Info

Publication number
JP7379793B2
JP7379793B2 JP2022038492A JP2022038492A JP7379793B2 JP 7379793 B2 JP7379793 B2 JP 7379793B2 JP 2022038492 A JP2022038492 A JP 2022038492A JP 2022038492 A JP2022038492 A JP 2022038492A JP 7379793 B2 JP7379793 B2 JP 7379793B2
Authority
JP
Japan
Prior art keywords
node
representation
initial
heterogeneous graph
path
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022038492A
Other languages
English (en)
Other versions
JP2023007379A (ja
Inventor
リー、ウェイビン
ジュ、ジファン
フェン、シクン
フアン、シウェイ
ヘ、ジンジョウ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Publication of JP2023007379A publication Critical patent/JP2023007379A/ja
Application granted granted Critical
Publication of JP7379793B2 publication Critical patent/JP7379793B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/30Semantic analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/042Knowledge-based neural networks; Logical representations of neural networks
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Medical Informatics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Description

本開示は、コンピュータ技術分野に関し、特にディープラーニング技術分野に関する。ノード表現生成方法、装置、電子デバイス及び可読記憶媒体が提供される。
現在、図のネットワーク表現は、ノード分類、リンク予測、コミュニティ検出などを含む様々な下流タスクに使用することができる。実世界には複数のノードタイプやエッジタイプが含まれている大量の異種グラフが存在する。異なるタイプのノードの語義情報を学習するために、従来技術で通常採用されている方法は、定義されたメタパスサンプリングにより異なるウォークパスを得て、word2vecなどの訓練方法によりウォークパスを訓練し、最終的に異種グラフにおけるノードの表現結果を得ることである。
このようなノード表現学習方法では、1つのメタパスのみを考慮すると、他のメタパスの情報が失われ、且つ、ノイズ(ノード間に誤まって接続されたエッジ)のためノード表現の精度が影響される。
本開示の第1態様によれば、処理すべき異種グラフを取得し、第1メタパスに基づいて前記処理すべき異種グラフにおいてサンプリングにより少なくとも1つの第1ウォークパスを得、前記少なくとも1つの第1ウォークパスに基づいて前記処理すべき異種グラフにおける各ノードの初期ノード表現を得、各ノードの初期ノード表現と各ノードの隣接ノードの初期ノード表現に基づいて各ノードの最終ノード表現を生成することを含むノード表現生成方法を提供する。
本開示の第2態様によれば、処理すべき異種グラフを取得する取得部と、第1メタパスに基づいて、前記処理すべき異種グラフにおいてサンプリングにより少なくとも1つの第1ウォークパスを得るサンプリング部と、前記少なくとも1つの第1ウォークパスに基づいて、前記処理すべき異種グラフにおける各ノードの初期ノード表現を得る処理部と、各ノードの初期ノード表現と各ノードの隣接ノードの初期ノード表現に基づいて各ノードの最終ノード表現を生成する生成部とを備えるノード表現生成装置を提供する。
本開示の第3態様によれば、少なくとも1つのプロセッサと、前記少なくとも1つのプロセッサと通信可能に接続されたメモリとを備え、前記メモリに前記少なくとも1つのプロセッサにより実行可能なコマンドが記憶されており、前記コマンドが前記少なくとも1つのプロセッサにより実行されると、前記少なくとも1つのプロセッサに前記方法を実行させる電子デバイスを提供する。
本開示の第4態様によれば、コンピュータに前記方法を実行させるためのコンピュータコマンドを記憶する非一時的なコンピュータ可読記憶媒体を提供する。
本開示の第5態様によれば、プロセッサにより実行されると、前記方法を実現するコンピュータプログラムを含むコンピュータプログラム製品を提供する。
以上の技術案から分かるように、本実施形態は、処理すべき異種グラフにおいて第1所定メタパスに基づいてサンプリングにより少なくとも1つの第1ウォークパスを得た後、まず、サンプリングにより得られた少なくとも1つの第1ウォークパスに基づいて処理すべき異種グラフにおける各ノードの初期ノード表現を得、次に各ノードと各ノードの隣接ノードの初期ノード表現とに基づいて各ノードの最終ノード表現を生成することにより、各ノードの最終ノード表現が隣接ノードの情報を統合し、生成された最終ノード表現の精度を向上させることができる。
理解すべきなのは、本セクションで説明される内容は、本開示の実施形態の重要な又は肝心な特徴を標識することでもなく、本開示の範囲を制限することでもない。本開示の他の特徴は、以下の明細書により容易に理解されるであろう。
図面は、本技術案をより良く理解するためのものであり、本願に制限されない。図面において、
本開示の第1実施形態に係る概略図である。 本開示の第2実施形態に係る概略図である。 本開示の第3実施形態に係る概略図である。 本開示の第4実施形態に係る概略図である。 本開示の実施形態のノード表現生成方法を実現するための電子デバイスのブロック図である。
以下、図面に基づいて、本開示の例示的な実施例を説明する。理解を容易にするために、本開示の実施例の様々な詳細が含まれており、それらは単なる例示と見なされるべきである。従って、当業者は、本開示の範囲及び精神から逸脱することなく、本明細書に記載の実施形態に対して様々な変更及び修正を行うことができることを認識できるはずである。同様に、簡明のために、以下の説明では、よく知られた機能と構造の説明は省略される。
図1は、本開示の第1実施形態に係る概略図である。図1に示すように、本実施形態のノード表現生成方法は、具体的には以下のステップを含むことができる。
S101において、処理すべき異種グラフを取得する。
S102において、第1所定メタパスに基づいて処理すべき異種グラフにおいてサンプリングにより少なくとも1つの第1ウォークパスを得る。
S103において、前記少なくとも1つの第1ウォークパスに基づいて、前記処理すべき異種グラフにおける各ノードの初期ノード表現を得る。
S104において、各ノードの初期ノード表現と各ノードの隣接ノードの初期ノード表現とに基づいて各ノードの最終ノード表現を生成する。
本実施形態におけるノード表現生成方法は、処理すべき異種グラフにおいて、第1所定メタパスに基づいてサンプリングにより少なくとも1つの第1ウォークパスを得た後、まず、サンプリングにより得られた少なくとも1つの第1ウォークパスに基づいて処理すべき異種グラフにおける各ノードの初期ノード表現を得、次に各ノードと各ノードの近隣ノードの初期ノード表現に基づいて各ノードの最終ノード表現を生成することにより、各ノードの最終ノード表現が近隣ノードの情報を統合し、生成された最終ノード表現の精度を向上させることができる。
本実施形態では、S101を実行して処理すべき異種グラフを取得する際に、異なる下流タスクに応じて選択することができる。取得された処理すべき異種グラフは、異なるタイプのノードと2つのノード間の接続関係を表すノード間のエッジを含む
例えば、下流タスクがニュース推薦タスクである場合、本実施形態においてS101を実行して取得される処理すべき異種グラフは、ニュースノード、ユーザノード、及び興味ノードの3タイプのノードからなるグラフネットワークであってよい。
本実施形態では、S101を実行して処理すべき異種グラフを取得した後、S102を実行して、第1メタパスに基づいて取得された処理すべき異種グラフにおいてサンプリングにより少なくとも1つの第1ウォークパスを得る。
本実施形態における第1メタパス(meta path)は、処理すべき異種グラフの構造及び処理すべき異種グラフが使用される下流タスクに応じて予め設定されて良い。第1メタパスには、指定されたノードタイプ及びノード間の接続関係が含まれている。
例えば、処理すべき異種グラフにB(ニュース)、U(ユーザ)、及びA(興味)という3つのタイプのノードが含まれる場合、本実施形態がS102を実行する際に使用する第1メタパス1は、1つのニュースが2人のユーザによりクリックされる関係を記述するためのU-B-U(ユーザ-ニュース-ユーザ)であってよい。使用される第1メタパス2は、2人のユーザが同じ興味を持つ関係を記述するU-A-Uであってよい。このように、異なる第1メタパスに基づいて処理すべき異種グラフにおいてサンプリングする場合、得られた異なる第1メタパスに対応する第1ウォークパスは、異なる語義情報を有する。
理解すべきなのは、本実施形態は、S102を実行する際に、1つの第1メタパスに基づいてサンプリングにより少なくとも1つの第1ウォークパスを得ても良く、複数の第1メタパスに基づいてサンプリングにより複数の第1ウォークパスを得ても良い。
本実施形態は、S102を実行して、第1メタパスに基づいて処理すべき異種グラフにおいてサンプリングにより少なくとも1つの第1ウォークパスを得る際に、以下のようなオプション実現方式を採用して良い。つまり、第1メタパスの各々について、処理すべき異種グラフにおいて当該第1メタパスにより指定されたノードタイプ及びノード間の接続関係に基づいて、サンプリングにより当該第1メタパスに対応する少なくとも1つの第1ウォークパスを得る。
ここで、本実施形態は、S102を実行する時に、ランダムウォークポリシーに基づいて、処理すべき異種グラフにおいてサンプリングすることにより、各第1メタパスに対応する第1ウォークパスを得ることができる。
例えば、処理すべき異種グラフに含まれるノードがU1、U2、U3、B1、B2、B3、B4、及びA1、A2、A3、A4である場合、第1メタパス1がU-B-Uである場合、処理すべき異種グラフにおいて第1メタパス1からサンプリングされた第1ウォークパスは、U1-B2-U2-B4-U3であってもよく、U2-B3-U3-B2-U1であってもよい。第1メタパス2がU-A-Uである場合、処理すべき異種グラフにおいて第1メタパス2からサンプリングされた第1ウォークパスは、U1-A2-U2-A4-U3であって良い。
本実施形態では、S102を実行して少なくとも1つの第1ウォークパスを得た後、S103を実行して、得られた少なくとも1つの第1ウォークパスに基づいて、処理すべき異種グラフにおける各ノードの初期ノード表現を得る。
本実施形態では、S103を実行して、少なくとも1つの第1ウォークパスに基づいて処理すべき異種グラフにおける各ノードの初期ノード表現を得る場合に、得られた各第1ウォークパスを予め訓練されたニューラルネットワークモデルに直接に入力し、このニューラルネットワークモデルにより、入力された第1ウォークパスにおける各タイプのノードとノード間のエッジに基づいて、処理すべき異種グラフにおける各ノードの初期ノード表現を得ることができる。
本実施形態では、S103を実行して処理すべき異種グラフにおける各ノードの初期ノード表現を得た後、S104を実行して、各ノードの初期ノード表現と各ノードの隣接ノードの初期ノード表現とに基づいて、各ノードの最終ノード表現を生成する。
本実施形態は、S104を実行して、各ノードの初期ノード表現と各ノードの隣接ノードの初期ノード表現とに基づいて各ノードの最終ノード表現を生成する前に、更に、各ノードについて、処理すべき異種グラフにおける当該ノードとの距離が予め設定された距離であるノードを当該ノードの隣接ノードとし、予め設定された距離が1であれば、本実施形態では現在のノードから1つの距離であるノードを現在のノードの隣接ノードとすることを含むことができる。
本実施形態では、S104を実行する際に、各ノードの初期ノード表現と各ノードの近隣ノードの初期ノード表現とを直接に重み付け加算し、得られた重み付け加算結果を各ノードの最終ノード表現とすることができる。
具体的には、本実施形態では、S104を実行して、各ノードの初期ノード表現と各ノードの隣接ノードの初期ノード表現とに基づいて各ノードの最終ノード表現を生成する際に、以下のようなオプション実現方式を採用して良い。つまり、各ノードの初期ノード表現と各ノードの近隣ノードの初期ノード表現とを重み付け加算し、得られた重み付け加算結果を各ノードの更新ノード表現とし、各ノードの初期ノード表現を更新ノード表現に置き換えた後、予め設定された回数に達するまで、各ノードの初期ノード表現と各ノードの近隣ノードの初期ノード表現との重み付け加算を行うステップに進み、予め設定された回数に達すると、各ノードの更新ノード表現が各ノードの最終ノード表現とする。
本実施形態では、S104を実行して、各ノードの初期ノード表現と各ノードの近隣ノードの初期ノード表現とを重み付け加算する際に、以下の計算式を用いることができる。
計算式において、H(k+1)は現在のノードの(k+1)回目の更新ノード表現を示し、αは0~1の値をとる重み係数であり、
は隣接行列を示し、hは現在のノードの隣接ノードのk回目の更新ノード表現を示し、Hは現在のノードのk回目の更新ノード表現を示す。
つまり、本実施形態は、処理すべき異種グラフにおける各ノードと、各ノードに対応する近隣ノードとを集約し、各ノードの初期ノード表現を複数回に更新することにより、得られる各ノードの最終ノード表現に近隣ノードの情報が含まれるようにし、得られる最終ノード表現の精度をさらに向上させる。
図2は、本開示の第2実施形態に係る概略図である。図2に示すように、本実施形態は、「前記少なくとも1つの第1ウォークパスに基づいて、前記処理すべき異種グラフにおける各ノードの初期ノード表現を得る」というS103を実行する際に、具体的には、以下のステップを含むことができる。
S201において、各第1ウォークパスにおける各ノードを第1ノードとする。
S202において、各第1ノードが位置する第1ウォークパスに基づいて、第1ノードと当該第1ノードとの1つの隣接ノードを含む各第1ノードのノードペアを構築する。
S203において、各第1ノードのノードペアをノード表現モデルに入力し、前記ノード表現モデルが各ノードペアに対して出力した出力結果を各ノードの初期ノード表現とする。
本実施形態では、S103を実行して、第1ウォークパスから各ノードの初期ノード表現を得る際に、各ノードに対応するノードペアを構築した後、更に予め訓練されたノード表現モデルを用いて各ノードペアを処理することにより、各ノードの初期ノード表現を得る。
本実施形態は、S202を実行して各第1ノードが位置する第1ウォークパスに基づいて各第1ノードのノードペアを構築する際に、以下のようなオプション実現方式を採用して良い。つまり、第1ノードの各々について、当該第1ノードが位置する第1ウォークパスにおいて、当該第1ノードの少なくとも1つの近隣ノードを決定し、例えば、現在のノードの前及び/又は後の予め設定された距離に位置するノードを現在のノードの近隣ノードとし、当該第1ノードと当該第1ノードの1つの隣接ノードに基づいて当該第1ノードのノードペアを得る。
本実施形態では、S203を実行する際に使用されるノード表現モデルは予め訓練されたものである。当該ノード表現モデルは、入力された各ノードに対応するノードペアに基づいて、そのノードの初期ノード表現を出力することができる。
図3は、本開示の第3実施形態に係る概略図である。図3に示すように、本実施形態はS203を実行する際に使用されるノード表現モデルは、以下のように事前に訓練されて得られる。
S301において、サンプル異種グラフ及びサンプル異種グラフにおける各ノードの標識ノード表現を含む訓練データを取得する。
S302において、第2メタパスに基づいて、前記サンプル異種グラフにおいてサンプリングにより少なくとも1つの第2ウォークパスを得る。
S303において、各第2ウォークパスにおける各ノードを第2ノードとして、第2ノードと当該第2ノードの1つの隣接ノードを含む各第2ノードのノードペアを構築する。
S304において、第2ノードのノードペアと第2ノードの標識ノード表現を用いて、ニューラルネットワークモデルが収束するまで前記ニューラルネットワークモデルを訓練してノード表現モデルを得る。
なお、本実施形態はS302を実行する際に使用する第2メタパスは、第1メタパスと同じであっても良く、第1メタパスとは異なるものであってもよい。
本実施形態がS302を実行してサンプリングにより少なくとも1つの第2ウォークパスを得る過程は、上述した実施形態がS102を実行してサンプリングにより少なくとも1つの第1ウォークパスを得る過程と類似であり、ここでは言及しない。
本実施形態がS303を実行して第2ノードのノードペアを構築する過程は、上述した実施形態がS202を実行して第1ノードのノードペアを構築する過程と類似であり、ここでは言及しない。
本実施形態は、S304を実行して、第2ノードのノードペアと第2ノードの標識ノード表現とを用いてニューラルネットワークモデルが収束するまでニューラルネットワークモデルを訓練する際に、以下のようなオプション実現方式を採用して良い。つまり、第2ノードのノードペアをニューラルネットワークモデルに入力し、ニューラルネットワークモデルがノードペアに対して出力した出力結果を得、得られた出力結果と第2ノードの標識ノード表現により計算された損失関数値に基づいて、ニューラルネットワークモデルが収束するまでニューラルネットワークモデルのパラメータを更新する。本実施形態で使用するニューラルネットワークモデルは、ウォーククラスグラフ学習モデルであってよい。
本実施形態により訓練されたノード表現モデルによれば、入力されたノードのノードペアに応じて、そのノードのノード表現を出力することができる。
図4は、本開示の第4実施形態に係る概略図である。図4に示すように、本実施形態のノード表現生成装置400は、処理すべき異種グラフを取得する取得部401と、第1所定メタパスに基づいて、前記処理すべき異種グラフにおいてサンプリングにより少なくとも1つの第1ウォークパスを得るサンプリング部402と、前記少なくとも1つの第1ウォークパスに基づいて、前記処理すべき異種グラフにおける各ノードの初期ノード表現を得る処理部403と、各ノードの初期ノード表現と各ノードの隣接ノードの初期ノード表現に基づいて、各ノードの最終ノード表現を生成する生成部404と、を備える。
取得部401は、処理すべき異種グラフを取得する際に、異なる下流タスクに応じて選択可能である。取得された処理すべき異種グラフは、異なるタイプのノードと2つのノード間の接続関係を表すノード間のエッジを含む。
本実施形態では、取得部401により処理すべき異種グラフが取得された後、サンプリング部402により、第1メタパスに基づいて、取得された処理すべき異種グラフにおいて、サンプリングにより少なくとも1つの第1ウォークパスを得る。
理解すべきなのは、サンプリング部402は、1つの第1メタパスに基づいてサンプリングにより少なくとも1つの第1ウォークパスを得ても良く、複数の第1メタパスに基づいてサンプリングにより複数の第1ウォークパスを得ても良い。
サンプリング部402は、第1メタパスに基づいて、処理すべき異種グラフにおいてサンプリングにより少なくとも1つの第1ウォークパスを得る際に、以下のようなオプション実現方式を採用して良い。つまり、第1メタパスの各々について、処理すべき異種グラフにおいて、当該第1メタパスにより指定されたノードタイプ及びノード間の接続関係に基づいてサンプリングにより当該第1メタパスに対応する少なくとも1つの第1ウォークパスを得る。
ここで、サンプリング部402は、ランダムウォークポリシーに基づいて、処理すべき異種グラフにおいてサンプリングして各第1メタパスに対応する第1ウォークパスを得ることができる。
本実施形態は、サンプリング部402により少なくとも1つの第1ウォークパスを得た後、処理部403により、得られた少なくとも1つの第1ウォークパスに基づいて、処理すべき異種グラフにおける各ノードの初期ノード表現を得る。
処理部403は、少なくとも1つの第1ウォークパスに基づいて、処理すべき異種グラフにおける各ノードの初期ノード表現を得る場合に、得られた各第1ウォークパスを予め訓練されたニューラルネットワークモデルに直接に入力し、当該ニューラルネットワークモデルにより入力された第1ウォークパスにおける各タイプのノードとノード間のエッジに基づいて、処理すべき異種グラフにおける各ノードの初期ノード表現を得られる。
処理部403は、前記少なくとも1つの第1ウォークパスに基づいて、前記処理すべき異種グラフにおける各ノードの初期ノード表現を得る場合に、以下のようなオプション実現方式を採用して良い。つまり、各第1ウォークパスにおける各ノードを第1ノードとし、各第1ノードが位置する第1ウォークパスに基づいて第1ノードと当該第1ノードの1つの隣接ノードを含む各第1ノードのノードペアを構築し、各第1ノードのノードペアをノード表現モデルに入力し、前記ノード表現モデルが各ノードペアに対して出力した出力結果を各ノードの初期ノード表現とする。
処理部403は、各第1ノードが位置する第1ウォークパスに基づいて各第1ノードのノードペアを構築する場合に、以下のようなオプション実現方式を採用して良い。つまり、第1ノードの各々について、当該第1ノードが位置する第1ウォークパスにおいて、当該第1ノードの少なくとも1つの隣接ノードを決定し、当該第1ノードと当該第1ノードの1つの隣接ノードに基づいて当該第1ノードのノードペアを得る。
処理部403により使用されるノード表現モデルは、訓練部405により予め訓練されたものである。当該ノード表現モデルは、入力された各ノードに対応するノードペアに基づいて、そのノードの初期ノード表現を出力することができる。
本実施形態におけるノード表現生成装置400は、以下の方式によりノード生成モデルを事前に訓練する訓練部405を更に備えて良い。当該訓練部405は、サンプル異種グラフ及びサンプル異種グラフにおける各ノードの標識ノード表現を含む訓練データを取得し、第2メタパスに基づいて、取得されたサンプル異種グラフにおいてサンプリングにより少なくとも1つの第2ウォークパスを得、各第2ウォークパスにおける各ノードを第2ノードとして、第2ノードと当該第2ノードの1つの隣接ノードを含む各第2ノードのノードペアを構築し、第2ノードのノードペアと第2ノードの標識ノード表現とを用いて、ニューラルネットワークモデルが収束するまでニューラルネットワークモデルを訓練してノード表現モデルを得る。
ここで、訓練部405により使用される第2メタパスは、サンプリング部402により使用される第1メタパスと同じであってもよく、異なっても良い。
訓練部405がサンプリングにより少なくとも1つの第2ウォークパスを得る過程は、サンプリング部402がサンプリングにより少なくとも1つの第1ウォークパスを得る過程と類似であるため、ここでは言及しない。
訓練部405が第2ノードのノードペアを構築する過程は、処理部403が第1ノードのノードペアを構築する過程と類似であるため、ここでは言及しない。
訓練部405は、第2ノードのノードペアと第2ノードの標識ノード表現を用いて、ニューラルネットワークモデルが収束するまでニューラルネットワークモデルを訓練する場合に、以下のようなオプション実現方式を採用して良い。つまり、第2ノードのノードペアをニューラルネットワークモデルに入力し、ニューラルネットワークモデルがノードペアに対して出力した出力結果を得、得られた出力結果と第2ノードの標識ノード表現により計算された損失関数値に基づいて、ニューラルネットワークモデルが収束するまでニューラルネットワークモデルのパラメータを更新する。本実施形態で使用するニューラルネットワークモデルはウォーククラスグラフ学習モデルであってよい。
本実施形態では、処理部403により処理すべき異種グラフにおける各ノードの初期ノード表現が得られた後、生成部404により、各ノードの初期ノード表現と各ノードの隣接ノードの初期ノード表現に基づいて各ノードの最終ノード表現を生成する。
生成部404は、各ノードの初期ノード表現と各ノードの隣接ノードの初期ノード表現に基づいて各ノードの最終ノード表現を生成する前に、各ノードについて、処理すべき異種グラフにおける、そのノードとの間の距離が予め設定された距離であるノードをそのノードの隣接ノードとすることを更に含んで良い。
生成部404は、各ノードの初期ノード表現と、各ノードの近隣ノードの初期ノード表現とを直接に重み付け加算し、得られた重み付け加算結果を各ノードの最終ノード表現とすることができる。
具体的に、生成部404は、各ノードの初期ノード表現と、各ノードの隣接ノードの初期ノード表現に基づいて各ノードの最終ノード表現を生成する際に、以下のようなオプション実現方式を採用して良い。つまり、各ノードの初期ノード表現と各ノードの近隣ノードの初期ノード表現とを重み付け加算し、得られた重み付け加算結果を各ノードの更新ノード表現とし、各ノードの初期ノード表現を更新ノード表現に置き換えた後、予め設定された回数に達するまで、各ノードの初期ノード表現と各ノードの近隣ノードの初期ノード表現との重み付け加算を行うステップに進み、予め設定された回数に達すると、各ノードの更新ノード表現が各ノードの最終ノード表現とする。
本開示の技術案において、関わるユーザの個人情報の取得、記憶及び応用等は、いずれも関連法律法規の規定に適合しており、公序良俗に反するものではない。
本開示の実施形態によれば、本開示は更に、電子デバイス、可読記憶媒体、及びコンピュータプログラム製品を提供する。
図5は、本開示の実施形態のノード表現生成方法に係る電子デバイスのブロック図である。電子デバイスは、ラップトップ、デスクトップコンピュータ、ワークベンチ、サーバ、ブレードサーバ、大型コンピュータ、及び他の適切なコンピュータのような、様々な形態のデジタルコンピュータを表す。電子デバイスは更に、PDA、携帯電話、スマートフォン、ウェアラブルデバイス、及び他の同様のコンピューティングデバイスなどの様々な形態のモバイルデバイスを表すことができる。本明細書に示す構成要素、それらの接続及び関係、ならびにそれらの機能は、単なる一例であり、本明細書に記載及び/又は要求された本開示の実現を制限することではない。
図5に示すように、デバイス500は、読み取り専用メモリ(ROM)502に記憶されたコンピュータプログラム、又は記憶手段508からランダムアクセスメモリ(RAM)503にロードされたコンピュータプログラムに従って、様々な適切な動作及び処理を実行することができる演算手段501を含む。RAM503には、デバイス500の動作に必要な各種のプログラムやデータが記憶されてもよい。演算手段501、ROM502及びRAM503は、バス504を介して接続されている。入出力(I/O)インターフェース505もバス504に接続されている。
例えばキーボード、マウス等の入力手段506と、例えば様々なタイプのディスプレイ、スピーカ等の出力手段507と、例えば磁気ディスク、光ディスク等の記憶手段508と、例えばネットワークカード、モデム、無線通信トランシーバなどの通信手段509を含むデバイス500の複数の構成要素は、I/Oインターフェース505に接続される。通信手段509は、デバイス500が例えばインターネットのコンピュータネットワーク及び/又は様々な電気通信ネットワークを介して他のデバイスと情報/データを交換することを可能にする。
演算手段501は、処理能力及び演算能力を有する様々な汎用及び/又は専用の処理コンポーネントであってよい。演算手段501のいくつかの例は、中央処理ユニット(CPU)、グラフィック処理ユニット(GPU)、様々な専用の人工知能(AI)演算チップ、機械学習モデルアルゴリズムを実行する様々な演算ユニット、デジタル信号プロセッサ(DSP)、及び任意の適切なプロセッサ、コントローラ、マイクロコントローラなどを含むが、これらに限定されない。演算手段501は、上述した様々な方法及び処理、例えばノード表現生成方法を実行する。例えば、幾つかの実施形態では、ノード表現生成方法は、例えば記憶手段508のような機械可読媒体に物理的に組み込まれたコンピュータソフトウェアプログラムとして実装されてもよい。
幾つかの実施形態では、コンピュータプログラムの一部又は全部は、ROM502及び/又は通信手段509を介してデバイス500にロード及び/又はインストールすることができる。コンピュータプログラムがRAM503にロードされ、演算手段501により実行されると、本開示に記載のノード表現生成方法の1つ又は複数のステップを実行することができる。代替的に、他の実施形態では、演算手段501は、ノード表現生成方法を実行するように、他の任意の適切な方法で(例えば、ファームウェアを介する)構成されてもよい。
本明細書で前述したシステム及び技術の様々な実施形態は、デジタル電子回路システム、集積回路システム、フィールドプログラマブルゲートアレイ(FPGA)、専用集積回路(ASIC)、専用標準製品(ASSP)、システムオンチップシステム(SOC)、ロードプログラマブル論理デバイス(CPLD)、コンピュータハードウェア、ファームウェア、ソフトウェア、及び/又はこれらの組み合わせにおいて実装されてもよい。これらの様々な実施形態は、1つ又は複数のコンピュータプログラムで実施されることを含んで良い。当該1つ又は複数のコンピュータプログラムは、少なくとも1つのプログラマブルプロセッサを含むプログラマブルシステム上で実行及び/又は解釈することができる。当該プログラマブルプロセッサは、専用又は汎用のプログラマブルプロセッサであって、記憶システム、少なくとも1つの入力装置、及び少なくとも1つの出力装置からデータ及び命令を受信し、当該記憶システム、当該少なくとも1つの入力装置、及び当該少なくとも1つの出力装置にデータ及び命令を転送することができる。
本開示の方法を実施するためのプログラムコードは、1つ又は複数のプログラミング言語の任意の組み合わせを用いて記述することができる。これらのプログラムコードは、汎用コンピュータ、専用コンピュータ、又は他のプログラマブルデータ処理装置のプロセッサ又はコントローラに提供することにより、プログラムコードがプロセッサ又はコントローラにより実行されると、フローチャート及び/又はブロック図に指定された機能/動作を実行するようにすることができる。プログラムコードは、全てがマシン上で実行されても良く、一部がマシン上で実行されても良く、スタンドアロンパッケージとして一部的にマシン上で実行され且つ一部的にリモートマシン上で実行され、或いは全てがリモートマシン又はサーバ上で実行されても良い。
本開示の文脈では、機械可読媒体は、有形の媒体であって、命令実行システム、装置又はデバイスにより使用され、或いは命令実行システム、装置又はデバイスと合わせて使用されるプログラムを含むか記憶することができる。機械可読媒体は、機械可読信号媒体又は機械可読記憶媒体であってよい。機械可読媒体は、電子的、磁気的、光学的、電磁気的、赤外線的、又は半導体的なシステム、装置又はデバイス、あるいはこれらの任意の適切な組み合わせを含んで良いが、これらに限定されない。機械可読記憶媒体のより具体的な例は、1つ又は複数のラインに基づく電気的接続、ポータブルコンピュータディスク、ハードディスク、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、消去可能プログラマブル読み取り専用メモリ(EPROM又はフラッシュメモリ)、光ファイバ、携帯型コンパクトディスク読み取り専用メモリ(CD-ROM)、光学記憶装置、磁気記憶装置、又はこれらの任意の適切な組み合わせを含む。
ユーザとのインタラクションを提供するために、本明細書に記載されたシステム及び技術は、ユーザに情報を表示するための表示装置(例えば、CRT(陰極線管)又はLCD(液晶ディスプレイ)モニタ)と、ユーザにより入力をコンピュータに提供するキーボード及びポインティングデバイス(例えば、マウス又はトラックボール)と備えるコンピュータ上に実施されてよい。他の種類の装置は、ユーザとのインタラクションを提供するためにも使用され得る。例えば、ユーザに提供されるフィードバックは、任意の形態のセンシングフィードバック(例えば、視覚フィードバック、聴覚フィードバック、又は触覚フィードバック)であって良く、ユーザからの入力を任意の形式(音入力、音声入力、又は触覚入力を含む)で受信して良い。
本明細書に記載されたシステム及び技術は、バックエンド構成要素を含むコンピューティングシステム(例えば、データサーバとする)、又はミドルウェア構成要素を含むコンピューティングシステム(例えば、アプリケーションサーバ)、又はフロントエンド構成要素を含むコンピューティングシステム(例えば、グラフィカルユーザインターフェースもしくはウェブブラウザを有するクライアントコンピュータであり、ユーザは、当該グラフィカルユーザインターフェースもしくは当該ウェブブラウザを通じて本明細書で説明されるシステムと技術の実施形態とインタラクションすることができる)、そのようなバックエンド構成要素、ミドルウェア構成要素、もしくはフロントエンド構成要素の任意の組合せを含むコンピューティングシステムに実施されることが可能である。システムの構成要素は、任意の形態又は媒体のデジタルデータ通信(例えば、通信ネットワーク)によって相互に接続されることが可能である。通信ネットワークの例は、ローカルエリアネットワーク(「LAN」)、ワイド・エリア・ネットワーク(「WAN」)、インターネットワークを含む。
コンピュータシステムは、クライアントとサーバを含み得る。クライアントとサーバは、一般的に互いから遠く離れており、通常は、通信ネットワークを通じてインタラクトする。クライアントとサーバとの関係は、相応するコンピュータ上で実行され、互いにクライアント-サーバの関係を有するコンピュータプログラムによって生じる。サーバはクラウドサーバ、クラウドコンピューティングサーバ又はクラウドホストとも呼ばれ、従来の物理ホストとVPSサービス(「Virtual Private Server」、或いは「VPS」と略称される)において管理が難しく、ビジネスの拡張性が弱いという欠点を解決するクラウドコンピューティングサービスシステムのホスト製品の1つであって良い。サーバは、分散システムのサーバであっても良く、ブロックチェーンを組み合わせたサーバであってもよい。
以上で示された様々な形式のフローを使用して、ステップを並べ替え、追加、又は削除できることを理解されたい。例えば、本開示に説明される各ステップは、並列の順序又は順次的な順序で実施されてもよいし、又は異なる順序で実行されてもよく、本開示で開示された技術案の望ましい結果が達成できる限り、ここで制限されない。
上記の具体的な実施形態は本開示の保護範囲に対する制限を構成しない。設計要件及び他の要因に従って、様々な修正、組み合わせ、部分的組み合わせ及び置換を行うことができることを当業者は理解するべきである。本開示の精神及び原則の範囲内で行われる修正、同等の置換、改善は、何れも本開示の保護範囲内に含まれるべきである。

Claims (11)

  1. コンピュータにより実行される、ノード表現生成方法であって、
    処理すべき異種グラフを取得することと、
    第1メタパスに基づいて、前記処理すべき異種グラフにおいてサンプリングにより少なくとも1つの第1ウォークパスを得ることと、
    前記少なくとも1つの第1ウォークパスに基づいて前記処理すべき異種グラフにおける各ノードの初期ノード表現を得ることと、
    各ノードの初期ノード表現と各ノードの隣接ノードの初期ノード表現に基づいて各ノードの最終ノード表現を生成することと、
    を含み
    各ノードの初期ノード表現と各ノードの隣接ノードの初期ノード表現に基づいて各ノードの最終ノード表現を生成することは、
    各ノードの初期ノード表現と各ノードの近隣ノードの初期ノード表現とを重み付け加算し、得られた重み付け加算結果を各ノードの更新ノード表現とし、
    各ノードの初期ノード表現を更新ノード表現に置き換えた後、予め設定された回数に達するまで、各ノードの初期ノード表現と各ノードの近隣ノードの初期ノード表現とを重み付け加算するステップを実行し、
    予め設定された回数に達すると、各ノードの更新ノード表現を各ノードの最終ノード表現とする、
    ことを含む
    ノード表現生成方法。
  2. 第1メタパスに基づいて、前記処理すべき異種グラフにおいてサンプリングにより少なくとも1つの第1ウォークパスを得ることは、
    各第1メタパスについて、前記処理すべき異種グラフにおいて、当該第1メタパスにより指定されたノードタイプ及びノード間の接続関係に基づいてサンプリングして、当該第1メタパスに対応する少なくとも1つの第1ウォークパスを得る、
    ことを含む請求項1に記載のノード表現生成方法。
  3. 前記少なくとも1つの第1ウォークパスに基づいて前記処理すべき異種グラフにおける各ノードの初期ノード表現を得ることは、
    各第1ウォークパスにおける各ノードを第1ノードとし、
    各第1ノードが位置する第1ウォークパスに基づいて、第1ノードと当該第1ノードの1つの隣接ノードを含む各第1ノードのノードペアを構築し、
    各第1ノードのノードペアをノード表現モデルに入力し、前記ノード表現モデルが各ノードペアに対して出力した出力結果を前記各ノードの初期ノード表現とする、
    ことを含む請求項1に記載のノード表現生成方法。
  4. サンプル異種グラフとサンプル異種グラフにおける各ノードの標識ノード表現とを含む訓練データを取得し、
    第2メタパスに基づいて、前記サンプル異種グラフにおいてサンプリングにより少なくとも1つの第2ウォークパスを得、
    各第2ウォークパスにおける各ノードを第2ノードとして、第2ノードと当該第2ノードの1つの隣接ノードを含む各第2ノードのノードペアを構築し、
    第2ノードのノードペアと第2ノードの標識ノード表現を用いて、ニューラルネットワークモデルを、前記ニューラルネットワークモデルが収束するまで訓練して前記ノード表現モデルを得る、ことにより事前に訓練して前記ノード表現モデルを得る、
    ことを更に含む請求項3に記載のノード表現生成方法。
  5. ノード表現生成装置であって、
    処理すべき異種グラフを取得する取得部と、
    第1メタパスに基づいて、前記処理すべき異種グラフにおいてサンプリングにより少なくとも1つの第1ウォークパスを得るサンプリング部と、
    前記少なくとも1つの第1ウォークパスに基づいて、前記処理すべき異種グラフにおける各ノードの初期ノード表現を得る処理部と、
    各ノードの初期ノード表現と各ノードの隣接ノードの初期ノード表現とに基づいて各ノードの最終ノード表現を生成する生成部と、
    を備え
    前記生成部は、
    各ノードの初期ノード表現と各ノードの隣接ノードの初期ノード表現に基づいて各ノードの最終ノード表現を生成する場合に、具体的に、
    各ノードの初期ノード表現と各ノードの近隣ノードの初期ノード表現とを重み付け加算し、得られた重み付け加算結果を各ノードの更新ノード表現とし、
    各ノードの初期ノード表現を更新ノード表現に置き換えた後、予め設定された回数に達するまで、各ノードの初期ノード表現と各ノードの近隣ノードの初期ノード表現とを重み付け加算するステップを実行し、
    予め設定された回数に達すると、各ノードの更新ノード表現を各ノードの最終ノード表現とする
    ノード表現生成装置。
  6. 前記サンプリング部は、第1メタパスに基づいて、前記処理すべき異種グラフにおいてサンプリングにより少なくとも1つの第1ウォークパスを得る場合に、具体的に、
    各第1メタパスについて、前記処理すべき異種グラフにおいて、当該第1メタパスにより指定されたノードタイプとノード間の接続関係に基づいて、サンプリングにより当該第1メタパスに対応する少なくとも1つの第1ウォークパスを得る、
    請求項に記載のノード表現生成装置。
  7. 前記処理部は、前記少なくとも1つの第1ウォークパスに基づいて前記処理すべき異種グラフにおける各ノードの初期ノード表現を得る場合に、具体的に、
    各第1ウォークパスにおける各ノードを第1ノードとし、
    各第1ノードが位置する第1ウォークパスに基づいて、第1ノードと当該第1ノードの1つの隣接ノードを含む各第1ノードのノードペアを構築し、
    各第1ノードのノードペアをノード表現モデルに入力し、前記ノード表現モデルが各ノードペアに対して出力した出力結果を前記各ノードの初期ノード表現とする、
    請求項に記載のノード表現生成装置。
  8. サンプル異種グラフとサンプル異種グラフにおける各ノードの標識ノード表現とを含む訓練データを取得し、
    第2メタパスに基づいて、前記サンプル異種グラフにおいてサンプリングにより少なくとも1つの第2ウォークパスを得、
    各第2ウォークパスにおける各ノードを第2ノードとして、第2ノードと当該第2ノードの1つの隣接ノードを含む各第2ノードのノードペアを構築し、
    第2ノードのノードペアと第2ノードの標識ノード表現を用いて、ニューラルネットワークモデルを、前記ニューラルネットワークモデルが収束するまで訓練して前記ノード表現モデルを得る、ことにより事前に訓練して前記ノード表現モデルを得る、訓練部
    をさらに備える請求項に記載のノード表現生成装置。
  9. 少なくとも1つのプロセッサと、
    前記少なくとも1つのプロセッサと通信可能に接続されたメモリとを備え、
    前記メモリに前記少なくとも1つのプロセッサにより実行可能なコマンドが記憶されており、前記コマンドが前記少なくとも1つのプロセッサにより実行されると、前記少なくとも1つのプロセッサに請求項1~のいずれか1項に記載のノード表現生成方法を実行させる電子デバイス。
  10. コンピュータに請求項1~のいずれか1項に記載のノード表現生成方法を実行させるためのコンピュータコマンドを記憶する非一時的なコンピュータ可読記憶媒体。
  11. プロセッサにより実行されると、請求項1~のいずれか1項に記載のノード表現生成方法を実現するコンピュータプログラム。
JP2022038492A 2021-06-30 2022-03-11 ノード表現生成方法、装置、電子デバイス及び可読記憶媒体 Active JP7379793B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN202110732838.X 2021-06-30
CN202110732838.XA CN113408297B (zh) 2021-06-30 2021-06-30 生成节点表示的方法、装置、电子设备和可读存储介质

Publications (2)

Publication Number Publication Date
JP2023007379A JP2023007379A (ja) 2023-01-18
JP7379793B2 true JP7379793B2 (ja) 2023-11-15

Family

ID=77680346

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022038492A Active JP7379793B2 (ja) 2021-06-30 2022-03-11 ノード表現生成方法、装置、電子デバイス及び可読記憶媒体

Country Status (3)

Country Link
US (1) US20230004774A1 (ja)
JP (1) JP7379793B2 (ja)
CN (1) CN113408297B (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111144577A (zh) 2019-12-26 2020-05-12 北京百度网讯科技有限公司 异构图之中节点表示的生成方法、装置和电子设备
JP2020205029A (ja) 2019-06-17 2020-12-24 大連海事大学 ブロードラーニングシステムに基づく高速ネットワーク表現学習の方法
JP2021026779A (ja) 2019-08-08 2021-02-22 ネイバー コーポレーションNAVER Corporation 個人化コンテンツ推薦のためのリアルタイムグラフに基づく埋め込み構築方法およびシステム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106997474A (zh) * 2016-12-29 2017-08-01 南京邮电大学 一种基于深度学习的图节点多标签分类方法
CN110489563B (zh) * 2019-07-22 2022-08-23 北京百度网讯科技有限公司 图结构的表示方法、装置、设备及计算机可读存储介质
CN111708922A (zh) * 2020-06-19 2020-09-25 北京百度网讯科技有限公司 用于表示异构图节点的模型生成方法及装置
CN112328835A (zh) * 2020-10-15 2021-02-05 北京三快在线科技有限公司 对象的向量表示的生成方法、装置、电子设备及存储介质
CN112508115B (zh) * 2020-12-15 2023-10-24 北京百度网讯科技有限公司 建立节点表示模型的方法、装置、设备和计算机存储介质

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020205029A (ja) 2019-06-17 2020-12-24 大連海事大学 ブロードラーニングシステムに基づく高速ネットワーク表現学習の方法
JP2021026779A (ja) 2019-08-08 2021-02-22 ネイバー コーポレーションNAVER Corporation 個人化コンテンツ推薦のためのリアルタイムグラフに基づく埋め込み構築方法およびシステム
CN111144577A (zh) 2019-12-26 2020-05-12 北京百度网讯科技有限公司 异构图之中节点表示的生成方法、装置和电子设备

Also Published As

Publication number Publication date
US20230004774A1 (en) 2023-01-05
JP2023007379A (ja) 2023-01-18
CN113408297A (zh) 2021-09-17
CN113408297B (zh) 2023-08-18

Similar Documents

Publication Publication Date Title
JP7358698B2 (ja) 語義表現モデルの訓練方法、装置、デバイス及び記憶媒体
JP7058304B2 (ja) 異種グラフにおけるノード表現の生成方法、装置及び電子機器
KR20220005416A (ko) 다항 관계 생성 모델의 트레이닝 방법, 장치, 전자 기기 및 매체
KR102615957B1 (ko) 점군 데이터 처리방법, 장치, 전자기기 및 판독 가능 기록매체
US11151324B2 (en) Generating completed responses via primal networks trained with dual networks
CN112487173B (zh) 人机对话方法、设备和存储介质
WO2023065859A1 (zh) 物品推荐方法、装置及存储介质
JP7297038B2 (ja) ニューラルネットワークモデルの事前トレーニング方法、装置、電子機器及び媒体
KR20220034069A (ko) 모델 훈련 및 폰트 라이브러리 구축 방법, 장치, 설비 및 저장 매체
US20200175404A1 (en) Machine learning based user interface controller
JP7414907B2 (ja) 事前訓練済みモデルの決定方法及びその決定装置、電子機器並びに記憶媒体
CN113783874A (zh) 基于安全知识图谱的网络安全态势评估方法及系统
JP7439359B2 (ja) 薬物相乗効果予測モデルの構築方法、予測方法及び対応装置
CN114357105A (zh) 地理预训练模型的预训练方法及模型微调方法
JP2022106287A (ja) 親和性予測方法及びモデルのトレーニング方法、装置、機器及び媒体
Kovalchuk et al. A conceptual approach to complex model management with generalized modelling patterns and evolutionary identification
KR20220034083A (ko) 글꼴 데이터베이스의 생성 방법, 신경망 모델의 훈련 방법 및 장치, 전자 기기, 저장 매체, 컴퓨터 프로그램
JP7446359B2 (ja) 交通データ予測方法、交通データ予測装置、電子機器、記憶媒体、コンピュータプログラム製品及びコンピュータプログラム
JP7387964B2 (ja) ソート学習モデルの訓練方法、ソート方法、装置、デバイス及び媒体
JP2023002690A (ja) セマンティックス認識方法、装置、電子機器及び記憶媒体
CN112446498A (zh) 在线部分奖励学习
US11281867B2 (en) Performing multi-objective tasks via primal networks trained with dual networks
JP2022088540A (ja) ユーザ興味画像の生成方法、装置、電子機器及び記憶媒体
CN113657468A (zh) 预训练模型的生成方法、装置、电子设备和存储介质
CN111679829B (zh) 用户界面设计的确定方法和装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220311

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230428

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230509

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230803

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231003

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231012

R150 Certificate of patent or registration of utility model

Ref document number: 7379793

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150