JP2021517295A - レコメンダシステムのための高効率畳み込みネットワーク - Google Patents
レコメンダシステムのための高効率畳み込みネットワーク Download PDFInfo
- Publication number
- JP2021517295A JP2021517295A JP2020546127A JP2020546127A JP2021517295A JP 2021517295 A JP2021517295 A JP 2021517295A JP 2020546127 A JP2020546127 A JP 2020546127A JP 2020546127 A JP2020546127 A JP 2020546127A JP 2021517295 A JP2021517295 A JP 2021517295A
- Authority
- JP
- Japan
- Prior art keywords
- node
- training
- target node
- neighborhood
- nodes
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012549 training Methods 0.000 claims abstract description 324
- 238000000034 method Methods 0.000 claims abstract description 163
- 238000010801 machine learning Methods 0.000 claims abstract description 125
- 230000008569 process Effects 0.000 claims description 69
- 238000013480 data collection Methods 0.000 claims description 11
- 238000010586 diagram Methods 0.000 abstract description 16
- 239000013598 vector Substances 0.000 description 322
- 238000012545 processing Methods 0.000 description 117
- 230000006870 function Effects 0.000 description 61
- 239000003638 chemical reducing agent Substances 0.000 description 25
- 238000005295 random walk Methods 0.000 description 20
- 238000013528 artificial neural network Methods 0.000 description 15
- 238000010200 validation analysis Methods 0.000 description 15
- 230000004044 response Effects 0.000 description 12
- 230000002776 aggregation Effects 0.000 description 11
- 238000004220 aggregation Methods 0.000 description 11
- 238000004364 calculation method Methods 0.000 description 8
- 238000004891 communication Methods 0.000 description 8
- 238000003860 storage Methods 0.000 description 6
- 230000004931 aggregating effect Effects 0.000 description 5
- 230000000295 complement effect Effects 0.000 description 5
- 238000013459 approach Methods 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 4
- 238000007667 floating Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000011156 evaluation Methods 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 238000012804 iterative process Methods 0.000 description 3
- 230000006855 networking Effects 0.000 description 3
- 229910052739 hydrogen Inorganic materials 0.000 description 2
- 230000005055 memory storage Effects 0.000 description 2
- 230000001902 propagating effect Effects 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 238000003064 k means clustering Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000012958 reprocessing Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 238000005728 strengthening Methods 0.000 description 1
- 230000026676 system process Effects 0.000 description 1
- 210000003813 thumb Anatomy 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/182—Distributed file systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2228—Indexing structures
- G06F16/2272—Management thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/51—Indexing; Data structures therefor; Storage structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/901—Indexing; Data structures therefor; Storage structures
- G06F16/9024—Graphs; Linked lists
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/903—Querying
- G06F16/9035—Filtering based on additional data, e.g. user or group profiles
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/906—Clustering; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9535—Search customisation based on user profiles and personalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9536—Search customisation based on social or collaborative filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/211—Selection of the most significant subset of features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
- G06F18/2148—Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the process organisation or structure, e.g. boosting cascade
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/217—Validation; Performance evaluation; Active pattern learning techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
- G06F18/24147—Distances to closest patterns, e.g. nearest neighbour classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/29—Graphical models, e.g. Bayesian networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/04—Inference or reasoning models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/19—Recognition using electronic means
- G06V30/196—Recognition using electronic means using sequential comparisons of the image signals with a plurality of references
- G06V30/1983—Syntactic or structural pattern recognition, e.g. symbolic string recognition
- G06V30/1988—Graph matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/38—Concurrent instruction execution, e.g. pipeline or look ahead
- G06F9/3877—Concurrent instruction execution, e.g. pipeline or look ahead using a slave processor, e.g. coprocessor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
- G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Business, Economics & Management (AREA)
- Accounting & Taxation (AREA)
- Development Economics (AREA)
- Finance (AREA)
- Strategic Management (AREA)
- Medical Informatics (AREA)
- Multimedia (AREA)
- Entrepreneurship & Innovation (AREA)
- Game Theory and Decision Science (AREA)
- Economics (AREA)
- Marketing (AREA)
- General Business, Economics & Management (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
Description
RN(G)={E,J,Q,S}、
RN(H)={D,F,I}、
RN(I)={D,F,H,J,L}、
RN(L)={H,I,J,N,P,U}、および
RN(P)={A,B,L,U}
表4−リデューサ関数(複数可)の結果:ノード/集約埋め込みベクトルデータ
RN(G)={E,J,Q,S}、
RN(H)={D,F,I}、
RN(I)={D,F,H,J,L}、
RN(L)={H,I,J,N,P,U}、および
RN(P)={A,B,L,U}
Claims (15)
- コーパスグラフ内のターゲットノードに関するマッチングノードを識別するために、機械学習モデルを効率的に訓練するコンピュータ実行方法であって、
トリプレットの入力ノードを含む訓練レコードを処理するために、機械学習モデルを初期化することであって、前記トリプレットの入力ノードが、ターゲットノード、対応するマッチングノード、および対応する非マッチングノードを含む、前記初期化すること、
訓練レコードのターゲットノードに関する対応するマッチングノードと対応する非マッチングノードとを区別するための前記機械学習モデルを訓練する訓練データの集合体にアクセスして、前記ターゲットノードの対応する前記マッチングノードを正しく識別することであって、前記訓練データの集合体が複数の訓練レコードを含む、前記識別すること、
前記訓練データの集合体の前記ターゲットノードのそれぞれに関する対応するマッチングノードを正しく識別することに関して、しきい値レベルの精度が達成されるまで、前記訓練データの集合体を使用して前記機械学習モデルを訓練すること、
ターゲットノードの対応するマッチングノードを正しく識別するために、訓練レコードの前記ターゲットノードに関する対応する前記マッチングノードと対応する非マッチングノードとを区別する難しさが増すように、前記訓練データの集合体を更新すること、
更新された前記訓練データの集合体の前記ターゲットノードのそれぞれに関する対応するマッチングノードを正しく識別することに関して、前記しきい値レベルの精度が達成されるまで、更新された前記訓練データの集合体を使用して前記機械学習モデルを訓練すること、ならびに
訓練された前記機械学習モデルから、実行可能な機械学習モデルを生成すること
を含む、前記コンピュータ実行方法。 - 前記訓練データの集合体を更新し、更新された前記訓練データの集合体を使用して前記機械学習モデルを訓練するステップが、さらに、
所定の反復回数の間、
ターゲットノードの対応するマッチングノードを正しく識別するために、訓練レコードの前記ターゲットノードに関する対応する前記マッチングノードと対応する非マッチングノードとを区別する難しさが増すように、前記訓練データの集合体を更新すること、および
更新された前記訓練データの集合体の前記ターゲットノードのそれぞれに関する対応するマッチングノードを正しく識別することに関して、前記しきい値レベルの精度が達成されるまで、更新された前記訓練データの集合体を使用して前記機械学習モデルを訓練すること
を含む、請求項1に記載のコンピュータ実行方法。 - 前記所定の反復回数は、少なくとも2回である、請求項2に記載のコンピュータ実行方法。
- 前記訓練データは、最初に、対応するマッチングノードまたは対応する非マッチングノードの少なくとも1つが欠落しているような不完全な訓練レコードを含み、
前記方法は、さらに、各訓練レコードが、ターゲットノードと、対応する非マッチングノードとを含むトリプレットの入力値を含むように、前記訓練データを完成させることを含む、請求項2に記載のコンピュータ実行方法。 - 前記訓練データを完成させることが、
前記訓練データの集合体の各訓練レコードに対して、
前記訓練レコードの前記ターゲットノードの関連する近傍にアクセスすること、および
前記関連する近傍のうちの最も関連する近隣ノードを、前記訓練レコードの対応するマッチングノードとして選択すること
を含む、請求項4に記載のコンピュータ実行方法。 - 前記訓練データを完成させることが、さらに、
前記訓練データの集合体の各訓練レコードに対して、
前記コーパスグラフからターゲットノードをランダムに、前記訓練レコードの対応する非マッチングノードとして選択することを含む、請求項5に記載のコンピュータ実行方法。 - ターゲットノードの対応するマッチングノードを正しく識別するために、訓練レコードの前記ターゲットノードに関する対応する前記マッチングノードと対応する非マッチングノードとを区別する難しさが増すように、前記訓練データの集合体を更新することは、
前記訓練データの集合体の各訓練レコードに対して、
前記訓練レコードの前記ターゲットノードの関連する近傍にアクセスすること、および
前記関連する近傍の近隣ノードを、以前の対応する前記マッチングノードよりも前記ターゲットノードと弱く関連している、前記訓練レコードの対応するマッチングノードとして選択すること
を含む、請求項4に記載のコンピュータ実行方法。 - 前記訓練データの集合体の各訓練レコードに対して、
前記関連する近傍の近隣ノードを、以前の対応する前記非マッチングノードよりも前記ターゲットノードと強く関連している、前記訓練レコードの対応する非マッチングノードとして選択することをさらに含む、請求項7に記載のコンピュータ実行方法。 - ターゲットノードの対応するマッチングノードを正しく識別するために、訓練レコードの前記ターゲットノードに関する対応する前記マッチングノードと対応する非マッチングノードとを区別する難しさが増すように、前記訓練データの集合体を更新することは、
前記訓練データの集合体の各訓練レコードに対して、
前記訓練レコードの前記ターゲットノードの関連する近傍にアクセスすること、および
前記関連する近傍の近隣ノードを、以前の対応する前記非マッチングノードよりも前記ターゲットノードと強く関連している、前記訓練レコードの対応する非マッチングノードとして選択すること
をさらに含む、請求項4に記載のコンピュータ実行方法。 - コンピュータ実行可能命令を記録したコンピュータ可読媒体であって、前記媒体から命令を取得する少なくともプロセッサを含むコンピューティングシステムで実行されると、コーパスグラフ内のターゲットノードに関するマッチングノードを識別するために、機械学習モデルを効率的に訓練する方法を実行する、前記コンピュータ可読媒体であって、前記方法が、
トリプレットの入力ノードを含む訓練レコードを処理するために、機械学習モデルを初期化することであって、前記トリプレットの入力ノードが、ターゲットノード、対応するマッチングノード、および対応する非マッチングノードを含む、前記初期化すること、
訓練レコードのターゲットノードに関する対応するマッチングノードと対応する非マッチングノードとを区別するための前記機械学習モデルを訓練する訓練データの集合体にアクセスして、前記ターゲットノードの対応する前記マッチングノードを正しく識別することであって、前記訓練データの集合体が複数の訓練レコードを含む、前記識別すること、
前記訓練データの集合体の前記ターゲットノードのそれぞれに関する対応するマッチングノードを正しく識別することに関して、しきい値レベルの精度が達成されるまで、前記訓練データの集合体を使用して前記機械学習モデルを訓練すること、
所定の反復回数の間、
ターゲットノードの対応するマッチングノードを正しく識別するために、訓練レコードの前記ターゲットノードに関する対応する前記マッチングノードと対応する非マッチングノードとを区別する難しさが増すように、前記訓練データの集合体を更新すること、および
更新された前記訓練データの集合体の前記ターゲットノードのそれぞれに関する対応するマッチングノードを正しく識別することに関して、前記しきい値レベルの精度が達成されるまで、更新された前記訓練データの集合体を使用して前記機械学習モデルを訓練すること、ならびに
訓練された前記機械学習モデルから、実行可能な機械学習モデルを生成することを含む、前記コンピュータ可読媒体。 - 前記訓練データは、最初に、対応するマッチングノードまたは対応する非マッチングノードの少なくとも1つが欠落しているような不完全な訓練レコードを含み、
前記方法は、さらに、各訓練レコードが、ターゲットノードと、対応するマッチングノードと、対応する非マッチングノードとを含むトリプレットの入力値を含むように、前記訓練データを完成させることを含む、請求項10に記載のコンピュータ可読媒体。 - 前記訓練データを完成させることが、訓練レコードごとに、
前記訓練データの集合体の各訓練レコードに対して、
前記訓練レコードの前記ターゲットノードの関連する近傍にアクセスすること、および
前記関連する近傍のうちの最も関連する近隣ノードを、前記訓練レコードの対応するマッチングノードとして選択すること
を含む、請求項11に記載のコンピュータ可読媒体。 - コーパスグラフ内のノード間の関連性を識別するために、機械学習モデルを効率的に訓練するように構成されたコンピュータシステムであって、前記コンピュータシステムは、プロセッサとメモリとを備えており、前記プロセッサは、前記コーパスグラフ内の前記ノード間の関連性を識別するために、追加構成要素の一部として、または前記追加構成要素と組み合わせて前記メモリに格納された命令を実行する、前記コンピュータシステムであって、前記追加構成要素は、
アイテムのコーパスグラフを格納するデータストアと、
前記コンピュータシステムで実行の際に、ターゲットノードの関連する近傍を識別する、実行可能な関連近傍識別構成要素と、
実行可能モデル訓練構成要素であって、前記コンピュータシステムで実行の際に、
トリプレットの入力ノードを含む訓練レコードを処理するために、機械学習モデルを初期化することであって、前記トリプレットの入力ノードが、ターゲットノード、対応するマッチングノード、および対応する非マッチングノードを含む、前記初期化すること、
訓練レコードのターゲットノードに関する対応するマッチングノードと対応する非マッチングノードとを区別するための前記機械学習モデルを訓練する訓練データの集合体にアクセスして、前記ターゲットノードの対応する前記マッチングノードを正しく識別することであって、前記訓練データの集合体が複数の訓練レコードを含む、前記識別すること、
前記訓練データの集合体の前記ターゲットノードのそれぞれに関する対応するマッチングノードを正しく識別することに関して、しきい値レベルの精度が達成されるまで、前記訓練データの集合体を使用して前記機械学習モデルを訓練すること、
所定の反復回数の間、
ターゲットノードの対応するマッチングノードを正しく識別するために、訓練レコードの前記ターゲットノードに関する対応する前記マッチングノードと対応する非マッチングノードとを区別する難しさが増すように、前記訓練データの集合体を更新すること、および
更新された前記訓練データの集合体の前記ターゲットノードのそれぞれに関する対応するマッチングノードを正しく識別することに関して、前記しきい値レベルの精度が達成されるまで、更新された前記訓練データの集合体を使用して前記機械学習モデルを訓練すること、ならびに
訓練された前記機械学習モデルから、実行可能な機械学習モデルを生成することを行う、
前記実行可能モデル訓練構成要素と
を備える、前記コンピュータシステム。 - 前記コンピュータシステムは、ターゲットノードの対応するマッチングノードを正しく識別するために、訓練レコードの前記ターゲットノードに関する対応する前記マッチングノードと対応する非マッチングノードとを区別する難しさが増すように、前記訓練データの集合体を更新する際に、さらに、
前記訓練データの集合体の各訓練レコードに対して、
前記訓練レコードの前記ターゲットノードの関連する近傍にアクセスすること、および
前記関連する近傍の近隣ノードを、以前の対応する前記マッチングノードよりも前記ターゲットノードと弱く関連している、前記訓練レコードの対応するマッチングノードとして選択することを行う、請求項16に記載のコンピュータ実行方法。 - 前記コンピュータシステムは、さらに、
前記訓練データの集合体の各訓練レコードに対して、
前記関連する近傍の近隣ノードを、以前の対応する前記非マッチングノードよりも前記ターゲットノードと強く関連している、前記訓練レコードの対応する非マッチングノードとして選択する、請求項19に記載のコンピュータシステム。
Applications Claiming Priority (15)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201862642527P | 2018-03-13 | 2018-03-13 | |
US62/642,527 | 2018-03-13 | ||
US16/101,184 | 2018-08-10 | ||
US16/101,184 US11797838B2 (en) | 2018-03-13 | 2018-08-10 | Efficient convolutional network for recommender systems |
US16/178,443 US11232152B2 (en) | 2018-03-13 | 2018-11-01 | Efficient processing of neighborhood data |
US16/178,443 | 2018-11-01 | ||
US16/273,995 US11783175B2 (en) | 2018-03-13 | 2019-02-12 | Machine learning model training |
US16/273,969 US11227014B2 (en) | 2018-03-13 | 2019-02-12 | Generating neighborhood convolutions according to relative importance |
US16/273,860 | 2019-02-12 | ||
US16/273,995 | 2019-02-12 | ||
US16/273,939 US11227013B2 (en) | 2018-03-13 | 2019-02-12 | Generating neighborhood convolutions within a large network |
US16/273,939 | 2019-02-12 | ||
US16/273,969 | 2019-02-12 | ||
US16/273,860 US11227012B2 (en) | 2018-03-13 | 2019-02-12 | Efficient generation of embedding vectors of nodes in a corpus graph |
PCT/US2019/021932 WO2019178155A1 (en) | 2018-03-13 | 2019-03-12 | Efficient convolutional network for recommender systems |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021517295A true JP2021517295A (ja) | 2021-07-15 |
JP7322044B2 JP7322044B2 (ja) | 2023-08-07 |
Family
ID=67904088
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020546127A Active JP7322044B2 (ja) | 2018-03-13 | 2019-03-12 | レコメンダシステムのための高効率畳み込みネットワーク |
Country Status (4)
Country | Link |
---|---|
US (8) | US11797838B2 (ja) |
EP (1) | EP3766022A1 (ja) |
JP (1) | JP7322044B2 (ja) |
WO (1) | WO2019178155A1 (ja) |
Families Citing this family (46)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110019975B (zh) | 2017-10-10 | 2020-10-16 | 创新先进技术有限公司 | 随机游走、基于集群的随机游走方法、装置以及设备 |
CN109658094B (zh) | 2017-10-10 | 2020-09-18 | 阿里巴巴集团控股有限公司 | 随机游走、基于集群的随机游走方法、装置以及设备 |
JP7082357B2 (ja) * | 2018-01-11 | 2022-06-08 | ネオサピエンス株式会社 | 機械学習を利用したテキスト音声合成方法、装置およびコンピュータ読み取り可能な記憶媒体 |
US10877979B2 (en) * | 2018-01-16 | 2020-12-29 | Accenture Global Solutions Limited | Determining explanations for predicted links in knowledge graphs |
US11797838B2 (en) | 2018-03-13 | 2023-10-24 | Pinterest, Inc. | Efficient convolutional network for recommender systems |
US10721190B2 (en) * | 2018-07-31 | 2020-07-21 | Microsoft Technology Licensing, Llc | Sequence to sequence to classification model for generating recommended messages |
CN109460793B (zh) * | 2018-11-15 | 2023-07-18 | 腾讯科技(深圳)有限公司 | 一种节点分类的方法、模型训练的方法及装置 |
US10728104B2 (en) * | 2018-11-15 | 2020-07-28 | Adobe Inc. | Time-dependent network embedding |
US11468471B2 (en) * | 2018-12-10 | 2022-10-11 | Pinterest, Inc. | Audience expansion according to user behaviors |
JP2022515942A (ja) * | 2018-12-31 | 2022-02-24 | スリープ ナンバー コーポレイション | 睡眠を改善するための特徴を有するホームオートメーション |
US11373233B2 (en) * | 2019-02-01 | 2022-06-28 | Target Brands, Inc. | Item recommendations using convolutions on weighted graphs |
US10956474B2 (en) | 2019-03-14 | 2021-03-23 | Microsoft Technology Licensing, Llc | Determination of best set of suggested responses |
US11544594B2 (en) * | 2019-04-11 | 2023-01-03 | Sunghee Woo | Electronic device comprising user interface for providing user-participating-type AI training service, and server and method for providing user-participating-type AI training service using the electronic device |
US11100167B2 (en) * | 2019-05-06 | 2021-08-24 | Advanced New Technologies Co., Ltd. | Obtaining dynamic embedding vectors of nodes in relationship graphs |
US20200401908A1 (en) * | 2019-06-19 | 2020-12-24 | Samsung Electronics Company, Ltd. | Curated data platform |
US11483408B2 (en) | 2019-07-10 | 2022-10-25 | Adobe Inc. | Feature-based network embedding |
US11778022B2 (en) * | 2019-08-14 | 2023-10-03 | Salesforce, Inc. | Dynamically generated context pane within a group-based communication interface |
US11606389B2 (en) * | 2019-08-29 | 2023-03-14 | Nec Corporation | Anomaly detection with graph adversarial training in computer systems |
CN110738242B (zh) * | 2019-09-25 | 2021-08-10 | 清华大学 | 一种深度神经网络的贝叶斯结构学习方法及装置 |
JP7373840B2 (ja) | 2019-10-03 | 2023-11-06 | 株式会社 システムスクエア | 検査装置 |
CN110795569B (zh) | 2019-10-08 | 2021-06-15 | 北京百度网讯科技有限公司 | 知识图谱的向量表示生成方法、装置及设备 |
CN111177479B (zh) * | 2019-12-23 | 2023-08-18 | 北京百度网讯科技有限公司 | 获取关系网络图中节点的特征向量的方法以及装置 |
US11640379B2 (en) | 2020-01-02 | 2023-05-02 | Kyndryl, Inc. | Metadata decomposition for graph transformation |
CN111709819B (zh) * | 2020-01-20 | 2021-03-30 | 山东佳联电子商务有限公司 | 一种点拍网基于图神经网络的产权交易推荐系统及推荐方法 |
US11544527B2 (en) * | 2020-02-06 | 2023-01-03 | International Business Machines Corporation | Fuzzy cyber detection pattern matching |
WO2021162481A1 (en) * | 2020-02-11 | 2021-08-19 | Samsung Electronics Co., Ltd. | Electronic device and control method thereof |
US11816149B2 (en) * | 2020-02-11 | 2023-11-14 | Samsung Electronics Co., Ltd. | Electronic device and control method thereof |
CN111400314B (zh) * | 2020-03-02 | 2023-10-27 | 支付宝(杭州)信息技术有限公司 | 利用向量图索引从数据库中检索节点向量的方法及装置 |
US11507886B2 (en) * | 2020-03-17 | 2022-11-22 | Sap Se | Vectorization of structured documents with multi-modal data |
CN111428147B (zh) * | 2020-03-25 | 2021-07-27 | 合肥工业大学 | 结合社交和兴趣信息的异源图卷积网络的社交推荐方法 |
US11681737B2 (en) | 2020-04-08 | 2023-06-20 | Adobe Inc. | Electronic media retrieval |
CN111475392B (zh) | 2020-04-08 | 2022-05-20 | 北京字节跳动网络技术有限公司 | 生成预测信息的方法、装置、电子设备和计算机可读介质 |
WO2021247611A1 (en) * | 2020-06-01 | 2021-12-09 | Home Depot International, Inc. | Essential accessory recommendations |
US20220004814A1 (en) * | 2020-07-02 | 2022-01-06 | Accenture Global Solutions Limited | Agent environment co-creation |
US20220027685A1 (en) * | 2020-07-24 | 2022-01-27 | International Business Machines Corporation | Automated generation of optimization model for system-wide plant optimization |
US11544317B1 (en) * | 2020-08-20 | 2023-01-03 | Pinterest, Inc. | Identifying content items in response to a text-based request |
CN112070216B (zh) * | 2020-09-29 | 2023-06-02 | 支付宝(杭州)信息技术有限公司 | 一种基于图计算系统训练图神经网络模型的方法及系统 |
CN114610950B (zh) * | 2020-12-04 | 2023-11-07 | 中山大学 | 一种图网络节点表示方法 |
CN112561644B (zh) * | 2020-12-16 | 2023-08-01 | 深圳市网联安瑞网络科技有限公司 | 基于链接预测的商品推荐方法、装置及相关设备 |
CN112765373B (zh) * | 2021-01-29 | 2023-03-21 | 北京达佳互联信息技术有限公司 | 资源推荐方法、装置、电子设备和存储介质 |
CN113744541B (zh) * | 2021-05-17 | 2022-07-19 | 合肥综合性国家科学中心人工智能研究院(安徽省人工智能实验室) | 对抗图卷积网络的路网排放缺失时空分布重构方法及系统 |
CN113254803B (zh) * | 2021-06-24 | 2021-10-22 | 暨南大学 | 一种基于多特征异质图神经网络的社交推荐方法 |
CN113918832B (zh) * | 2021-10-22 | 2022-09-27 | 重庆理工大学 | 基于社交关系的图卷积协同过滤推荐系统 |
CN116340645A (zh) * | 2021-12-23 | 2023-06-27 | 微软技术许可有限责任公司 | 基于图增强协同过滤的内容推荐 |
CN117556120A (zh) * | 2022-08-02 | 2024-02-13 | 微软技术许可有限责任公司 | 基于嵌入向量摘要的内容推荐 |
CN116881172B (zh) * | 2023-09-06 | 2024-02-23 | 南昌航空大学 | 一种基于图卷积网络的软件缺陷预测方法 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013519138A (ja) * | 2010-02-01 | 2013-05-23 | グーグル インコーポレイテッド | アイテム関連付けのための結合埋込 |
Family Cites Families (44)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6996805B2 (en) | 2001-06-28 | 2006-02-07 | Microsoft Corporation | Methods and systems of testing software, and methods and systems of modeling user behavior |
US7149429B2 (en) | 2002-08-06 | 2006-12-12 | Fitel Usa Corp. | Coarse wavelength division multiplexing system |
US20060184464A1 (en) | 2004-11-22 | 2006-08-17 | Nec Laboratories America, Inc. | System and methods for data analysis and trend prediction |
US7640488B2 (en) | 2004-12-04 | 2009-12-29 | International Business Machines Corporation | System, method, and service for using a focused random walk to produce samples on a topic from a collection of hyper-linked pages |
US8055664B2 (en) | 2007-05-01 | 2011-11-08 | Google Inc. | Inferring user interests |
US20100262576A1 (en) | 2007-12-17 | 2010-10-14 | Leximancer Pty Ltd. | Methods for determining a path through concept nodes |
TW201003421A (en) | 2008-04-28 | 2010-01-16 | Alexandria Invest Res And Technology Llc | Adaptive knowledge platform |
US8090729B2 (en) | 2009-03-03 | 2012-01-03 | Microsoft Corporation | Large graph measurement |
US20100241647A1 (en) | 2009-03-23 | 2010-09-23 | Microsoft Corporation | Context-Aware Query Recommendations |
US8346766B2 (en) | 2009-12-15 | 2013-01-01 | International Business Machines Corporation | Efficient calculation of node proximity on graphs with side information |
US8856047B2 (en) | 2011-06-21 | 2014-10-07 | Microsoft Corporation | Fast personalized page rank on map reduce |
US20130275429A1 (en) | 2012-04-12 | 2013-10-17 | Graham York | System and method for enabling contextual recommendations and collaboration within content |
US10642891B2 (en) | 2013-04-12 | 2020-05-05 | Avigilon Fortress Corporation | Graph matching by sub-graph grouping and indexing |
US9275422B2 (en) | 2013-05-29 | 2016-03-01 | International Business Machines Corporation | Distributed k-core view materialization and maintenance for graphs |
US9419854B1 (en) | 2013-06-27 | 2016-08-16 | The Boeing Company | Methods and systems for shared awareness through local observations and global state consistency in distributed and decentralized systems |
US9160553B2 (en) | 2013-11-27 | 2015-10-13 | Architecture Technology Corporation | Adaptive multicast network communications |
US9177225B1 (en) | 2014-07-03 | 2015-11-03 | Oim Squared Inc. | Interactive content generation |
US9652504B2 (en) | 2014-09-08 | 2017-05-16 | International Business Machines Corporation | Supervised change detection in graph streams |
US10042782B2 (en) | 2015-06-02 | 2018-08-07 | ALTR Solutions, Inc. | Immutable datastore for low-latency reading and writing of large data sets |
US10019848B2 (en) | 2015-07-31 | 2018-07-10 | Adobe Systems Incorporated | Edge preserving color smoothing of 3D models |
US10068097B2 (en) | 2015-08-12 | 2018-09-04 | Microsoft Technology Licensing, Llc | Data center privacy |
US20170278135A1 (en) | 2016-02-18 | 2017-09-28 | Fitroom, Inc. | Image recognition artificial intelligence system for ecommerce |
WO2017168125A1 (en) | 2016-03-31 | 2017-10-05 | Queen Mary University Of London | Sketch based search methods |
US9558265B1 (en) | 2016-05-12 | 2017-01-31 | Quid, Inc. | Facilitating targeted analysis via graph generation based on an influencing parameter |
US9710544B1 (en) | 2016-05-19 | 2017-07-18 | Quid, Inc. | Pivoting from a graph of semantic similarity of documents to a derivative graph of relationships between entities mentioned in the documents |
WO2017210005A1 (en) | 2016-05-31 | 2017-12-07 | University Of South Florida | Systems and methods for detecting attacks in big data systems |
WO2017212459A1 (en) | 2016-06-09 | 2017-12-14 | Sentient Technologies (Barbados) Limited | Content embedding using deep metric learning algorithms |
CN106444703B (zh) | 2016-09-20 | 2018-12-07 | 西南石油大学 | 基于故障模式发生概率的动设备运行状态模糊评价及预测方法 |
US10855706B2 (en) | 2016-10-11 | 2020-12-01 | Battelle Memorial Institute | System and methods for automated detection, reasoning and recommendations for resilient cyber systems |
US10922609B2 (en) | 2017-05-17 | 2021-02-16 | Facebook, Inc. | Semi-supervised learning via deep label propagation |
CN116702843A (zh) | 2017-05-20 | 2023-09-05 | 谷歌有限责任公司 | 投影神经网络 |
US11372940B2 (en) * | 2017-06-05 | 2022-06-28 | Microsoft Technology Licensing, Llc | Embedding user categories using graphs for enhancing searches based on similarities |
US11176325B2 (en) | 2017-06-26 | 2021-11-16 | International Business Machines Corporation | Adaptive evaluation of meta-relationships in semantic graphs |
US10311405B2 (en) | 2017-07-20 | 2019-06-04 | Ca, Inc. | Software-issue graphs |
US10860924B2 (en) | 2017-08-18 | 2020-12-08 | Microsoft Technology Licensing, Llc | Hardware node having a mixed-signal matrix vector unit |
US10452954B2 (en) | 2017-09-14 | 2019-10-22 | Google Llc | Object detection and representation in images |
US11853903B2 (en) | 2017-09-28 | 2023-12-26 | Siemens Aktiengesellschaft | SGCNN: structural graph convolutional neural network |
US20190114362A1 (en) * | 2017-10-12 | 2019-04-18 | Facebook, Inc. | Searching Online Social Networks Using Entity-based Embeddings |
US20190114373A1 (en) | 2017-10-13 | 2019-04-18 | Facebook, Inc. | Scalable candidate selection for recommendations |
US20190130305A1 (en) | 2017-10-27 | 2019-05-02 | Intuit Inc. | Methods, systems, and computer program product for implementing an intelligent system with dynamic configurability |
US10482375B2 (en) * | 2017-11-02 | 2019-11-19 | Palo Alto Research Company Incorporated | Deep graph representation learning |
US11256747B1 (en) | 2017-11-10 | 2022-02-22 | Pinterest, Inc. | Data reduction for node graph creation |
US10592732B1 (en) | 2017-12-14 | 2020-03-17 | Perceive Corporation | Probabilistic loss function for training network with triplets |
US11797838B2 (en) * | 2018-03-13 | 2023-10-24 | Pinterest, Inc. | Efficient convolutional network for recommender systems |
-
2018
- 2018-08-10 US US16/101,184 patent/US11797838B2/en active Active
- 2018-11-01 US US16/178,443 patent/US11232152B2/en active Active
-
2019
- 2019-02-12 US US16/273,939 patent/US11227013B2/en active Active
- 2019-02-12 US US16/273,995 patent/US11783175B2/en active Active
- 2019-02-12 US US16/273,969 patent/US11227014B2/en active Active
- 2019-02-12 US US16/273,860 patent/US11227012B2/en active Active
- 2019-03-12 JP JP2020546127A patent/JP7322044B2/ja active Active
- 2019-03-12 WO PCT/US2019/021932 patent/WO2019178155A1/en unknown
- 2019-03-12 EP EP19714522.0A patent/EP3766022A1/en not_active Withdrawn
-
2022
- 2022-01-17 US US17/577,187 patent/US11922308B2/en active Active
-
2024
- 2024-01-16 US US18/414,195 patent/US20240152754A1/en active Pending
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013519138A (ja) * | 2010-02-01 | 2013-05-23 | グーグル インコーポレイテッド | アイテム関連付けのための結合埋込 |
Also Published As
Publication number | Publication date |
---|---|
EP3766022A1 (en) | 2021-01-20 |
US20190286655A1 (en) | 2019-09-19 |
US11227013B2 (en) | 2022-01-18 |
US11227012B2 (en) | 2022-01-18 |
US20190286943A1 (en) | 2019-09-19 |
US11783175B2 (en) | 2023-10-10 |
US20190286659A1 (en) | 2019-09-19 |
US11797838B2 (en) | 2023-10-24 |
US20240152754A1 (en) | 2024-05-09 |
US20220318307A1 (en) | 2022-10-06 |
US11227014B2 (en) | 2022-01-18 |
US20190286754A1 (en) | 2019-09-19 |
US20190286658A1 (en) | 2019-09-19 |
US11232152B2 (en) | 2022-01-25 |
WO2019178155A1 (en) | 2019-09-19 |
US20190286752A1 (en) | 2019-09-19 |
JP7322044B2 (ja) | 2023-08-07 |
US11922308B2 (en) | 2024-03-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7322044B2 (ja) | レコメンダシステムのための高効率畳み込みネットワーク | |
US9449115B2 (en) | Method, controller, program and data storage system for performing reconciliation processing | |
WO2019015631A1 (zh) | 生成机器学习样本的组合特征的方法及系统 | |
Gasimov et al. | Separation via polyhedral conic functions | |
US20220374474A1 (en) | Recommending content to subscribers | |
US20220277031A1 (en) | Guided exploration for conversational business intelligence | |
US20230177089A1 (en) | Identifying similar content in a multi-item embedding space | |
KR102376652B1 (ko) | Ai를 활용한 상품 데이터 실시간 분석 및 상품 정보를 업데이트하기 위한 방법 및 시스템 | |
US11538048B1 (en) | Predictively identifying activity subscribers | |
KR101467707B1 (ko) | 지식 베이스의 개체 매칭 방법 및 이를 위한 장치 | |
Zhou et al. | Unsupervised multiple network alignment with multinominal gan and variational inference | |
JP2012155394A (ja) | 文書分類学習制御装置、文書分類装置およびコンピュータプログラム | |
Bauckhage | A Purely Geometric Approach to Non-Negative Matrix Factorization. | |
US20220156336A1 (en) | Projecting queries into a content item embedding space | |
US11556558B2 (en) | Insight expansion in smart data retention systems | |
US20220284023A1 (en) | Estimating computational cost for database queries | |
Alham | Parallelizing support vector machines for scalable image annotation | |
Motai et al. | Cloud colonography: distributed medical testbed over cloud | |
US20230125509A1 (en) | Bayesian adaptable data gathering for edge node performance prediction | |
US20240062051A1 (en) | Hierarchical data labeling for machine learning using semi-supervised multi-level labeling framework | |
Hiriyannaiah et al. | Data Science Tools and Techniques for Healthcare Applications | |
Marone et al. | Two Parallelized Filter Methods for Feature Selection Based on Spark | |
Campobello et al. | An efficient algorithm for parallel distributed unsupervised learning | |
Lampl | PTree Set Cover Algorithm | |
Lu et al. | Graph-aware federated learning |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211220 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20221116 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230105 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230307 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230707 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230726 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7322044 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |