JP7147874B2 - 学習装置、学習方法および学習プログラム - Google Patents
学習装置、学習方法および学習プログラム Download PDFInfo
- Publication number
- JP7147874B2 JP7147874B2 JP2020565140A JP2020565140A JP7147874B2 JP 7147874 B2 JP7147874 B2 JP 7147874B2 JP 2020565140 A JP2020565140 A JP 2020565140A JP 2020565140 A JP2020565140 A JP 2020565140A JP 7147874 B2 JP7147874 B2 JP 7147874B2
- Authority
- JP
- Japan
- Prior art keywords
- applying
- attribute vector
- target task
- sample
- attribute
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
- G06F18/2155—Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the incorporation of unlabelled data, e.g. multiple instance learning [MIL], semi-supervised techniques using expectation-maximisation [EM] or naïve labelling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Medical Informatics (AREA)
- Mathematical Physics (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Machine Translation (AREA)
Description
図1は、本発明による学習装置の第一の実施形態の構成例を示すブロック図である。本実施形態の学習装置100は、対象タスク属性推定部110と、予測値算出部120と、予測器記憶部130とを備えている。
次に、本発明による学習装置の第二の実施形態を説明する。図4は、本発明による学習装置の第二の実施形態の構成例を示すブロック図である。本実施形態の学習装置200は、第一の実施形態の同様、対象タスク属性推定部110と、予測値算出部120と、予測器記憶部130とを備えている。ただし、第二の実施形態の対象タスク属性推定部110および予測値算出部120は、構成内容が第一の実施形態と異なる。
次に、本発明による学習装置の第三の実施形態を説明する。図6は、本発明による学習装置の第三の実施形態の構成例を示すブロック図である。本実施形態の学習装置300は、第一の実施形態および第二の実施形態の同様、対象タスク属性推定部110と、予測値算出部120と、予測器記憶部130とを備えている。ただし、第三の実施形態の対象タスク属性推定部110および予測値算出部120は、構成内容が第一の実施形態および第二の実施形態と異なる。
次に、本発明による学習装置の第四の実施形態を説明する。図8は、本発明による学習装置の第四の実施形態の構成例を示すブロック図である。本実施形態の学習装置400は、対象タスク属性推定部110と、予測値算出部120と、予測器記憶部130と、モデル評価部140と、出力部150とを備えている。
110 対象タスク属性推定部
111 サンプル生成部
112 属性ベクトル推定部
113 第一射影算出部
114 対象属性ベクトル算出部
120 予測値算出部
121 第二射影算出部
122 予測部
130 予測器記憶部
211 サンプル生成部
212 変換推定部
213 属性ベクトル算出部
222 予測部
311 属性ベクトル最適化部
321 予測器算出部
322 予測部
Claims (10)
- 対象タスクのドメインのサンプルに基づいて既存の予測器の属性ベクトルを推定し、前記予測器に対象タスクのラベル付サンプルを適用した結果に基づいて推定される前記属性ベクトルからなる空間に対する当該ラベル付サンプルの変換方法に基づいて、対象タスクの属性ベクトルを推定する対象タスク属性推定部と、
前記対象タスクの属性ベクトルに基づいて、前記変換方法により変換される予測対象サンプルの予測値を算出する予測値算出部とを備えた
ことを特徴とする学習装置。 - 対象タスク属性推定部は、
対象タスクのドメインのサンプルを複数の予測器に適用して得られる出力から、当該予測器でそれぞれ用いられる属性ベクトルを推定する属性ベクトル推定部と、
前記推定された属性ベクトルに適用して第一の推定値を得るための各ラベル付サンプルの射影を、前記予測器に当該ラベル付サンプルを適用して得られる値と当該第一の推定値との差が最小になるように算出する第一射影算出部と、
前記射影に適用して第二の推定値を得るための対象タスクの属性ベクトルを、前記ラベル付サンプルのラベルと当該第二の推定値との差が最小になるように算出する対象属性ベクトル算出部とを含み、
前記予測値算出部は、
前記推定された属性ベクトルに適用して第三の推定値を得るための予測対象サンプルの射影を、前記予測器に当該予測対象サンプルを適用して得られる値と当該第三の推定値との差が最小になるように算出する第二射影算出部と、
前記対象タスクの属性ベクトルに前記射影を適用して予測値を算出する予測部とを含む
請求項1記載の学習装置。 - 対象タスク属性推定部は、
対象タスクのドメインのサンプルを複数の予測器に適用して得られる出力から、当該予測器でそれぞれ用いられる属性ベクトルおよび前記出力を当該属性ベクトルの空間に変換する変換行列を推定する変換推定部と、
前記変換行列と属性間の変換を表わす関数である写像関数との積に適用して推定値を得るための対象タスクの属性ベクトルを、ラベル付サンプルのラベルと当該推定値との差が最小になるように算出する属性ベクトル算出部とを含み、
予測値算出部は、
前記対象タスクの属性ベクトルに前記変換行列および前記写像関数に予測対象サンプルを適用した結果を適用して予測値を算出する予測部を含む
請求項1記載の学習装置。 - 対象タスク属性推定部は、
対象タスクのラベルなしサンプルを複数の予測器に適用して得られる値からなるベクトルと、当該予測器でそれぞれ用いられる属性ベクトルに前記ラベルなしサンプルの当該属性ベクトルの空間への射影を適用して得られるベクトルとのノルムを第一の最適化項とし、
対象タスクのラベル付サンプルを前記複数の予測器に適用して得られる値および当該ラベル付サンプルのラベルからなるベクトルと、当該予測器でそれぞれ用いられる属性ベクトルおよび対象タスクの属性ベクトルに前記ラベル付サンプルの当該属性ベクトルおよび対象タスクの属性ベクトルの空間への射影を適用して得られるベクトルとのノルムを第二の最適化項としたときの、
前記第一の最適化項と前記第二の最適化項との和が最小になるように属性ベクトルおよび対象タスクの属性ベクトルを算出する属性ベクトル最適化部を含み、
前記予測値算出部は、
予め定めた比率のもとで算出される、属性間の変換を表わす関数である写像関数に前記ラベル付サンプルを適用した結果に対して予測器を適用した値と当該ラベル付サンプルのラベルとの差の大きさと、前記写像関数に前記ラベル付サンプルを適用した結果に対して予測器を適用した値と前記対象タスクの属性ベクトルに当該ラベル付サンプルの射影を適用した値との差の大きさとの和のラベル付サンプルごとの総和、および、
前記写像関数にラベルなしサンプルを適用した結果に対して予測器を適用した値と前記属性ベクトルに当該ラベルなしサンプルの射影を適用した値との差の大きさのラベルなしサンプルごとの総和
との和を最小化する予測器を算出する予測器算出部と、
前記写像関数に予測対象サンプルを適用した結果を前記予測器に適用して予測値を算出する予測部と含む
請求項1記載の学習装置。 - 既存の予測器の属性ベクトルと、推定された対象タスクを予測する予測器の属性ベクトルとの類似度を評価するモデル評価部と、
前記類似度に応じた態様で前記予測器の間の類似性を可視化する出力部とを備えた
請求項1から請求項4のうちのいずれか1項に記載の学習装置。 - コンピュータが、対象タスクのドメインのサンプルに基づいて既存の予測器の属性ベクトルを推定し、前記予測器に対象タスクのラベル付サンプルを適用した結果に基づいて推定される前記属性ベクトルからなる空間に対する当該ラベル付サンプルの変換方法に基づいて、対象タスクの属性ベクトルを推定し、
前記コンピュータが、前記対象タスクの属性ベクトルに基づいて、前記変換方法により変換される予測対象サンプルの予測値を算出する
ことを特徴とする学習方法。 - コンピュータが、対象タスクのドメインのサンプルを複数の予測器に適用して得られる出力から、当該予測器でそれぞれ用いられる属性ベクトルを推定し、
前記コンピュータが、前記推定された属性ベクトルに適用して第一の推定値を得るための各ラベル付サンプルの射影を、前記予測器に当該ラベル付サンプルを適用して得られる値と当該第一の推定値との差が最小になるように算出し、
前記コンピュータが、前記射影に適用して第二の推定値を得るための対象タスクの属性ベクトルを、前記ラベル付サンプルのラベルと当該第二の推定値との差が最小になるように算出し、
前記コンピュータが、前記推定された属性ベクトルに適用して第三の推定値を得るための予測対象サンプルの射影を、前記予測器に当該予測対象サンプルを適用して得られる値と当該第三の推定値との差が最小になるように算出し、
前記コンピュータが、前記対象タスクの属性ベクトルに前記射影を適用して予測値を算出する
請求項6記載の学習方法。 - コンピュータが、対象タスクのドメインのサンプルを複数の予測器に適用して得られる出力から、当該予測器でそれぞれ用いられる属性ベクトルおよび前記出力を当該属性ベクトルの空間に変換する変換行列を推定し、
前記コンピュータが、前記変換行列と属性間の変換を表わす関数である写像関数との積に適用して推定値を得るための対象タスクの属性ベクトルを、ラベル付サンプルのラベルと当該推定値との差が最小になるように算出し、
前記コンピュータが、前記対象タスクの属性ベクトルに前記変換行列および前記写像関数に予測対象サンプルを適用した結果を適用して予測値を算出する
請求項6記載の学習方法。 - コンピュータが、対象タスクのラベルなしサンプルを複数の予測器に適用して得られる値からなるベクトルと、当該予測器でそれぞれ用いられる属性ベクトルに前記ラベルなしサンプルの当該属性ベクトルの空間への射影を適用して得られるベクトルとのノルムを第一の最適化項とし、
前記コンピュータが、対象タスクのラベル付サンプルを前記複数の予測器に適用して得られる値および当該ラベル付サンプルのラベルからなるベクトルと、当該予測器でそれぞれ用いられる属性ベクトルおよび対象タスクの属性ベクトルに前記ラベル付サンプルの当該属性ベクトルおよび対象タスクの属性ベクトルの空間への射影を適用して得られるベクトルとのノルムを第二の最適化項としたときの、
前記第一の最適化項と前記第二の最適化項との和が最小になるように属性ベクトルおよび対象タスクの属性ベクトルを算出し、
前記コンピュータが、予め定めた比率のもとで算出される、属性間の変換を表わす関数である写像関数に前記ラベル付サンプルを適用した結果に対して予測器を適用した値と当該ラベル付サンプルのラベルとの差の大きさと、前記写像関数に前記ラベル付サンプルを適用した結果に対して予測器を適用した値と前記対象タスクの属性ベクトルに当該ラベル付サンプルの射影を適用した値との差の大きさとの和のラベル付サンプルごとの総和、および、
前記写像関数にラベルなしサンプルを適用した結果に対して予測器を適用した値と前記属性ベクトルに当該ラベルなしサンプルの射影を適用した値との差の大きさのラベルなしサンプルごとの総和
との和を最小化する予測器を算出し、
前記コンピュータが、前記写像関数に予測対象サンプルを適用した結果を前記予測器に適用して予測値を算出する
請求項6記載の学習方法。 - コンピュータに、
対象タスクのドメインのサンプルに基づいて既存の予測器の属性ベクトルを推定し、前記予測器に対象タスクのラベル付サンプルを適用した結果に基づいて推定される前記属性ベクトルからなる空間に対する当該ラベル付サンプルの変換方法に基づいて、対象タスクの属性ベクトルを推定する対象タスク属性推定処理、および、
前記対象タスクの属性ベクトルに基づいて、前記変換方法により変換される予測対象サンプルの予測値を算出する予測値算出処理
を実行させるための学習プログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2019/000704 WO2020144853A1 (ja) | 2019-01-11 | 2019-01-11 | 学習装置、学習方法および学習プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2020144853A1 JPWO2020144853A1 (ja) | 2021-11-25 |
JP7147874B2 true JP7147874B2 (ja) | 2022-10-05 |
Family
ID=71521087
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020565140A Active JP7147874B2 (ja) | 2019-01-11 | 2019-01-11 | 学習装置、学習方法および学習プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20220092475A1 (ja) |
JP (1) | JP7147874B2 (ja) |
WO (1) | WO2020144853A1 (ja) |
-
2019
- 2019-01-11 JP JP2020565140A patent/JP7147874B2/ja active Active
- 2019-01-11 US US17/419,974 patent/US20220092475A1/en active Pending
- 2019-01-11 WO PCT/JP2019/000704 patent/WO2020144853A1/ja active Application Filing
Non-Patent Citations (2)
Title |
---|
KODIROV, E et al.,"Unsupervised Domain Adaptation for Zero-Shot Learning",2015 IEEE International Conference on Computer Vision (ICCV) [online],IEEE,2016年02月18日,pp. 2452-2460,[retrieved on 2019.04.01], Retrieved from the Internet: <URL: https://ieeexplore.ieee.org/document/7410639>,<DOI: 10.1109/ICCV.2015.282> |
ZHAO, A et al.,"Domain-Invariant Projection Learning for Zero-Shot Recognition",arXiv.org [online],2018年10月19日,pp. 1-12,[retrieved on 2022.08.01], Retrieved from the Internet: <URL: https://arxiv.org/abs/1810.08326v1>,<DOI: 10.48550/arXiv.1810.08326> |
Also Published As
Publication number | Publication date |
---|---|
US20220092475A1 (en) | 2022-03-24 |
JPWO2020144853A1 (ja) | 2021-11-25 |
WO2020144853A1 (ja) | 2020-07-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102170105B1 (ko) | 신경 네트워크 구조의 생성 방법 및 장치, 전자 기기, 저장 매체 | |
Huber | Recursive Gaussian process: On-line regression and learning | |
JP7322997B2 (ja) | データ変換装置 | |
US10318874B1 (en) | Selecting forecasting models for time series using state space representations | |
Simar et al. | Stochastic FDH/DEA estimators for frontier analysis | |
CN108280451B (zh) | 语义分割及网络训练方法和装置、设备、介质 | |
JP2017049907A (ja) | ニューラルネットワーク、その学習方法、及びコンピュータプログラム | |
CN105335595A (zh) | 基于感受的多媒体处理 | |
US20230376559A1 (en) | Solution method selection device and method | |
Iquebal et al. | Emulating the evolution of phase separating microstructures using low-dimensional tensor decomposition and nonlinear regression | |
JP7147874B2 (ja) | 学習装置、学習方法および学習プログラム | |
US11501132B2 (en) | Predictive maintenance system for spatially correlated industrial equipment | |
Goeva et al. | Reconstructing input models via simulation optimization | |
JP7355240B2 (ja) | スキル可視化装置、スキル可視化方法およびスキル可視化プログラム | |
JP7355239B2 (ja) | 学習装置、学習方法および学習プログラム | |
US20060136328A1 (en) | Method and system for analyzing the risk of a project | |
JP7464115B2 (ja) | 学習装置、学習方法および学習プログラム | |
WO2020121378A1 (ja) | 学習装置および学習方法 | |
JPWO2019106758A1 (ja) | 言語処理装置、言語処理システムおよび言語処理方法 | |
JP2022142914A (ja) | 求解装置およびプログラム | |
Morichetta et al. | Demystifying deep learning in predictive monitoring for cloud-native SLOs | |
JP6726312B2 (ja) | シミュレーション方法、システム、及びプログラム | |
JPWO2020090076A1 (ja) | 回答統合装置、回答統合方法および回答統合プログラム | |
Yang et al. | High-resolution reconstruction of sparse data from dense low-resolution spatio-temporal data | |
US20230267363A1 (en) | Machine learning with periodic data |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210628 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210628 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220823 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220905 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7147874 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |