WO2021250751A1 - 学習方法、学習装置及びプログラム - Google Patents

学習方法、学習装置及びプログラム Download PDF

Info

Publication number
WO2021250751A1
WO2021250751A1 PCT/JP2020/022565 JP2020022565W WO2021250751A1 WO 2021250751 A1 WO2021250751 A1 WO 2021250751A1 JP 2020022565 W JP2020022565 W JP 2020022565W WO 2021250751 A1 WO2021250751 A1 WO 2021250751A1
Authority
WO
WIPO (PCT)
Prior art keywords
task
series data
learning
neural network
subset
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2020/022565
Other languages
English (en)
French (fr)
Inventor
具治 岩田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Inc
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to PCT/JP2020/022565 priority Critical patent/WO2021250751A1/ja
Priority to US18/007,707 priority patent/US20230222319A1/en
Priority to JP2022530376A priority patent/JP7452648B2/ja
Publication of WO2021250751A1 publication Critical patent/WO2021250751A1/ja
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G06N3/0442—Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/09—Supervised learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/0985—Hyperparameter optimisation; Meta-learning; Learning-to-learn

Definitions

  • the present invention relates to a learning method, a learning device and a program.
  • the model is trained using the training data set specific to the task.
  • a large amount of training data set is required to achieve high performance, but there is a problem that it costs a lot to prepare a sufficient amount of training data for each task.
  • Non-Patent Document 1 a meta-learning method has been proposed that utilizes learning data of different tasks and achieves high performance even with a small number of learning data.
  • One embodiment of the present invention has been made in view of the above points, and an object thereof is to learn a high-performance prediction model for series data.
  • the task set is set as D
  • the series data set set X ⁇ X d ⁇ d composed of the series data set X d for learning in the task d ⁇ D.
  • an input procedure for entering the ⁇ D after having sampled the task d from the task set D, a first subset from the corresponding series data sets X d in the task d, the one of the series data sets X d
  • the learning target parameter including the parameter of the first neural network and the parameter of the second neural network is updated by using the error between each value included in the series data and the predicted value corresponding to each value. It is characterized by the learning procedure to be performed and the computer performing.
  • a learning device capable of learning a high-performance prediction model for time-series data when a set of a plurality of time-series data is given to the time-series data which is one of the series data. 10 will be described.
  • the learning apparatus 10 at the time of learning, as input data,
  • assumed time series data sets of the task set X ⁇ X d ⁇ d ⁇ D is given.
  • x dnt represents the value of time t in the nth time series of task d
  • T dn represents the time series length of the nth time series of task d
  • N d represents the number of time series of task d. Note that x dnt may be multidimensional.
  • the learning device 10 learns a prediction model that more accurately predicts the future value of a certain time series (hereinafter, this time series is referred to as "query") related to the target task.
  • FIG. 1 is a diagram showing an example of the functional configuration of the learning device 10 according to the present embodiment.
  • the learning device 10 has an input unit 101, a task vector generation unit 102, a prediction unit 103, a learning unit 104, and a storage unit 105.
  • the storage unit 105 stores the time-series data set set X, parameters to be learned, and the like.
  • the input unit 101 inputs the time-series data set set X stored in the storage unit 105 at the time of learning. At the time of the test, the input unit 101 inputs the support set and the query of the target task d *.
  • the task d is sampled from the task set D by the learning unit 104, and then the support set S and the query set Q are sampled from the time series data set X d included in the time series data set set X. ..
  • the support set S is the support set used during training (that is, a small number of time series data sets in the sampled task d)
  • the query set Q is the set of queries used during training (that is, the time series of the sampled task d). Is.
  • the task vector generation unit 102 uses the support set to generate a task vector representing the nature of the task corresponding to this support set.
  • a time-series data set for a task is a support set
  • the task vector generation unit 102 calculates a task vector representing the characteristics of the time series by the neural network at each time of the time series data set.
  • the task vector generation unit 102 can use a bidirectional LSTM (Long Short-Term Memory) as a neural network and use the latent layer (hidden layer) as a task vector. That is, the task vector generation unit 102 can calculate , for example, the task vector nt at time t in the nth time series by the following equation (1).
  • h nt f (h n, t-1 , x nt ) (1)
  • f is a bidirectional LSTM.
  • h nt represents a latent layer at time t in both directions LSTM
  • x nt represents a value at time t in a time series x n.
  • the prediction unit 103 predicts the value of the time t + 1 next to a certain time t in this query by using the task vector generated by the task vector generation unit 102 and the query.
  • the prediction unit 103 calculates a query vector representing the characteristics of a given query x * (that is, a time series x *) by a neural network.
  • the prediction unit 103 can use the LSTM as a neural network and use the latent layer as a query vector. That is, the prediction unit 103, for example, it is possible to calculate the query vector z t at time t by the following equation (2).
  • z t g (z t-1 , x t * ) (2)
  • g is an LSTM.
  • z t represents a latent layer of time t of LSTM
  • x t * represents a value of time t in a time series x *.
  • the prediction unit 103 calculates the value (prediction value) of the next time at a certain time in the query by the neural network using the query vector and the task vector. For example, the prediction unit 103 calculates the vector a by the following equation (3) using the attention mechanism, and then calculates the predicted value of the time following a certain time in the query x * by the following equation (4). do.
  • K, Q, and V represent the parameters of the attention mechanism
  • u represents the neural network.
  • the learning unit 104 uses the time-series data set X input by the input unit 101 to sample the task d from the task set D, and then the time-series data set X d included in the time-series data set set X.
  • the support set S and the query set Q are sampled from.
  • the size of the support set S (that is, the number of time series included in the support set S) is set in advance.
  • the size of the query set Q is also preset. Further, when sampling, the learning unit 104 may perform sampling at random or may perform sampling according to some preset distribution.
  • the learning unit 104 uses an error between the predicted value of time t calculated from the query included in the support set S and the query set Q and the value of time t in the query, and this error becomes smaller.
  • the parameters to be learned that is, the parameters of the neural networks f, g and u, and the parameters K, Q and V of the attention mechanism
  • the learning unit 104 may update the learning target parameters so as to minimize the expected test error shown in the following equation (5).
  • E is the expected value
  • ⁇ is the parameter set to be learned
  • L is the error shown in the following equation (6).
  • L shown in the above equation (6) represents an error in the query set Q when the support set S is given.
  • N Q represents the size of the query set Q.
  • a negative log-likelihood may be used as L instead of an error.
  • FIG. 2 is a flowchart showing an example of the flow of the learning process according to the present embodiment. It is assumed that the learning target parameters stored in the storage unit 105 are initialized by a known method (for example, random initialization, initialization so as to follow a certain distribution, etc.).
  • the input unit 101 inputs the time-series data set set set X stored in the storage unit 105 (step S101).
  • Predetermined end conditions include, for example, that the parameters to be learned have converged, that the repetition has been executed a predetermined number of times, and the like.
  • the learning unit 104 samples the task d from the task set D (step S102).
  • the learning unit 104 samples the support set S from the time-series data set X d included in the time-series data set set X input in step S101 above (step S103).
  • the learning unit 104 is a set obtained by removing the support set S from the time series data set X d (that is, a set of time series included in the time series data set X d but not included in the support set S). ), The query set Q is sampled (step S104).
  • the task vector generation unit 102 uses the support set S sampled in the above step S103, and the property of the task d corresponding to the support set S (that is, the task d sampled in the above step S102). Generates a task vector representing (step S105).
  • the task vector generation unit 102 may generate a task vector by, for example, the above equation (1).
  • the prediction unit 103 uses the task vector generated in step S105 and each query included in the query set Q sampled in step S104 to predict the predicted value at each time t in each query. Is calculated (step S106). For example, the prediction unit 103 uses the task vector generated in step S105 above and the query for each query included in the query set Q, and uses the above equations (2) to (4) at each time t. The predicted value of is calculated.
  • the learning unit 104 calculates the error between the value at time t and the predicted value in each query included in the query set Q sampled in step S104 above, and calculates the gradient with respect to the parameter to be learned. (Step S107).
  • the learning unit 104 may calculate the error by, for example, the above equation (6). Further, the gradient may be calculated by a known method such as an error back propagation method.
  • the learning unit 104 updates the parameters to be learned so that the error becomes small by using the error calculated in step S107 and the gradient thereof (step S108).
  • the learning unit 104 may update the parameters to be learned by a known update formula or the like.
  • the learning device 10 can learn the parameters of the prediction model realized by the task vector generation unit 102 and the prediction unit 103.
  • the support set and the query of the target task d * are input by the input unit 101, the task vector is generated by the task vector generation unit 102 from this support set, and then the task vector and the query in the future time.
  • the predicted value of is calculated.
  • the learning device 10 at the time of the test does not have to have the learning unit 104, and may be referred to as, for example, a “prediction device” or the like.
  • the proposed method is a prediction model learned by the learning device 10 according to the present embodiment.
  • LSTM, NN (neural network), and Linear (linear model) are existing methods for comparison
  • MAML is model unknown meta learning
  • DI is when the same model is used for all tasks
  • DS is for each task.
  • Pre is a method in which the value at the previous time is used as the predicted value.
  • the prediction model trained by the learning device 10 according to the present embodiment achieves a lower test error than the existing method.
  • the learning device 10 can learn a prediction model from a set of series data of a plurality of tasks, and even when only a small amount of learning data is given in the target task. , High performance can be achieved.
  • FIG. 3 is a diagram showing an example of the hardware configuration of the learning device 10 according to the present embodiment.
  • the learning device 10 is realized by a general computer or a computer system, and has an input device 201, a display device 202, an external I / F 203, a communication I / F 204, and a processor. It has 205 and a memory device 206. Each of these hardware is connected so as to be communicable via the bus 207.
  • the input device 201 is, for example, a keyboard, a mouse, a touch panel, or the like.
  • the display device 202 is, for example, a display or the like.
  • the learning device 10 does not have to have at least one of the input device 201 and the display device 202.
  • the external I / F 203 is an interface with an external device such as a recording medium 203a.
  • the learning device 10 can read or write the recording medium 203a via the external I / F 203.
  • one or more programs that realize each functional unit (input unit 101, task vector generation unit 102, prediction unit 103, and learning unit 104) of the learning device 10 may be stored in the recording medium 203a.
  • the recording medium 203a includes, for example, a CD (Compact Disc), a DVD (Digital Versatile Disk), an SD memory card (Secure Digital memory card), a USB (Universal Serial Bus) memory card, and the like.
  • the communication I / F 204 is an interface for connecting the learning device 10 to the communication network.
  • One or more programs that realize each functional unit of the learning device 10 may be acquired (downloaded) from a predetermined server device or the like via the communication I / F 204.
  • the processor 205 is, for example, various arithmetic units such as a CPU (Central Processing Unit) and a GPU (Graphics Processing Unit). Each functional unit included in the learning device 10 is realized, for example, by a process of causing the processor 205 to execute one or more programs stored in the memory device 206.
  • a CPU Central Processing Unit
  • GPU Graphics Processing Unit
  • the memory device 206 is, for example, various storage devices such as HDD (Hard Disk Drive), SSD (Solid State Drive), RAM (Random Access Memory), ROM (Read Only Memory), and flash memory.
  • the storage unit 105 included in the learning device 10 is realized by, for example, the memory device 206.
  • the storage unit 105 may be realized by, for example, a storage device (for example, a database server or the like) connected to the learning device 10 via a communication network.
  • the learning device 10 can realize the above-mentioned learning process by having the hardware configuration shown in FIG.
  • the hardware configuration shown in FIG. 3 is an example, and the learning device 10 may have another hardware configuration.
  • the learning device 10 may have a plurality of processors 205 or a plurality of memory devices 206.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

一実施形態に係る学習方法は、タスク集合をＤとして、タスクｄ∈Ｄにおける学習用の系列データセットＸｄで構成される系列データセット集合Ｘ＝｛Ｘｄ｝ｄ∈Ｄを入力する入力手順と、前記タスク集合Ｄからタスクｄをサンプリングした上で、前記タスクｄに対応する系列データセットＸｄから第１の部分集合と、前記系列データセットＸｄのうち前記第１の部分集合を除く集合から第２の部分集合とをサンプリングするサンプリング手順と、第１のニューラルネットワークのパラメータを用いて、前記第１の部分集合の特徴を表すタスクベクトルを生成する生成手順と、第２のニューラルネットワークのパラメータを用いて、前記タスクベクトルと前記第２の部分集合に含まれる系列データから、前記系列データに含まれる各値の予測値をそれぞれ計算する予測手順と、前記系列データに含まれる各値と、前記各値にそれぞれ対応する予測値との誤差を用いて、前記第１のニューラルネットワークのパラメータと前記第２のニューラルネットワークのパラメータとを含む学習対象パラメータを更新する学習手順と、をコンピュータが実行することを特徴とする。

Description

学習方法、学習装置及びプログラム
　本発明は、学習方法、学習装置及びプログラムに関する。
　一般に、機械学習手法では、タスク固有の学習データセットを使ってモデルの学習を行う。高い性能を達成するためには大量の学習データセットが必要であるが、タスク毎に十分な量の学習データを用意するためには高いコストが掛かるという問題がある。
　この問題を解決するために、異なるタスクの学習データを活用し、少数の学習データでも高い性能を達成するためのメタ学習手法が提案されている（例えば、非特許文献１）。
Finn, Chelsea, Pieter Abbeel, and Sergey Levine. "Model-agnostic meta-learning for fast adaptation of deep networks." Proceedings of the 34th International Conference on Machine Learning, 2017.
　しかしながら、既存のメタ学習手法は、系列データにおいて十分な性能を達成できないという問題点がある。
　本発明の一実施形態は、上記の点に鑑みてなされたもので、系列データに対する高性能な予測モデルを学習することを目的とする。
　上記目的を達成するため、一実施形態に係る学習方法は、タスク集合をＤとして、タスクｄ∈Ｄにおける学習用の系列データセットＸｄで構成される系列データセット集合Ｘ＝｛Ｘｄ｝ｄ∈Ｄを入力する入力手順と、前記タスク集合Ｄからタスクｄをサンプリングした上で、前記タスクｄに対応する系列データセットＸｄから第１の部分集合と、前記系列データセットＸｄのうち前記第１の部分集合を除く集合から第２の部分集合とをサンプリングするサンプリング手順と、第１のニューラルネットワークのパラメータを用いて、前記第１の部分集合の特徴を表すタスクベクトルを生成する生成手順と、第２のニューラルネットワークのパラメータを用いて、前記タスクベクトルと前記第２の部分集合に含まれる系列データから、前記系列データに含まれる各値の予測値をそれぞれ計算する予測手順と、前記系列データに含まれる各値と、前記各値にそれぞれ対応する予測値との誤差を用いて、前記第１のニューラルネットワークのパラメータと前記第２のニューラルネットワークのパラメータとを含む学習対象パラメータを更新する学習手順と、をコンピュータが実行することを特徴とする。
　系列データに対する高性能な予測モデルを学習することができる。
本実施形態に係る学習装置の機能構成の一例を示す図である。 本実施形態に係る学習処理の流れの一例を示すフローチャートである。 本実施形態に係る学習装置のハードウェア構成の一例を示す図である。
　以下、本発明の一実施形態について説明する。本実施形態では、系列データの１つである時系列データを対象として、複数の時系列データの集合が与えられたときに、時系列データに対する高性能な予測モデルを学習することができる学習装置１０について説明する。
　本実施形態に係る学習装置１０には、学習時に、入力データとして、｜Ｄ｜タスクの時系列データセット集合Ｘ＝｛Ｘｄ｝ｄ∈Ｄが与えられるものとする。ここで、
Figure JPOXMLDOC01-appb-M000001
 はタスクｄの時系列データセット、
Figure JPOXMLDOC01-appb-M000002
 はタスクｄのｎ番目の時系列を表す。また、ｘｄｎｔはタスクｄのｎ番目の時系列における時刻ｔの値、Ｔｄｎはタスクｄのｎ番目の時系列の時系列長、Ｎｄはタスクｄの時系列数を表す。なお、ｘｄｎｔは多次元でもよい。
　テスト時（又は、予測モデルの運用時等）には、目的タスクｄ＊における少数の時系列データセット（以下、「サポート集合」と呼ぶ。）が与えられるものとする。このとき、目的タスクに関する或る時系列（以下、この時系列を「クエリ」と呼ぶ。）の将来の値をより正確に予測する予測モデルを学習することが学習装置１０の目標である。
　＜機能構成＞
　まず、本実施形態に係る学習装置１０の機能構成について、図１を参照しながら説明する。図１は、本実施形態に係る学習装置１０の機能構成の一例を示す図である。
　図１に示すように、本実施形態に係る学習装置１０は、入力部１０１と、タスクベクトル生成部１０２と、予測部１０３と、学習部１０４と、記憶部１０５とを有する。
　記憶部１０５には、時系列データセット集合Ｘや学習対象となるパラメータ等が記憶されている。
　入力部１０１は、学習時に、記憶部１０５に記憶されている時系列データセット集合Ｘを入力する。なお、テスト時には、入力部１０１は、目的タスクｄ＊のサポート集合及びクエリを入力する。
　ここで、学習時には、学習部１０４によってタスク集合Ｄからタスクｄがサンプリングされた上で、時系列データセット集合Ｘに含まれる時系列データセットＸｄからサポート集合Ｓ及びクエリ集合Ｑがサンプリングされる。サポート集合Ｓは学習時に用いられるサポート集合（つまり、サンプリングされたタスクｄにおける少数の時系列データセット）、クエリ集合Ｑは学習時に用いられるクエリ（つまり、サンプリングされたタスクｄの時系列）の集合である。
　タスクベクトル生成部１０２は、サポート集合を用いて、このサポート集合に対応するタスクの性質を表すタスクベクトルを生成する。
　或るタスクの時系列データセットがサポート集合
Figure JPOXMLDOC01-appb-M000003
 として与えられたとする。なお、Ｎは、このサポート集合Ｓに含まれる時系列数である。このとき、タスクベクトル生成部１０２は、この時系列データセットのそれぞれの時刻において、その時系列の特徴を表すタスクベクトルをニューラルネットワークにより計算する。例えば、タスクベクトル生成部１０２は、ニューラルネットワークとして両方向ＬＳＴＭ（Long Short-Term Memory）を用いて、その潜在層（隠れ層）をタスクベクトルとして用いることができる。すなわち、タスクベクトル生成部１０２は、例えば、以下の式（１）によりｎ番目の時系列における時刻ｔのタスクベクトルｈｎｔを計算することができる。
　ｈｎｔ＝ｆ（ｈｎ，ｔ－１，ｘｎｔ）　　　　（１）
　ここで、ｆは両方向ＬＳＴＭである。また、ｈｎｔは両方向ＬＳＴＭの時刻ｔの潜在層、ｘｎｔは時系列ｘｎにおける時刻ｔの値を表す。
　予測部１０３は、タスクベクトル生成部１０２によって生成されたタスクベクトルと、クエリとを用いて、このクエリにおける或る時刻ｔの次の時刻ｔ＋１の値を予測する。
　まず、予測部１０３は、与えられたクエリｘ＊（つまり、時系列ｘ＊）の特徴を表すクエリベクトルをニューラルネットワークにより計算する。例えば、予測部１０３は、ニューラルネットワークとしてＬＳＴＭを用いて、その潜在層をクエリベクトルとして用いることができる。すなわち、予測部１０３は、例えば、以下の式（２）により時刻ｔのクエリベクトルｚｔを計算することができる。
　ｚｔ＝ｇ（ｚｔ－１，ｘｔ ＊）　　　　（２）
　ここで、ｇはＬＳＴＭである。また、ｚｔはＬＳＴＭの時刻ｔの潜在層、ｘｔ ＊は時系列ｘ＊における時刻ｔの値を表す。
　次に、予測部１０３は、クエリベクトルとタスクベクトルとを用いて、ニューラルネットワークにより当該クエリにおける或る時刻の次の時刻の値（予測値）を計算する。例えば、予測部１０３は、アテンション機構を用いて以下の式（３）によりベクトルａを計算した後、以下の式（４）により当該クエリｘ＊における或る時刻の次の時刻の予測値を計算する。
Figure JPOXMLDOC01-appb-M000004
 　ここで、Ｋ、Ｑ、Ｖはアテンション機構のパラメータ、ｕはニューラルネットワークを表す。また、ｚは当該クエリｘ＊の当該或る時刻におけるタスクベクトル（例えば、当該或る時刻がｔである場合はｚ＝ｚｔ）、＾ｘｔ＋１（正確にはハット「＾」はｘの真上に表記）は当該クエリｘ＊における当該或る時刻の次の時刻の予測値である。なお、τは転置を表す。
　なお、学習時には、クエリ集合Ｑに含まれる各クエリに対して、当該クエリにおける各時刻の予測値（つまり、当該クエリの各時刻ｔの各々に対して、ｚ＝ｚｔとしてその次の時刻ｔ＋１における予測値＾ｘｔ＋１）が計算される。一方で、テスト時には、目的タスクに関するクエリに含まれない将来の時刻における予測値（例えば、当該クエリが時刻Ｔまでの値を含む場合、ｚ＝ｚＴとしてその次の時刻Ｔ＋１における予測値＾ｘＴ＋１）が計算される。
　学習部１０４は、入力部１０１によって入力された時系列データセット集合Ｘを用いて、タスク集合Ｄからタスクｄをサンプリングした上で、この時系列データセット集合Ｘに含まれる時系列データセットＸｄからサポート集合Ｓ及びクエリ集合Ｑをサンプリングする。なお、サポート集合Ｓの大きさ（つまり、サポート集合Ｓに含まれる時系列数）は予め設定される。同様に、クエリ集合Ｑの大きさも予め設定される。また、サンプリングする際、学習部１０４は、ランダムにサンプリングを行ってもよいし、予め設定された何等かの分布に従ってサンプリングを行ってもよい。
　そして、学習部１０４は、当該サポート集合Ｓ及び当該クエリ集合Ｑに含まれるクエリから計算された時刻ｔの予測値と、当該クエリにおける時刻ｔの値との誤差を用いて、この誤差が小さくなるように学習対象のパラメータ（つまり、ニューラルネットワークｆ、ｇ及びｕのパラメータ、アテンション機構のパラメータＫ、Ｑ及びＶ）を更新（学習）する。
　例えば、回帰問題の場合、学習部１０４は、以下の式（５）に示す期待テスト誤差を最小化するように学習対象パラメータを更新すればよい。
Figure JPOXMLDOC01-appb-M000005
 　ここで、Ｅは期待値、Φは学習対象のパラメータ集合、Ｌは以下の式（６）に示す誤差を表す。
Figure JPOXMLDOC01-appb-M000006
 　すなわち、上記の式（６）に示すＬは、サポート集合Ｓが与えられたときのクエリ集合Ｑの誤差を表す。ＮＱはクエリ集合Ｑの大きさを表す。ただし、Ｌとして誤差ではなく、負の対数尤度が用いられてもよい。
　＜学習処理の流れ＞
　次に、本実施形態に係る学習装置１０が実行する学習処理の流れについて、図２を参照しながら説明する。図２は、本実施形態に係る学習処理の流れの一例を示すフローチャートである。なお、記憶部１０５に記憶されている学習対象パラメータは、既知の手法で初期化（例えば、ランダムに初期化や或る分布に従うように初期化等）されているものとする。
　まず、入力部１０１は、記憶部１０５に記憶されている時系列データセット集合Ｘを入力する（ステップＳ１０１）。
　以降のステップＳ１０２～ステップＳ１０８は所定の終了条件を満たすまで繰り返し実行される。所定の終了条件としては、例えば、学習対象のパラメータが収束したこと、当該繰り返しが所定の回数実行されたこと等が挙げられる。
　学習部１０４は、タスク集合Ｄからタスクｄをサンプリングする（ステップＳ１０２）。
　次に、学習部１０４は、上記のステップＳ１０１で入力された時系列データセット集合Ｘに含まれる時系列データセットＸｄからサポート集合Ｓをサンプリングする（ステップＳ１０３）。
　次に、学習部１０４は、時系列データセットＸｄからサポート集合Ｓを除いた集合（つまり、時系列データセットＸｄに含まれる時系列のうち、サポート集合Ｓに含まれない時系列の集合）から、クエリ集合Ｑをサンプリングする（ステップＳ１０４）。
　続いて、タスクベクトル生成部１０２は、上記のステップＳ１０３でサンプリングされたサポート集合Ｓを用いて、このサポート集合Ｓに対応するタスクｄ（つまり、上記のステップＳ１０２でサンプリングされたタスクｄ）の性質を表すタスクベクトルを生成する（ステップＳ１０５）。タスクベクトル生成部１０２は、例えば、上記の式（１）によりタスクベクトルを生成すればよい。
　次に、予測部１０３は、上記のステップＳ１０５で生成されたタスクベクトルと、上記のステップＳ１０４でサンプリングされたクエリ集合Ｑに含まれる各クエリとを用いて、各クエリにおける各時刻ｔの予測値を計算する（ステップＳ１０６）。予測部１０３は、例えば、クエリ集合Ｑに含まれるクエリ毎に、上記のステップＳ１０５で生成されたタスクベクトルと当該クエリとを用いて、上記の式（２）～式（４）により各時刻ｔの予測値を計算すればよい。
　次に、学習部１０４は、上記のステップＳ１０４でサンプリングされたクエリ集合Ｑに含まれる各クエリにおける時刻ｔの値とその予測値との誤差をそれぞれ計算すると共に、学習対象のパラメータに関する勾配を計算する（ステップＳ１０７）。学習部１０４は、例えば、上記の式（６）により誤差を計算すればよい。また、その勾配は、例えば、誤差逆伝播法等の既知の手法により計算すればよい。
　そして、学習部１０４は、上記のステップＳ１０７で計算した誤差及びその勾配を用いて、誤差が小さくなるように学習対象のパラメータを更新する（ステップＳ１０８）。なお、学習部１０４は、既知の更新式等により学習対象のパラメータを更新すればよい。
　以上により、本実施形態に係る学習装置１０は、タスクベクトル生成部１０２及び予測部１０３で実現される予測モデルのパラメータを学習することができる。なお、テスト時には、目的タスクｄ＊のサポート集合及びクエリを入力部１０１により入力し、このサポート集合からタスクベクトル生成部１０２によりタスクベクトルを生成した上で、このタスクベクトルと当該クエリから将来の時刻の予測値を計算すればよい。テスト時における学習装置１０は学習部１０４を有していなくてもよく、また、例えば、「予測装置」等と称されてもよい。
　＜評価結果＞
　次に、本実施形態に係る学習装置１０によって学習された予測モデルの評価結果について説明する。本実施形態では、一例として、時系列データを用いて予測モデルを評価した。その評価結果としてテスト誤差を以下の表１に示す。
Figure JPOXMLDOC01-appb-T000007
 　ここで、提案手法は、本実施形態に係る学習装置１０によって学習された予測モデルである。また、ＬＳＴＭ、ＮＮ（ニューラルネットワーク）、Ｌｉｎｅａｒ（線形モデル）は比較対象の既存手法であり、ＭＡＭＬはモデル不可知メタ学習、ＤＩは全てのタスクで同一モデルを使用した場合、ＤＳは各タスクで異なるモデルを使用した場合である。また、Ｐｒｅは１つ前の時刻の値を予測値とする手法である。
　上記の表１に示すように、本実施形態に係る学習装置１０によって学習された予測モデルは、既存手法に比べて低いテスト誤差を達成している。
　以上のように、本実施形態に係る学習装置１０は、複数のタスクの系列データの集合から予測モデルを学習することができ、目的タスクで少量の学習データしか与えられていない場合であっても、高い性能を達成することができる。
　＜ハードウェア構成＞
　最後に、本実施形態に係る学習装置１０のハードウェア構成について、図３を参照しながら説明する。図３は、本実施形態に係る学習装置１０のハードウェア構成の一例を示す図である。
　図３に示すように、本実施形態に係る学習装置１０は一般的なコンピュータ又はコンピュータシステムで実現され、入力装置２０１と、表示装置２０２と、外部Ｉ／Ｆ２０３と、通信Ｉ／Ｆ２０４と、プロセッサ２０５と、メモリ装置２０６とを有する。これら各ハードウェアは、それぞれがバス２０７を介して通信可能に接続されている。
　入力装置２０１は、例えば、キーボードやマウス、タッチパネル等である。表示装置２０２は、例えば、ディスプレイ等である。なお、学習装置１０は、入力装置２０１及び表示装置２０２のうちの少なくとも一方を有していなくてもよい。
　外部Ｉ／Ｆ２０３は、記録媒体２０３ａ等の外部装置とのインタフェースである。学習装置１０は、外部Ｉ／Ｆ２０３を介して、記録媒体２０３ａの読み取りや書き込み等を行うことができる。記録媒体２０３ａには、例えば、学習装置１０が有する各機能部（入力部１０１、タスクベクトル生成部１０２、予測部１０３及び学習部１０４）を実現する１以上のプログラムが格納されていてもよい。なお、記録媒体２０３ａには、例えば、ＣＤ（Compact Disc）、ＤＶＤ（Digital Versatile Disk）、ＳＤメモリカード（Secure Digital memory card）、ＵＳＢ（Universal Serial Bus）メモリカード等がある。
　通信Ｉ／Ｆ２０４は、学習装置１０を通信ネットワークに接続するためのインタフェースである。なお、学習装置１０が有する各機能部を実現する１以上のプログラムは、通信Ｉ／Ｆ２０４を介して、所定のサーバ装置等から取得（ダウンロード）されてもよい。
　プロセッサ２０５は、例えば、ＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）等の各種演算装置である。学習装置１０が有する各機能部は、例えば、メモリ装置２０６に格納されている１以上のプログラムがプロセッサ２０５に実行させる処理により実現される。
　メモリ装置２０６は、例えば、ＨＤＤ（Hard Disk Drive）やＳＳＤ（Solid State Drive）、ＲＡＭ（Random Access Memory）、ＲＯＭ（Read Only Memory）、フラッシュメモリ等の各種記憶装置である。学習装置１０が有する記憶部１０５は、例えば、メモリ装置２０６により実現される。ただし、当該記憶部１０５は、例えば、学習装置１０と通信ネットワークを介して接続される記憶装置（例えば、データベースサーバ等）により実現されていてもよい。
　本実施形態に係る学習装置１０は、図３に示すハードウェア構成を有することにより、上述した学習処理を実現することができる。なお、図３に示すハードウェア構成は一例であって、学習装置１０は、他のハードウェア構成を有していてもよい。例えば、学習装置１０は、複数のプロセッサ２０５を有していてもよいし、複数のメモリ装置２０６を有していてもよい。
　本発明は、具体的に開示された上記の実施形態に限定されるものではなく、請求の範囲の記載から逸脱することなく、種々の変形や変更、既知の技術との組み合わせ等が可能である。
　１０　　　　学習装置
　１０１　　　入力部
　１０２　　　タスクベクトル生成部
　１０３　　　予測部
　１０４　　　学習部
　１０５　　　記憶部
　２０１　　　入力装置
　２０２　　　表示装置
　２０３　　　外部Ｉ／Ｆ
　２０３ａ　　記録媒体
　２０４　　　通信Ｉ／Ｆ
　２０５　　　プロセッサ
　２０６　　　メモリ装置
　２０７　　　バス

Claims (7)

  1. 　タスク集合をＤとして、タスクｄ∈Ｄにおける学習用の系列データセットＸｄで構成される系列データセット集合Ｘ＝｛Ｘｄ｝ｄ∈Ｄを入力する入力手順と、
    　前記タスク集合Ｄからタスクｄをサンプリングした上で、前記タスクｄに対応する系列データセットＸｄから第１の部分集合と、前記系列データセットＸｄのうち前記第１の部分集合を除く集合から第２の部分集合とをサンプリングするサンプリング手順と、
    　第１のニューラルネットワークのパラメータを用いて、前記第１の部分集合の特徴を表すタスクベクトルを生成する生成手順と、
    　第２のニューラルネットワークのパラメータを用いて、前記タスクベクトルと前記第２の部分集合に含まれる系列データから、前記系列データに含まれる各値の予測値をそれぞれ計算する予測手順と、
    　前記系列データに含まれる各値と、前記各値にそれぞれ対応する予測値との誤差を用いて、前記第１のニューラルネットワークのパラメータと前記第２のニューラルネットワークのパラメータとを含む学習対象パラメータを更新する学習手順と、
    　をコンピュータが実行することを特徴とする学習方法。
  2. 　前記第１のニューラルネットワークは両方向ＬＳＴＭであり、
    　前記生成手順は、
    　前記両方向ＬＳＴＭの各時刻における潜在層のそれぞれを前記タスクベクトルとして生成する、ことを特徴とする請求項１に記載の学習方法。
  3. 　前記第２のニューラルネットワークにはＬＳＴＭが含まれ、
    　前記予測手順は、
    　前記ＬＳＴＭの各時刻における潜在層のそれぞれを、前記第２の部分集合に含まれる系列データの特徴を表すベクトルとして生成し、
    　前記タスクベクトルと前記系列データの特徴を表すベクトルから、前記系列データに含まれる各値の予測値をそれぞれ計算する、ことを特徴とする請求項１又は２に記載の学習方法。
  4. 　前記第２のニューラルネットワークにはアテンション機構を備えるニューラルネットワークが含まれ、
    　前記予測手順は、
    　前記アテンション機構を備えるニューラルネットワークにより、前記系列データに含まれる各値の予測値をそれぞれ計算する、ことを特徴とする請求項３に記載の学習方法。
  5. 　前記学習手順は、
    　期待テスト誤差又は負の対数尤度により前記誤差を計算し、計算した前記誤差を用いて、前記学習対象パラメータを更新する、ことを特徴とする請求項１乃至４の何れか一項に記載の学習方法。
  6. 　タスク集合をＤとして、タスクｄ∈Ｄにおける学習用の系列データセットＸｄで構成される系列データセット集合Ｘ＝｛Ｘｄ｝ｄ∈Ｄを入力する入力部と、
    　前記タスク集合Ｄからタスクｄをサンプリングした上で、前記タスクｄに対応する系列データセットＸｄから第１の部分集合と、前記系列データセットＸｄのうち前記第１の部分集合を除く集合から第２の部分集合とをサンプリングするサンプリング部と、
    　第１のニューラルネットワークのパラメータを用いて、前記第１の部分集合の特徴を表すタスクベクトルを生成する生成部と、
    　第２のニューラルネットワークのパラメータを用いて、前記タスクベクトルと前記第２の部分集合に含まれる系列データから、前記系列データに含まれる各値の予測値をそれぞれ計算する予測部と、
    　前記系列データに含まれる各値と、前記各値にそれぞれ対応する予測値との誤差を用いて、前記第１のニューラルネットワークのパラメータと前記第２のニューラルネットワークのパラメータとを含む学習対象パラメータを更新する学習部と、
    　を有することを特徴とする学習装置。
  7. 　コンピュータに、請求項１乃至５の何れか一項に記載の学習方法を実行させるプログラム。
PCT/JP2020/022565 2020-06-08 2020-06-08 学習方法、学習装置及びプログラム Ceased WO2021250751A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
PCT/JP2020/022565 WO2021250751A1 (ja) 2020-06-08 2020-06-08 学習方法、学習装置及びプログラム
US18/007,707 US20230222319A1 (en) 2020-06-08 2020-06-08 Learning method, learning apparatus and program
JP2022530376A JP7452648B2 (ja) 2020-06-08 2020-06-08 学習方法、学習装置及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/022565 WO2021250751A1 (ja) 2020-06-08 2020-06-08 学習方法、学習装置及びプログラム

Publications (1)

Publication Number Publication Date
WO2021250751A1 true WO2021250751A1 (ja) 2021-12-16

Family

ID=78845424

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2020/022565 Ceased WO2021250751A1 (ja) 2020-06-08 2020-06-08 学習方法、学習装置及びプログラム

Country Status (3)

Country Link
US (1) US20230222319A1 (ja)
JP (1) JP7452648B2 (ja)
WO (1) WO2021250751A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2024042707A1 (ja) * 2022-08-26 2024-02-29

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019023717A (ja) * 2017-05-25 2019-02-14 バイドゥ ユーエスエー エルエルシーＢａｉｄｕ ＵＳＡ ＬＬＣ 傾聴、インタラクト、及びトーク：インタラクションを介するスピーキング学習

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10268679B2 (en) * 2016-12-02 2019-04-23 Microsoft Technology Licensing, Llc Joint language understanding and dialogue management using binary classification based on forward and backward recurrent neural network
US11839983B2 (en) * 2018-11-27 2023-12-12 Ocado Innovation Limited Systems and methods for robotic grasp verification
EP3735894B1 (en) * 2019-05-09 2022-11-30 Tata Consultancy Services Limited Recurrent neural network architecture based classification of atrial fibrillation using single lead ecg
CN111178526A (zh) 2019-12-30 2020-05-19 广东石油化工学院 一种基于元学习的变分随机特征的核方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019023717A (ja) * 2017-05-25 2019-02-14 バイドゥ ユーエスエー エルエルシーＢａｉｄｕ ＵＳＡ ＬＬＣ 傾聴、インタラクト、及びトーク：インタラクションを介するスピーキング学習

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2024042707A1 (ja) * 2022-08-26 2024-02-29
WO2024042707A1 (ja) * 2022-08-26 2024-02-29 日本電信電話株式会社 メタ学習方法、メタ学習装置及びプログラム
JP7819776B2 (ja) 2022-08-26 2026-02-25 Ｎｔｔ株式会社 メタ学習方法、メタ学習装置及びプログラム

Also Published As

Publication number Publication date
US20230222319A1 (en) 2023-07-13
JP7452648B2 (ja) 2024-03-19
JPWO2021250751A1 (ja) 2021-12-16

Similar Documents

Publication Publication Date Title
JP6889270B2 (ja) ニューラルネットワークアーキテクチャの最適化
CN115427968B (zh) 边缘计算设备中的鲁棒人工智能推理
CN110738321B (zh) 一种量子信号处理方法及装置
US12620457B2 (en) Retrosynthesis using neural networks
Verel et al. A surrogate model based on walsh decomposition for pseudo-boolean functions
CN110622175A (zh) 神经网络分类
CN114897173B (zh) 基于变分量子线路确定PageRank的方法及装置
JP2013503393A (ja) 偽陽性を減少させるために複数のインラインヒューリスティックを使用するためのシステムおよび方法
US20230401361A1 (en) Generating and analyzing material structures based on neural networks
CN113838541B (zh) 设计配体分子的方法和装置
JP7669810B2 (ja) 情報処理プログラム、情報処理方法および情報処理装置
CN114580648A (zh) 消除广义振幅阻尼噪声的方法及装置、电子设备和介质
JP2024170949A (ja) 機械学習プログラム、機械学習方法および情報処理装置
JP7452648B2 (ja) 学習方法、学習装置及びプログラム
JP7505555B2 (ja) 学習装置、学習方法及びプログラム
WO2022157862A1 (ja) トラフィック変動予測装置、及びトラフィック変動予測方法、並びにトラフィック変動予測プログラム
CN114022274A (zh) 图神经网络结构搜索方法和系统
WO2021250752A1 (ja) 学習方法、学習装置及びプログラム
Kwasniok Semiparametric maximum likelihood probability density estimation
CN117974845A (zh) 数据处理方法、装置、介质及电子设备
JP7465497B2 (ja) 学習装置、学習方法及びプログラム
CN108446375A (zh) 一种基于Spark平台的多尺度关联规则方法
JPWO2023132029A5 (ja)
CN114997060A (zh) 一种声子晶体时变可靠性测试方法、计算设备及存储介质
JP5276503B2 (ja) データ解析装置、データ解析プログラムおよびその記録媒体

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20940393

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2022530376

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 20940393

Country of ref document: EP

Kind code of ref document: A1