WO2017183587A1 - 学習装置、学習方法および学習プログラム - Google Patents

学習装置、学習方法および学習プログラム Download PDF

Info

Publication number
WO2017183587A1
WO2017183587A1 PCT/JP2017/015337 JP2017015337W WO2017183587A1 WO 2017183587 A1 WO2017183587 A1 WO 2017183587A1 JP 2017015337 W JP2017015337 W JP 2017015337W WO 2017183587 A1 WO2017183587 A1 WO 2017183587A1
Authority
WO
WIPO (PCT)
Prior art keywords
learning
gradient
primary
primary gradient
moving average
Prior art date
Application number
PCT/JP2017/015337
Other languages
English (en)
French (fr)
Inventor
安俊 井田
靖宏 藤原
Original Assignee
日本電信電話株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 日本電信電話株式会社 filed Critical 日本電信電話株式会社
Priority to EP17785925.3A priority Critical patent/EP3432230A4/en
Priority to JP2018513164A priority patent/JP6417075B2/ja
Priority to US16/092,135 priority patent/US20190156240A1/en
Publication of WO2017183587A1 publication Critical patent/WO2017183587A1/ja

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Definitions

  • the present invention relates to a learning device, a learning method, and a learning program.
  • Machine learning is applied to the field where learning of model parameters is performed so as to lower the error function based on observation data, and prediction is performed on unknown data in problems to be solved such as identification, regression, and clustering.
  • machine learning a model is created from past observation data, and future data is predicted.
  • it is necessary to create a model so that the deviation (error) between the predicted data and the actually measured data is reduced.
  • machine learning it is expected to make a model in a short time with a small error.
  • the stochastic gradient descent method is a method in which learning data is selected at random, an error function is calculated, and an operation of correcting parameters in a gradient direction that reduces the error function is repeated.
  • various learning algorithms based on the stochastic gradient descent method have been proposed in order to realize efficient learning.
  • “efficient” means that the error function can be lowered with a smaller number of parameter updates compared to the conventional stochastic gradient descent method.
  • AdaGrad that realizes efficient learning by automatically adjusting the learning rate based on the probabilistic gradient descent method has been proposed (for example, see Non-Patent Document 1).
  • the learning rate is a hyperparameter for controlling the amount of parameter update during model learning. How quickly the error function can be minimized depends on the learning rate setting.
  • an algorithm called RMSProp is an algorithm in which automatic adjustment of the learning rate is applied to learning of a complex model such as deep learning.
  • An efficient learning algorithm called AdaDelta for example, refer to Non-Patent Document 2
  • Adam for example, refer to Non-Patent Document 3
  • AdaDelta for example, refer to Non-Patent Document 2
  • Adam for example, refer to Non-Patent Document 3
  • Adam has the highest efficiency among the algorithms that automatically adjust these learning rates.
  • AdaGrad a weighting parameter that influences the learning rate by dividing the learning rate by the moving average of the absolute values of the past primary gradients.
  • the primary gradient refers to a differential with respect to a parameter in the error function.
  • This primary gradient is information that defines the direction of parameter update. Therefore, it can be inferred that the information of the direction of the primary gradient is important for adjusting the learning rate.
  • AdaGrad, RMSProp, AdaDelta, and Adam the absolute value of the primary gradient is used, so information on the direction of the primary gradient is lost with respect to the learning rate, and it is expected that there is a limit to efficient learning. .
  • the present invention has been made in view of the above, and an object thereof is to provide a learning device, a learning method, and a learning program capable of realizing efficient learning.
  • a learning device is a learning device that performs learning using a stochastic gradient descent method in machine learning, and is a primary device in the stochastic gradient descent method.
  • the statistic calculator calculates the primary slope statistic from the slope calculator that calculates the slope, the statistic calculator that calculates the primary slope statistic, and the primary slope statistic calculated by the statistic calculator.
  • An initialization bias removing unit that removes the initialization bias at the time
  • a learning rate adjusting unit that adjusts the learning rate by dividing the learning rate by the standard deviation of the primary gradient based on the statistics of the primary gradient
  • a parameter updating unit that updates the parameters of the learning model using the learning rate adjusted by the learning rate adjusting unit.
  • FIG. 1 is a block diagram illustrating an example of a configuration of a learning device according to the present embodiment.
  • FIG. 2 is a flowchart showing a processing procedure of learning processing executed by the learning device shown in FIG.
  • FIG. 3 is a diagram showing a learning algorithm used by the learning apparatus shown in FIG.
  • FIG. 4 is a flowchart illustrating a processing procedure of learning processing according to the modification of the embodiment.
  • FIG. 5 is a diagram illustrating a learning algorithm according to a modification of the embodiment.
  • FIG. 6 is a diagram illustrating an example of a computer in which a learning apparatus is realized by executing a program.
  • Machine learning is basically a technique in which a model is learned from observation data so as to minimize an error function of a problem to be solved, and unknown data is predicted using the learned model.
  • problems to be solved include data classification, regression, and clustering.
  • error function include a square error and cross entropy.
  • model include logistic regression and a neural network.
  • the stochastic gradient descent method is a widely used algorithm. In the stochastic gradient descent method, learning is performed by repeatedly applying the following equation (1).
  • ⁇ is one of the hyper parameters that are manually set to define the parameter update range, and is called the learning rate. Since the learning rate defines the update width, it greatly affects the learning efficiency. If the learning rate can be set appropriately, learning can proceed with high efficiency. In recent years, research has been progressing to achieve high efficiency by automatically adjusting the learning rate based on various information. Here, high efficiency means that the error function can be lowered with a smaller number of parameter updates compared to the conventional stochastic gradient descent method.
  • the learning rate is automatically adjusted by dividing the learning rate by the moving average of the absolute values of the primary gradient in the past.
  • the first-order gradient refers to a differential with respect to a parameter in the error function, and includes information that defines the direction of parameter update.
  • Adam uses the absolute value of the primary gradient for the learning rate, information on the direction of the primary gradient is lost, and it is expected that there is a limit to efficient learning.
  • the learning rate is automatically adjusted based on information on the gradient direction.
  • the learning rate is adjusted based on the gradient direction information by repeatedly applying the following series of formulas (2) to (7) instead of formula (1). Yes.
  • the number of repeated calculations is t.
  • Equation (2) indicates that the primary gradient of the i-th parameter in the (t ⁇ 1) -th iteration is the symbol g i, t .
  • the approximate value of the moving average of the i-th primary gradient gi , t in the t- th iteration is obtained using the following equation (3).
  • the primary gradient g i the approximate value m i of the moving average of t, to t, using the following equation (4), to remove the initialization bias.
  • (4) using a formula, primary gradient g i, the approximate value m i of the moving average of t, from t, to remove the initialization bias.
  • the moving average of the variances of the i-th primary gradient gi , t in the t- th iteration is obtained using the following equation (5).
  • the moving average c i, t of the variance of the i-th primary gradient g i, t in equation (5) is a moving average of the variance of the primary gradient over the past time.
  • the primary gradient g i, the moving average c i, t of the variance of t is the statistics for the primary gradient g i, t.
  • the primary gradient g i, the moving average c i, t of the dispersion of t, the primary gradient g i is a value determined by the previous direction of variation of t, including direction information of the primary gradient g i, t.
  • the initialization bias is removed using the following equation (6) with respect to the moving average ci , t of the variance of the primary gradient gi , t .
  • the initialization bias is removed from the moving average c i, t of the variance of the primary gradient g i, t using equation (6).
  • the learning rate is adjusted using the following equation (7).
  • the calculations of Expressions (2) to (7) are repeated until the learning model parameter ⁇ t converges.
  • the learning rate is divided by the square root of the moving average c i, t of the variance after removing the bias of the primary gradient g i, t , that is, the standard deviation of the primary gradient. By doing so, it is formulated to automatically adjust the learning rate.
  • the dispersion is determined by the variation in the past direction of the primary gradient.
  • the learning rate can be adjusted based on the information on the direction of the primary gradient, and the error function can be lowered. That is, according to the present embodiment, efficient learning can be realized.
  • FIG. 1 is a block diagram illustrating an example of a configuration of a learning device 10 according to the present embodiment.
  • the learning device 10 performs learning using a stochastic gradient descent method in machine learning.
  • the learning apparatus 10 receives standard values of ⁇ , ⁇ 1 , and ⁇ 2 that are hyper parameters.
  • the input of ⁇ , ⁇ 1 and ⁇ 2 is only the first time.
  • the learning device 10 outputs the converged parameter ⁇ t , for example.
  • the learning device 10 according to the present embodiment includes a gradient calculation unit 11, a statistic calculation unit 12, an initialization bias removal unit 13, a learning rate adjustment unit 14, and a parameter update unit 15.
  • the gradient calculation unit 11 calculates a primary gradient in the stochastic gradient descent method. Specifically, the gradient calculation unit 11 receives ⁇ t updated by the parameter update unit 15 as an input. Further, the gradient calculation unit 11 has an input of the input data x t by an external device. The gradient calculation unit 11 calculates a primary gradient gt for t representing the number of repeated calculations and outputs it to the statistic calculation unit 12.
  • the gradient calculation unit 11 initializes each variable.
  • to set the initial value also initialization after bias removal m t and c t after the initialization bias removal. This initialization is performed only for the first time.
  • the gradient calculation unit 11 the input data x t and the parameter theta t is input. Subsequently, the gradient calculation unit 11 increments t by +1. Due to this +1 increment, the approximate value m t of the primary gradient and the moving average c t of the variance of the primary gradient from which the initialization bias described later is removed are the approximate value m t-1 of the primary gradient moving average and the primary gradient The moving average c t ⁇ 1 of the variance of the gradient.
  • the gradient calculation unit 11 by using the expression (2), to calculate the primary gradient g t, outputs the statistic calculation unit 12.
  • the statistic calculator 12 calculates a statistic of the primary gradient. Specifically, the statistic calculation unit 12 receives the primary gradient g t output from the gradient calculation unit 11 and the standard values of ⁇ , ⁇ 1 , and ⁇ 2 that are hyperparameters, and is a primary gradient that is a statistic. calculating a moving average c t of the variance of g t approximation m t and the primary gradient g t of the moving average. Statistic calculation unit 12, (3) using the equation to calculate the approximate value m t of the moving average of the primary gradient g t. The statistic calculation unit 12, (5) using the equation, calculating a moving average c t of the dispersion of the primary gradient g t. Statistic calculation unit 12 outputs the moving average c t of the variance of the approximate value of the moving average of the primary gradient g t m t and primary gradient g t initialization bias removal unit 13.
  • the initialization bias removal unit 13 removes the initialization bias from the statistics of the primary gradient calculated by the statistic calculation unit 12. Specifically, the initialization bias removal unit 13, with respect to the approximate value m t of the moving average of the primary gradient g t, removing initialization bias using equation (4). Then, the initialization bias removal unit 13, with respect to the moving average c t of the dispersion of the primary gradient g t, to remove the initialization bias using equation (6).
  • the calculation described in Non-Patent Document 3 may be used.
  • the learning rate adjustment unit 14 adjusts the learning rate by dividing the learning rate by the standard deviation of the primary gradient based on the statistics of the primary gradient. Specifically, the learning rate adjusting unit 14, the initialization bias removal unit 13 the approximate value of the moving average of the primary gradient g t removed initialization biased by m t and primary gradient g t moving average c t of the variance of Based on the above, the learning rate is adjusted using Equation (7). Specifically, the learning rate adjustment unit 14 adjusts the learning rate by dividing the learning rate by the standard deviation of the primary gradient based on the statistics from which the initialization bias has been removed.
  • the parameter updating unit 15 updates the learning model parameters using the learning rate adjusted by the learning rate adjusting unit 14. Specifically, the parameter update unit 15 updates the model parameter ⁇ t based on the calculation result by the learning rate adjustment unit 14. The parameter updating unit 15 ends the calculation process when the parameter ⁇ t converges. On the other hand, if the parameter theta t has not converged outputs a parameter theta t into the gradient calculation unit 11. Thereby, the gradient calculation unit 11 increments t by +1. Then, the gradient calculation unit 11, the statistic calculation unit 12, the initialization bias removal unit 13, and the learning rate adjustment unit 14 repeat the calculations of the equations (2) to (7).
  • FIG. 2 is a flowchart showing a processing procedure of learning processing executed by the learning apparatus 10 shown in FIG.
  • the gradient calculation unit 11 receives input of standard values of ⁇ , ⁇ 1 , and ⁇ 2 that are hyper parameters (step S1). Subsequently, the gradient calculation unit 11 initializes each variable (step S2).
  • the gradient calculation unit 11, the input data x t and the parameter theta t are input to the incremented by t (step S3). Subsequently, the gradient calculation unit 11, (2) to calculate the primary gradient g t using (step S4), and outputs the statistic calculation unit 12.
  • the statistic calculation unit 12 receives the primary gradient g t output from the gradient calculation unit 11 and the standard values of ⁇ , ⁇ 1 , and ⁇ 2 that are hyperparameters, and uses the equation (3) as a primary gradient. calculating an approximate value m t of the moving average of g t (step S5).
  • Step S7 the initialization bias removal unit 13, with respect to the moving average c t of variance approximation m t and primary gradient g t of the moving average of the primary gradient g t for statistic calculation unit 12 has calculated, removing the initialization bias (Step S7).
  • step S8 based on the moving average c t of the variance of the learning rate adjusting unit 14 the approximate value of the moving average of the primary gradient g t removed initialization bias by the initialization bias removal unit 13 m t and primary gradient g t
  • the learning rate is adjusted using the second term of equation (7) (step S8).
  • learning is performed by taking the product of the learning rate and the approximate value of the moving average of the primary gradient divided by the standard deviation of the primary gradient that is the square root of the moving average of the variance of the primary gradient. The rate is adjusted.
  • the parameter updating unit 15 updates the model parameter ⁇ t based on the calculation result of step S8 (step S9). Thereafter, the parameter update unit 15 determines whether or not the model parameter ⁇ t has converged (step S10).
  • the learning device 10 ends the process.
  • the learning device 10 returns to step S3. That is, the gradient calculation unit 11 increments t by +1, and executes the processes after step S4 again.
  • the learning rate is adjusted by dividing the learning rate by the standard deviation of the primary gradient.
  • the learning rate is adjusted using the standard deviation of the primary gradient including the information that defines the parameter update direction. For this reason, according to the above learning process, an efficient learning is realizable.
  • FIG. 3 is a diagram showing a learning algorithm used by the learning apparatus 10 shown in FIG.
  • the learning algorithm shown in FIG. 3 corresponds to the process shown in the flowchart of the learning process in FIG.
  • the learning algorithm increments t by +1 (third line in FIG. 3).
  • the third line in FIG. 3 corresponds to step S3 shown in FIG. Learning algorithm, (2) using the equation to calculate the primary gradient g t (fourth line of FIG. 3).
  • the fourth line in FIG. 3 corresponds to step S4 shown in FIG.
  • the Learning algorithm (3) using the equation to calculate the approximate value m t of the moving average of the primary gradient g t (line 5 of FIG. 3).
  • the fifth line in FIG. 3 corresponds to step S5 shown in FIG.
  • the learning algorithm (5) using the equation, calculating a moving average c t of the dispersion of the primary gradient g t (line 6 of FIG. 3).
  • the sixth line in FIG. 3 corresponds to step S6 shown in FIG.
  • the learning rate make adjustments to update the parameter theta t (line 9 of FIG. 3).
  • the ninth line in FIG. 3 corresponds to step S8 and step S9 shown in FIG.
  • the learning algorithm repeats the processing from the second line to the seventh line in FIG. 3 until the parameter ⁇ t converges (the tenth line in FIG. 3).
  • the 10th line in FIG. 3 corresponds to step S10 shown in FIG.
  • the learning rate is divided not by the absolute value of the primary gradient but by the standard deviation of the primary gradient, thereby adjusting the learning rate, which is more efficient than before. Learning can be performed.
  • the error decreases when t, which is the number of repeated calculations, advances by one. It has been experimentally required that this is larger than the conventional Adam (see, for example, Non-Patent Document 3). That is, according to the present embodiment, the parameter ⁇ t can be converged by learning the number of iterations t that is smaller than that of the conventional Adam. Therefore, in this embodiment, it is possible to realize efficient learning as compared with conventional Adam.
  • the error function of the learned model is smaller than Adam by adjusting the learning rate using the standard deviation of the primary gradient including information that defines the direction of parameter update. Highly accurate results were obtained experimentally.
  • Equation (8) indicates that the primary gradient of the i-th parameter in the (t ⁇ 1) -th iteration is the symbol g i, t .
  • moving average m i, t of the primary gradient g i, t in formula is a running average of the primary gradient over the past time.
  • the moving average mi, t of the primary gradient is a statistic relating to the primary gradient gi , t .
  • the moving average of the variances of the i-th primary gradient gi , t in the t- th iteration is obtained using the following equation (10).
  • the moving average c i, t of the variance of the i-th primary gradient g i, t in the equation (10) is a moving average of the variance of the primary gradient over the past time.
  • the primary gradient g i, the moving average c i, t of the variance of t is the statistics for the primary gradient g i, t.
  • the primary gradient g i, the moving average c i, t of the dispersion of t, the primary gradient g i is a value determined by the previous direction of variation of t, including direction information of the primary gradient g i, t.
  • the initialization bias is removed using the following equation (11) for the moving average c i, t of the variance of the primary gradient g i, t .
  • the initialization bias is removed from the moving average c i, t of the variance of the primary gradient g i, t using equation (11).
  • the learning rate is adjusted using the following equation (12).
  • the calculations of Expressions (8) to (12) are repeated until the learning model parameter ⁇ t converges.
  • the learning rate is divided by the square root of the moving average c i, t of the variance after removing the bias of the primary gradient g i, t , that is, the standard deviation of the primary gradient. Therefore, it is formulated to automatically adjust the learning rate.
  • the dispersion is determined by the variation in the past direction of the primary gradient.
  • the learning rate can be adjusted based on the information on the direction of the primary gradient, and the error function can be lowered.
  • the learning device according to this modification has the same configuration as the learning device 10 shown in FIG. Therefore, a learning process according to this modification will be described.
  • FIG. 4 is a flowchart illustrating a processing procedure of learning processing according to the modification of the embodiment.
  • the learning apparatus 10 receives an input of the standard values of beta 1 (step S11).
  • Steps S12 and S13 shown in FIG. 4 are steps S2 and S3 shown in FIG.
  • the statistic calculation unit 12 receives the primary gradient g t output from the gradient calculation unit 11 and the standard values of ⁇ and ⁇ 1 as hyperparameters, and uses the equation (9) to calculate the primary gradient g t . calculating a moving average m t (step S15).
  • Step S17 the initialization bias removal unit 13, with respect to the moving average c t of the dispersion of the primary gradient g t for statistic calculation unit 12 has calculated, to remove the initialization bias (Step S17).
  • the learning rate adjusting unit 14 based on the moving average c t of the dispersion of the primary gradient g t removed the primary gradient g t and initialization bias, learning rate using the second term of (12) Is adjusted (step S18).
  • the learning rate is adjusted by taking the product of the learning rate and the value obtained by dividing the primary gradient by the standard deviation of the primary gradient that is the square root of the moving average of the variance of the primary gradient. .
  • Step S19 and step S20 shown in FIG. 4 are step S9 and step S10 shown in FIG.
  • FIG. 5 is a diagram showing a learning algorithm 2 according to this modification.
  • the learning algorithm 2 shown in FIG. 5 corresponds to the process shown in the flowchart of the learning process in FIG.
  • the first line in FIG. 5 corresponds to step S12 shown in FIG.
  • the learning algorithm increments t by +1 (third line in FIG. 5).
  • the third line in FIG. 5 corresponds to step S13 shown in FIG.
  • Learning algorithm using equation (8), to calculate the primary gradient g t (fourth line of FIG. 5).
  • the fourth line in FIG. 5 corresponds to step S14 shown in FIG.
  • the Learning algorithm (9) by using the equation, calculating a moving average m t of the primary gradient g t (line 5 of FIG. 5).
  • the fifth line in FIG. 5 corresponds to step S15 shown in FIG.
  • the learning algorithm (10) using the equation, calculating a moving average c t of the dispersion of the primary gradient g t (line 6 of FIG. 5).
  • the sixth line in FIG. 5 corresponds to step S16 shown in FIG.
  • the learning algorithm removes the initialization bias using the equation (11) with respect to the moving average ct of the variance of the primary gradient gt (the seventh line in FIG. 5).
  • the seventh line in FIG. 5 corresponds to step S17 shown in FIG.
  • the learning algorithm repeats the processing from the second line to the eighth line in FIG. 5 until the parameter ⁇ t converges (the ninth line in FIG. 5).
  • the ninth line in FIG. 5 corresponds to step S20 shown in FIG.
  • Each component of the learning device 10 shown in FIG. 1 is functionally conceptual, and does not necessarily need to be physically configured as illustrated. That is, the specific form of the distribution and integration of the functions of the learning device 10 is not limited to the illustrated one, and all or a part thereof can be functionally or physically in arbitrary units according to various loads or usage conditions. Can be distributed or integrated.
  • each process performed in the learning device 10 may be realized in whole or in part by a CPU (Central Processing Unit) and a program that is analyzed and executed by the CPU.
  • Each process performed in the learning device 10 may be realized as hardware by wired logic.
  • all or a part of the processes described as being automatically performed can be manually performed.
  • all or part of the processing described as being performed manually can be automatically performed by a known method.
  • the above-described and illustrated processing procedures, control procedures, specific names, and information including various data and parameters can be changed as appropriate unless otherwise specified.
  • FIG. 6 is a diagram illustrating an example of a computer in which the learning apparatus 10 is realized by executing a program.
  • the computer 1000 includes a memory 1010 and a CPU 1020, for example.
  • the computer 1000 also includes a hard disk drive interface 1030, a disk drive interface 1040, a serial port interface 1050, a video adapter 1060, and a network interface 1070. These units are connected by a bus 1080.
  • the memory 1010 includes a ROM (Read Only Memory) 1011 and a RAM 1012.
  • the ROM 1011 stores a boot program such as BIOS (Basic Input Output System).
  • BIOS Basic Input Output System
  • the hard disk drive interface 1030 is connected to the hard disk drive 1090.
  • the disk drive interface 1040 is connected to the disk drive 1100.
  • a removable storage medium such as a magnetic disk or an optical disk is inserted into the disk drive 1100.
  • the serial port interface 1050 is connected to a mouse 1110 and a keyboard 1120, for example.
  • the video adapter 1060 is connected to the display 1130, for example.
  • the hard disk drive 1090 stores, for example, an OS 1091, an application program 1092, a program module 1093, and program data 1094. That is, a program that defines each process of the learning device 10 is implemented as a program module 1093 in which a code executable by the computer 1000 is described.
  • the program module 1093 is stored in the hard disk drive 1090, for example.
  • a program module 1093 for executing processing similar to the functional configuration in the learning device 10 is stored in the hard disk drive 1090.
  • the hard disk drive 1090 may be replaced by an SSD (Solid State Drive).
  • the setting data used in the processing of the above-described embodiment is stored as program data 1094 in, for example, the memory 1010 or the hard disk drive 1090. Then, the CPU 1020 reads the program module 1093 and the program data 1094 stored in the memory 1010 and the hard disk drive 1090 to the RAM 1012 and executes them as necessary.
  • the program module 1093 and the program data 1094 are not limited to being stored in the hard disk drive 1090, but may be stored in, for example, a removable storage medium and read by the CPU 1020 via the disk drive 1100 or the like. Alternatively, the program module 1093 and the program data 1094 may be stored in another computer connected via a network (LAN, WAN, etc.). Then, the program module 1093 and the program data 1094 may be read by the CPU 1020 from another computer via the network interface 1070.
  • LAN local area network
  • WAN wide area network

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Analysis (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Pure & Applied Mathematics (AREA)
  • Mathematical Optimization (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computational Mathematics (AREA)
  • Algebra (AREA)
  • Complex Calculations (AREA)

Abstract

学習装置（１０）は、機械学習での確率的勾配降下法を用いて学習を行う学習装置であって、確率的勾配降下法における一次勾配を計算する勾配計算部（１１）と、一次勾配の統計量を計算する統計量計算部（１２）と、統計量計算部（１２）が計算した一次勾配の統計量から、統計量計算部（１２）が一次勾配の統計量を計算する際の重みとして使用した初期化バイアスを除去する初期化バイアス除去部（１３）と、一次勾配の統計量を基に、学習率を、一次勾配の標準偏差で除算することで、学習率を調整する学習率調整部（１４）と、学習率調整部（１４）が調整した学習率を用いて学習モデルのパラメータを更新するパラメータ更新部（１５）と、を有する。

Description

学習装置、学習方法および学習プログラム
　本発明は、学習装置、学習方法および学習プログラムに関する。
　機械学習は、識別、回帰、クラスタリングなどの解きたい問題において、観測データに基づき、誤差関数を下げるようにモデルのパラメータの学習を行い、未知データに対して予測を行う分野に適用される。機械学習では、過去の観測データからモデルを作り、将来のデータを予測する。この機械学習では、予測したデータと、実測データの乖離（誤差）が小さくなるように、モデルを作ることが必要である。さらに、機械学習では、誤差が小さく、かつ、短時間で、モデルを作ることが期待されている。
　ここで、モデルのパラメータの学習に適用される既存のアルゴリズムのうち、確率的勾配降下法が汎用的な学習アルゴリズムの一つとして定着している。確率的勾配降下法とは、ランダムに学習データを選んで誤差関数を計算し、その誤差関数を減少させる勾配方向にパラメータを修正する操作を反復する手法である。近年、効率的な学習を実現するため、確率的勾配降下法を基にした様々な学習アルゴリズムが提案されている。なお、ここで、効率的とは、従来の確率的勾配降下法と比して、少ないパラメータの更新回数で誤差関数を下げることができる、という意味である。
　例えば、確率的勾配降下法に基づき、学習率を自動的に調整することによって効率的な学習を実現するAdaGradと呼ばれるアルゴリズムが提案されている（例えば、非特許文献１参照）。なお、学習率は、モデルの学習時に、パラメータの更新量を制御するためのハイパーパラメータである。この学習率の設定によって、いかに早く誤差関数を最小にできるかが変わってくる。
　また、RMSPropと呼ばれるアルゴリズムは、例えば、深層学習等の複雑なモデルの学習にも学習率の自動調整を適用したアルゴリズムである。そして、AdaGradよりも収束が速く、局所最適解が求まりやすいAdaDeltaと呼ばれるアルゴリズム（例えば、非特許文献２参照）やAdam（例えば、非特許文献３参照）と呼ばれる効率的な学習アルゴリズムも提案されている。このうち、Adamは、これらの学習率を自動的に調整するアルゴリズムの中でも最も高い効率を持つことが実験で示されている。
　上記したAdaGrad、RMSProp、AdaDelta及びAdamは、過去の一次勾配の絶対値の移動平均で学習率を除算することによって、学習率を自動的に調整している。なお、一次勾配とは、誤差関数におけるパラメータに関する微分のことを指す。
J.　Duchi，E.　Hazan,　and　Y.　Singer,　"Adaptive　Subgradient　Methods　for　Online　Learning　and　Stochastic　Optimization，"　The　Journal　of　Machine　Learning　Research,　12,　2121-2159，　2011 M.　D.　Zeiler，　"ADADELTA:　AN　ADAPTIVE　LEARNING　RATE　METHOD，"　arXiv　preprint　arXiv:1212.5701，　2012 D.　Kingma,　and　J.　Ba,　"ADAM:　A　METHOD　FOR　STOCHASTIC　OPTIMIZATION，"　arXiv　preprint　arXiv:1412.6980，　2014
　この一次勾配は、パラメータの更新の方向を規定する情報である。したがって、学習率の調整には、一次勾配の方向の情報が重要であると推測できる。しかしながら、AdaGrad、RMSProp、AdaDelta及びAdamでは、一次勾配の絶対値を用いるため、学習率に対し、一次勾配の方向に関する情報が失われてしまい、効率的な学習にも限界があると予想される。
　本発明は、上記に鑑みてなされたものであって、効率的な学習を実現することができる学習装置、学習方法および学習プログラムを提供することを目的とする。
　上述した課題を解決し、目的を達成するために、本発明に係る学習装置は、機械学習での確率的勾配降下法を用いて学習を行う学習装置であって、確率的勾配降下法における一次勾配を計算する勾配計算部と、一次勾配の統計量を計算する統計量計算部と、統計量計算部が計算した一次勾配の統計量から、統計量計算部が一次勾配の統計量を計算する際に初期化バイアスを除去する初期化バイアス除去部と、一次勾配の統計量を基に、学習率を、一次勾配の標準偏差で除算することで、学習率を調整する学習率調整部と、学習率調整部が調整した学習率を用いて学習モデルのパラメータを更新するパラメータ更新部と、を有する。
　本発明によれば、効率的な学習を実現することができる。
図１は、本実施の形態に係る学習装置の構成の一例を示すブロック図である。 図２は、図１に示す学習装置が実行する学習処理の処理手順を示すフローチャートである。 図３は、図１に示す学習装置が使用する学習アルゴリズムを示す図である。 図４は、実施の形態の変形例に係る学習処理の処理手順を示すフローチャートである。 図５は、実施の形態の変形例に係る学習アルゴリズムを示す図である。 図６は、プログラムが実行されることにより、学習装置が実現されるコンピュータの一例を示す図である。
　以下、図面を参照して、本発明の一実施の形態を詳細に説明する。なお、この実施の形態により本発明が限定されるものではない。また、図面の記載において、同一部分には同一の符号を付して示している。
［主な記号の定義］
　実施の形態で用いる主な記号を下表に示す。以下、従来の数理的背景、実施の形態の数理的背景、実施の形態の各説明において、同一の記号を用いる。
Figure JPOXMLDOC01-appb-T000001
［従来の数理的背景］
　まず、以降の説明において必要となる背景知識を説明する。機械学習は、基本的に、解きたい問題の誤差関数を最小化するようにモデルを観測データから学習し、学習したモデルを用いて未知のデータに対する予測を行う技術である。解きたい問題は、例えば、データの分類、回帰、クラスタリングなどが挙げられる。誤差関数は、例えば、二乗誤差や交差エントロピーなどが挙げられる。モデルは、例えば、ロジスティック回帰やニューラルネットなどが挙げられる。
　ここで、誤差関数をｆ（・）、学習モデルのパラメータをθとすると、学習は、ｆ（θ）を最小化するようなθを見つける問題となる。学習を行うための多くのアルゴリズムのうち、確率的勾配降下法は、広く使用されているアルゴリズムである。確率的勾配降下法は、以下の（１）式を繰り返し適用することで学習を行う。
Figure JPOXMLDOC01-appb-M000002
　αは、パラメータの更新幅を規定するために、人手で設定されるハイパーパラメータの一つであり、学習率とよばれる。学習率は更新幅を規定するものであるため、学習の効率に大きく影響する。学習率を適切に設定できれば、高い効率で学習を進めることができる。近年では、この学習率を種々の情報を基に自動的に調整することによって、高い効率を達成する研究が進んでいる。なお、ここで、高い効率とは、従来の確率的勾配降下法と比して、少ないパラメータの更新回数で誤差関数を下げることができる、という意味である。
　例えば、Adamと呼ばれる学習アルゴリズムでは、過去の一次勾配の絶対値の移動平均で学習率を除算することによって学習率を自動的に調整している。一次勾配とは、誤差関数におけるパラメータに関する微分のことを指し、パラメータの更新の方向を規定する情報を含む。しかしながら、Adamでは、学習率に対して一次勾配の絶対値を用いるため、一次勾配の方向に関する情報が失われてしまい、効率的な学習にも限界があると予想される。
［実施の形態の数理的背景］
　本実施の形態は、確率的勾配降下法において、勾配の方向の情報を基に、学習率を自動的に調整する。本実施の形態では、（１）式に代えて、以下の一連の（２）式～（７）式を繰り返し適用することで、勾配の方向の情報に基づいた学習率の調整を実現している。本実施の形態では、繰り返し計算回数をｔとする。
　まず、本実施の形態では、以降で説明する（２）式～（７）式で用いる各変数を初期化し、ハイパーパラメータであるα，β１，β２は、経験的に求められた標準値を設定する。β１，β２は、確率的勾配降下法における一次勾配の統計量を計算する際の重みである。β１は、一次勾配の移動平均の近似を算出する際の重みであり、β２は、一次勾配の分散の移動平均を算出する際の重みである。続いて、本実施の形態では、以下の（２）式を用いて演算を実行する。（２）式は、（ｔ－１）回目の繰り返しにおけるｉ番目のパラメータの一次勾配を、シンボルｇｉ，ｔとすることを示す。
Figure JPOXMLDOC01-appb-M000003
　そして、本実施の形態では、以下の（３）式を用いて、ｔ回目の繰り返しにおけるｉ番目一次勾配ｇｉ，ｔの移動平均の近似値を求める。
Figure JPOXMLDOC01-appb-M000004
　（３）式における一次勾配ｇｉ，ｔの移動平均の近似値ｍｉ，ｔは、過去の時刻に渡る一次勾配の移動平均の近似である。この一次勾配の移動平均の近似値ｍｉ，ｔは、一次勾配ｇｉ，ｔに関する統計量である。
　続いて、本実施の形態では、一次勾配ｇｉ，ｔの移動平均の近似値ｍｉ，ｔに対し、次の（４）式を用いて、初期化バイアスを除去する。言い換えると、本実施の形態では、（４）式を用いて、一次勾配ｇｉ，ｔの移動平均の近似値ｍｉ，ｔから、初期化バイアスを除去する。
Figure JPOXMLDOC01-appb-M000005
　そして、本実施の形態では、以下の（５）式を用いて、ｔ回目の繰り返しにおけるｉ番目一次勾配ｇｉ，ｔの分散の移動平均を求める。
Figure JPOXMLDOC01-appb-M000006
　（５）式におけるｉ番目一次勾配ｇｉ，ｔの分散の移動平均ｃｉ，ｔは、過去の時刻に渡る一次勾配の分散の移動平均である。この一次勾配ｇｉ，ｔの分散の移動平均ｃｉ，ｔは、一次勾配ｇｉ，ｔに関する統計量である。この一次勾配ｇｉ，ｔの分散の移動平均ｃｉ，ｔは、一次勾配ｇｉ，ｔの過去の方向のばらつきによって決まる値であり、一次勾配ｇｉ，ｔの方向の情報を含む。
　続いて、本実施の形態では、一次勾配ｇｉ，ｔの分散の移動平均ｃｉ，ｔに対し、次の（６）式を用いて、初期化バイアスを除去する。言い換えると、本実施の形態では、（６）式を用いて、一次勾配ｇｉ，ｔの分散の移動平均ｃｉ，ｔから、初期化バイアスを除去する。
Figure JPOXMLDOC01-appb-M000007
　そして、本実施の形態では、次の（７）式を用いて、学習率の調整を行う。
Figure JPOXMLDOC01-appb-M000008
　本実施の形態では、学習モデルのパラメータθｔが収束するまで（２）式～（７）式の演算を繰り返す。本実施の形態では、（７）式に示すように、学習率を、一次勾配ｇｉ，ｔのバイアス除去後の分散の移動平均ｃｉ，ｔの平方根、即ち、一次勾配の標準偏差で除算することで、学習率の自動調整を行う定式化となっている。ここで、分散は、一次勾配の過去の方向のばらつきによって決まる。
　したがって、本実施の形態は、一次勾配の方向の情報を基にした学習率の調整を実行することができ、誤差関数を下げることができる。すなわち、本実施の形態によれば、効率的な学習を実現することができる。
［実施の形態］
　上記の実施の形態の数理的背景を踏まえ、本実施の形態に係る学習装置などについて説明する。なお、以下の実施の形態は、一例を示すに過ぎない。
［学習装置の構成］
　図１は、本実施の形態に係る学習装置１０の構成の一例を示すブロック図である。学習装置１０は、機械学習での確率的勾配降下法を用いて学習を行う。学習装置１０は、ハイパーパラメータであるα，β１，β２の標準値を入力とする。このα，β１，β２の入力は、初回のみである。そして、学習装置１０は、例えば、収束したパラメータθｔを出力する。図１に示すように、本実施の形態に係る学習装置１０は、勾配計算部１１、統計量計算部１２、初期化バイアス除去部１３、学習率調整部１４及びパラメータ更新部１５を有する。
　勾配計算部１１は、確率的勾配降下法における一次勾配を計算する。具体的には、勾配計算部１１は、パラメータ更新部１５により更新されたθｔを入力とする。また、勾配計算部１１は、外部装置による入力データｘｔを入力とする。この勾配計算部１１は、繰り返し計算回数を表すｔについて、一次勾配ｇｔを計算して統計量計算部１２に出力する。
　まず、最初に、勾配計算部１１は、各変数を初期化する。この場合、勾配計算部１１は、繰り返し計算回数ｔについてｔ＝０をセットする。そして、勾配計算部１１は、一次勾配ｇｔの移動平均の近似値ｍｔについてｍｔ＝ｍ０をセットし、一次勾配ｇｔの分散の移動平均ｃｔについてｃｔ＝ｃ０をセットする。同様に、初期化バイアス除去後のｍｔ及び初期化バイアス除去後のｃｔについても初期値をセットする。なお、この初期化は初回のみ行われる。
　そして、勾配計算部１１は、入力データｘｔ及びパラメータθｔが入力される。続いて、勾配計算部１１は、ｔを＋１インクリメントする。この＋１インクリメントにより、後述する初期化バイアスが除去された一次勾配の移動平均の近似値ｍｔ及び一次勾配の分散の移動平均ｃｔは、一次勾配の移動平均の近似値ｍｔ－１及び一次勾配の分散の移動平均ｃｔ－１となる。このため、各変数の初期化が実行された場合には、この＋１インクリメントによってｔ＝１となり、初期化バイアスが除去された一次勾配の移動平均の近似値ｍｔ－１及び一次勾配の分散の移動平均ｃｔ－１は、初期化バイアスが除去された一次勾配の移動平均の近似値ｍｔ－１及び一次勾配の分散の移動平均ｃｔ－１となる。
　そして、勾配計算部１１は、（２）式を用いて、一次勾配ｇｔを計算し、統計量計算部１２に出力する。
　統計量計算部１２は、一次勾配の統計量を計算する。具体的には、統計量計算部１２は、勾配計算部１１が出力した一次勾配ｇｔ、及び、ハイパーパラメータであるα，β１，β２の標準値を入力とし、統計量である一次勾配ｇｔの移動平均の近似値ｍｔと一次勾配ｇｔの分散の移動平均ｃｔとを計算する。統計量計算部１２は、（３）式を用いて、一次勾配ｇｔの移動平均の近似値ｍｔを計算する。そして、統計量計算部１２は、（５）式を用いて、一次勾配ｇｔの分散の移動平均ｃｔを計算する。統計量計算部１２は、一次勾配ｇｔの移動平均の近似値ｍｔ及び一次勾配ｇｔの分散の移動平均ｃｔを初期化バイアス除去部１３に出力する。
　初期化バイアス除去部１３は、統計量計算部１２が計算した一次勾配の統計量から初期化バイアスを除去する。具体的には、初期化バイアス除去部１３は、一次勾配ｇｔの移動平均の近似値ｍｔに対し、（４）式を用いて初期化バイアスを除去する。そして、初期化バイアス除去部１３は、一次勾配ｇｔの分散の移動平均ｃｔに対し、（６）式を用いて初期化バイアスを除去する。なお、この初期化バイアスを除去する計算については、例えば非特許文献３に記載された計算を用いればよい。
　学習率調整部１４は、一次勾配の統計量を基に、学習率を、一次勾配の標準偏差で除算することで、学習率を調整する。具体的には、学習率調整部１４は、初期化バイアス除去部１３によって初期化バイアスを除去された一次勾配ｇｔの移動平均の近似値ｍｔ及び一次勾配ｇｔの分散の移動平均ｃｔを基に、（７）式を用いて、学習率の調整を行う。具体的には、学習率調整部１４は、初期化バイアスを除去された統計量を基に、学習率を、一次勾配の標準偏差で除算することで、学習率を調整する。
　パラメータ更新部１５は、学習率調整部１４が調整した学習率を用いて学習モデルのパラメータを更新する。具体的には、パラメータ更新部１５は、学習率調整部１４による演算結果を基に、モデルのパラメータθｔを更新する。パラメータ更新部１５は、パラメータθｔが収束する場合には、演算処理を終了する。一方、パラメータθｔが収束していない場合には、パラメータθｔを勾配計算部１１に出力する。これによって、勾配計算部１１は、ｔを＋１インクリメントする。そして、勾配計算部１１、統計量計算部１２、初期化バイアス除去部１３及び学習率調整部１４は、（２）式～（７）式の演算を繰り返す。
［学習処理］
　次に、学習装置１０が実行する学習処理について説明する。図２は、図１に示す学習装置１０が実行する学習処理の処理手順を示すフローチャートである。まず、学習装置１０では、勾配計算部１１が、ハイパーパラメータであるα，β１，β２の標準値の入力を受け付ける（ステップＳ１）。続いて、勾配計算部１１は、各変数を初期化する（ステップＳ２）。
　そして、勾配計算部１１は、入力データｘｔ及びパラメータθｔが入力され、ｔを＋１インクリメントする（ステップＳ３）。続いて、勾配計算部１１は、（２）式を用いて一次勾配ｇｔを計算し（ステップＳ４）、統計量計算部１２に出力する。
　そして、統計量計算部１２は、勾配計算部１１が出力した一次勾配ｇｔ、及び、ハイパーパラメータであるα，β１，β２の標準値を入力とし、（３）式を用いて一次勾配ｇｔの移動平均の近似値ｍｔを計算する（ステップＳ５）。また、統計量計算部１２は、（５）式を用いて、一次勾配ｇｔの分散の移動平均ｃｔを計算する（ステップＳ６）。
　そして、初期化バイアス除去部１３は、統計量計算部１２が計算した一次勾配ｇｔの移動平均の近似値ｍｔ及び一次勾配ｇｔの分散の移動平均ｃｔに対し、初期化バイアスを除去する（ステップＳ７）。初期化バイアス除去部１３は、一次勾配ｇｔの移動平均の近似値ｍｔに対しては、（４）式を用いて初期化バイアスを除去する。そして、初期化バイアス除去部１３は、一次勾配ｇｔの分散の移動平均ｃｔに対しては、（６）式を用いて初期化バイアスを除去する。
　続いて、学習率調整部１４は初期化バイアス除去部１３によって初期化バイアスを除去された一次勾配ｇｔの移動平均の近似値ｍｔ及び一次勾配ｇｔの分散の移動平均ｃｔを基に、（７）式の第２項を用いて学習率の調整を行う（ステップＳ８）。（７）式では、学習率と、一次勾配の移動平均の近似値を、一次勾配の分散の移動平均の平方根である一次勾配の標準偏差で除算した値と、の積をとることで、学習率を調整している。
　そして、パラメータ更新部１５は、ステップＳ８の演算結果を基に、モデルのパラメータθｔを更新する（ステップＳ９）。その後、パラメータ更新部１５は、モデルのパラメータθｔが収束したか否かを判断する（ステップＳ１０）。学習装置１０は、パラメータθｔが収束したとパラメータ更新部１５が判断した場合には（ステップＳ１０：Ｙｅｓ）、処理を終了する。一方、学習装置１０は、パラメータθｔが収束していないとパラメータ更新部１５が判断した場合には（ステップＳ１０：Ｎｏ）、ステップＳ３に戻る。すなわち、勾配計算部１１が、ｔを＋１インクリメントし、ステップＳ４以降の処理を再度実行する。
　以上の学習処理では、学習率を、一次勾配の標準偏差で除算することで、学習率を調整する。言い換えると、以上の学習処理によれば、パラメータの更新の方向を規定する情報を含む一次勾配の標準偏差を用いて、学習率を調整している。このため、以上の学習処理によれば、効率的な学習を実現することができる。
［学習アルゴリズム］
　次に、学習装置１０が使用する学習アルゴリズムについて説明する。図３は、図１に示す学習装置１０が使用する学習アルゴリズムを示す図である。図３に示す学習アルゴリズムは、図２の学習処理のフローチャートが示す処理に対応する。図３に示すように、学習アルゴリズムは、まず、ハイパーパラメータの経験的な標準設定を示す。例えば、学習率α＝０．００１、β１＝０．７、β２＝０．９９が経験的な標準設定として示されている。
　まず、学習アルゴリズムは、α，β１，β２、θ０をインプットする。これは、図２に示すステップＳ１に該当する。続いて、学習アルゴリズムは、各変数の初期化を行う。具体的には、繰り返し計算回数ｔ＝０、一次勾配の移動平均の近似値ｍｔをｍｔ＝ｍ０、一次勾配の分散の移動平均ｃｔをｃｔ＝ｃ０にセットし、初期化バイアス除去後のｍｔ及び初期化バイアス除去後のｃｔを初期値にセットする（図３の第１行目）。図３の第１行目は、図２に示すステップＳ２に該当する。
　学習アルゴリズムは、ｔを＋１インクリメントする（図３の第３行目）。図３の第３行目は、図２に示すステップＳ３に該当する。学習アルゴリズムは、（２）式を用いて、一次勾配ｇｔを計算する（図３の第４行目）。図３の第４行目は、図２に示すステップＳ４に該当する。
　学習アルゴリズムは、（３）式を用いて、一次勾配ｇｔの移動平均の近似値ｍｔを計算する（図３の第５行目）。図３の第５行目は、図２に示すステップＳ５に該当する。そして、学習アルゴリズムは、（５）式を用いて、一次勾配ｇｔの分散の移動平均ｃｔを計算する（図３の第６行目）。図３の第６行目は、図２に示すステップＳ６に該当する。
　そして、学習アルゴリズムは、一次勾配ｇｔの移動平均の近似値ｍｔに対し、（４）式を用いて初期化バイアスを除去する（図３の第７行目）。学習アルゴリズムは、一次勾配ｇｔの分散の移動平均ｃｔに対し、（６）式を用いて初期化バイアスを除去する（図３の第８行目）。図３の第７行目及び第８行目は、図２に示すステップＳ７に該当する。
　学習アルゴリズムは、初期化バイアスを除去された一次勾配ｇｔの移動平均の近似値ｍｔ及び一次勾配ｇｔの分散の移動平均ｃｔを基に、（７）式を用いて、学習率の調整を行い、パラメータθｔを更新する（図３の第９行目）。図３の第９行目は、図２に示すステップＳ８とステップＳ９に該当する。
　学習アルゴリズムは、パラメータθｔが収束するまで、図３の第２行目から第７行目の処理を繰り返す（図３の第１０行目）。図３の第１０行目は、図２に示すステップＳ１０に該当する。
［実施の形態の効果］
　本実施の形態では、確率的勾配降下法において、学習率を、一次勾配の絶対値ではなく、一次勾配の標準偏差で除算することで、学習率を調整することによって、従来よりも効率的な学習を実行することができる。
　具体的には、本実施の形態では、学習率を、一次勾配の標準偏差で除算することで、学習率を調整することによって、繰り返し計算回数であるｔが１つ進んだ場合の誤差の下がり方が従来のAdam（例えば、非特許文献３参照）よりも大きくなることが実験的に求められた。すなわち、本実施の形態によれば、従来のAdamよりも少ない繰り返し計算回数ｔの学習でパラメータθｔを収束することができた。したがって、本実施の形態では、従来のAdamと比して効率的な学習を実現することができる。
　また、本実施の形態では、パラメータの更新の方向を規定する情報を含む一次勾配の標準偏差を用いて学習率を調整することによって、学習されたモデルの誤差関数は、Adamよりも小さくなり、精度の高い結果が実験的に得られた。
　そして、本実施の形態では、従来の学習（例えば、AdaGrad（例えば、非特許文献１参照））で必要であった学習率の減衰スケジュールが不要であるため、学習率の減衰スケジュールに対する人手によるチューニングも不要となり、チューニングコストを低減することができる。
　ここで、従来の一部のアルゴリズムでは、勾配が極端に大きくなる場合にはパラメータも極端に大きく更新され、学習が失敗してしまうことから、これを防ぐために、gradient　clippingの閾値に対する、人手によるチューニングを行う必要があった。すなわち、従来では、勾配が極端に大きくなり閾値を超えた場合には、実際の勾配の値に代えて閾値を用いて演算を進めることによって、学習の失敗を低減している。従来は、この閾値を人手でチューニングする必要があった。
　これに対し、本実施の形態では、パラメータθｔを求める演算式である（７）式において、学習率を一次勾配の標準偏差で除している。ここで、勾配が極端に大きくなる場合には、これに伴い、勾配の分散も大きくなる。したがって、実施の形態では、（７）式の分子に含まれる勾配が極端に大きくなっても、分母に含まれる勾配の分散も大きくなるため、パラメータθｔが極端に大きくなることはない。このように、本実施の形態では、パラメータθｔの更新量が極端に大きくなることがないため、学習が失敗することが少ないと言える。このため、本実施の形態では、gradient　clippingの閾値を設けずとも演算が進行するため、gradient　clippingの閾値に対する、人手によるチューニング自体が不要となり、チューニングコストを低減することができる。
［変形例］
　本実施の形態に係る変形例について説明する。変形例においても、確率的勾配降下法において、勾配の方向の情報を基に、学習率を自動的に調整する。本変形例では、（２）～（７）式に代えて、以下の一連の（８）式～（１２）式を繰り返し適用することで、勾配の方向の情報に基づいた学習率の調整を実現している。本変形例においても、繰り返し計算回数をｔとする。
　まず、本変形例では、以降で説明する（８）式～（１２）式で用いる各変数を初期化し、ハイパーパラメータであるα，β１は、経験的に求められた標準値を設定する。β１は、確率的勾配降下法における一次勾配の統計量を計算する際の重みである。β１は、一次勾配の移動平均と、一次勾配の分散の移動平均を算出する際の重みである。続いて、本変形例では、以下の（８）式を用いて演算を実行する。（８）式は、（ｔ－１）回目の繰り返しにおけるｉ番目のパラメータの一次勾配を、シンボルｇｉ，ｔとすることを示す。
Figure JPOXMLDOC01-appb-M000009
　そして、本変形例では、以下の（９）式を用いて、ｔ回目の繰り返しにおけるｉ番目一次勾配ｇｉ，ｔの移動平均を求める。
Figure JPOXMLDOC01-appb-M000010
　（９）式における一次勾配ｇｉ，ｔの移動平均ｍｉ，ｔは、過去の時刻に渡る一次勾配の移動平均である。この一次勾配の移動平均ｍｉ，ｔは、一次勾配ｇｉ，ｔに関する統計量である。
　そして、本実施の形態では、以下の（１０）式を用いて、ｔ回目の繰り返しにおけるｉ番目一次勾配ｇｉ，ｔの分散の移動平均を求める。
Figure JPOXMLDOC01-appb-M000011
　（１０）式におけるｉ番目一次勾配ｇｉ，ｔの分散の移動平均ｃｉ，ｔは、過去の時刻に渡る一次勾配の分散の移動平均である。この一次勾配ｇｉ，ｔの分散の移動平均ｃｉ，ｔは、一次勾配ｇｉ，ｔに関する統計量である。この一次勾配ｇｉ，ｔの分散の移動平均ｃｉ，ｔは、一次勾配ｇｉ，ｔの過去の方向のばらつきによって決まる値であり、一次勾配ｇｉ，ｔの方向の情報を含む。
　続いて、本変形例では、一次勾配ｇｉ，ｔの分散の移動平均ｃｉ，ｔに対し、次の（１１）式を用いて、初期化バイアスを除去する。言い換えると、本変形例では、（１１）式を用いて、一次勾配ｇｉ，ｔの分散の移動平均ｃｉ，ｔから、初期化バイアスを除去する。
Figure JPOXMLDOC01-appb-M000012
　そして、本実施の形態では、次の（１２）式を用いて、学習率の調整を行う。
Figure JPOXMLDOC01-appb-M000013
　本変形例では、学習モデルのパラメータθｔが収束するまで（８）式～（１２）式の演算を繰り返す。本変形例では、（１２）式に示すように、学習率を、一次勾配ｇｉ，ｔのバイアス除去後の分散の移動平均ｃｉ，ｔの平方根、即ち、一次勾配の標準偏差で除算することで、学習率の自動調整を行う定式化となっている。ここで、分散は、一次勾配の過去の方向のばらつきによって決まる。
　したがって、本変形例においても、一次勾配の方向の情報を基にした学習率の調整を実行することができ、誤差関数を下げることができる。本変形例に係る学習装置は、図１に示す学習装置１０と同様の構成を有する。そこで、本変形例に係る学習処理について説明する。
［学習処理］
　図４は、実施の形態の変形例に係る学習処理の処理手順を示すフローチャートである。まず、学習装置１０では、勾配計算部１１が、ハイパーパラメータであるα，β１の標準値の入力を受け付ける（ステップＳ１１）。図４に示すステップＳ１２及びステップＳ１３は、図１に示すステップＳ２及びステップＳ３である。
　続いて、勾配計算部１１は、（８）式を用いて一次勾配ｇｔを計算し（ステップＳ１４）、統計量計算部１２に出力する。そして、統計量計算部１２は、勾配計算部１１が出力した一次勾配ｇｔ、及び、ハイパーパラメータであるα，β１の標準値を入力とし、（９）式を用いて一次勾配ｇｔの移動平均ｍｔを計算する（ステップＳ１５）。また、統計量計算部１２は、（１０）式を用いて、一次勾配ｇｔの分散の移動平均ｃｔを計算する（ステップＳ１６）。
　そして、初期化バイアス除去部１３は、統計量計算部１２が計算した一次勾配ｇｔの分散の移動平均ｃｔに対し、初期化バイアスを除去する（ステップＳ１７）。初期化バイアス除去部１３は、一次勾配ｇｔの分散の移動平均ｃｔに対しては、（１１）式を用いて初期化バイアスを除去する。
　続いて、学習率調整部１４は、一次勾配ｇｔ及び初期化バイアスを除去された一次勾配ｇｔの分散の移動平均ｃｔを基に、（１２）式の第２項を用いて学習率の調整を行う（ステップＳ１８）。（１２）式では、学習率と、一次勾配を、一次勾配の分散の移動平均の平方根である一次勾配の標準偏差で除算した値と、の積をとることで、学習率を調整している。
　図４に示すステップＳ１９及びステップＳ２０は、図２に示すステップＳ９及びステップＳ１０である。
［変形例に係る学習アルゴリズム］
　次に、本変形例に係る学習アルゴリズムについて説明する。図５は、本変形例に係る学習アルゴリズム２を示す図である。図５に示す学習アルゴリズム２は、図４の学習処理のフローチャートが示す処理に対応する。
　図５に示すように、まず、学習アルゴリズムは、α，β１，θ０をインプットする。これは、図４に示すステップＳ１１に該当する。続いて、学習アルゴリズムは、各変数の初期化を行う。具体的には、繰り返し計算回数ｔ＝０、一次勾配の移動平均ｍｔをｍｔ＝ｍ０、一次勾配の分散の移動平均ｃｔをｃｔ＝ｃ０にセットし、初期化バイアス除去後のｃｔを初期値にセットする（図５の第１行目）。図５の第１行目は、図４に示すステップＳ１２に該当する。
　学習アルゴリズムは、ｔを＋１インクリメントする（図５の第３行目）。図５の第３行目は、図４に示すステップＳ１３に該当する。学習アルゴリズムは、（８）式を用いて、一次勾配ｇｔを計算する（図５の第４行目）。図５の第４行目は、図４に示すステップＳ１４に該当する。
　学習アルゴリズムは、（９）式を用いて、一次勾配ｇｔの移動平均ｍｔを計算する（図５の第５行目）。図５の第５行目は、図４に示すステップＳ１５に該当する。そして、学習アルゴリズムは、（１０）式を用いて、一次勾配ｇｔの分散の移動平均ｃｔを計算する（図５の第６行目）。図５の第６行目は、図４に示すステップＳ１６に該当する。学習アルゴリズムは、一次勾配ｇｔの分散の移動平均ｃｔに対し、（１１）式を用いて初期化バイアスを除去する（図５の第７行目）。図５の第７行目は、図４に示すステップＳ１７に該当する。
　学習アルゴリズムは、一次勾配ｇｔ及び一次勾配ｇｔの分散の移動平均ｃｔを基に、（１２）式を用いて、学習率の調整を行い、パラメータθｔを更新する（図５の第８行目）。図５の第８行目は、図４に示すステップＳ１８とステップＳ１９に該当する。
　学習アルゴリズムは、パラメータθｔが収束するまで、図５の第２行目から第８行目の処理を繰り返す（図５の第９行目）。図５の第９行目は、図４に示すステップＳ２０に該当する。
［実施形態のシステム構成について］
　図１に示した学習装置１０の各構成要素は機能概念的なものであり、必ずしも物理的に図示のように構成されていることを要しない。すなわち、学習装置１０の機能の分散および統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散または統合して構成することができる。
　また、学習装置１０においておこなわれる各処理は、全部または任意の一部が、ＣＰＵ（Central　Processing　Unit）およびＣＰＵにより解析実行されるプログラムにて実現されてもよい。また、学習装置１０においておこなわれる各処理は、ワイヤードロジックによるハードウェアとして実現されてもよい。
　また、実施形態において説明した各処理のうち、自動的におこなわれるものとして説明した処理の全部または一部を手動的に行うこともできる。もしくは、手動的におこなわれるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。この他、上述および図示の処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて適宜変更することができる。
［プログラム］
　図６は、プログラムが実行されることにより、学習装置１０が実現されるコンピュータの一例を示す図である。コンピュータ１０００は、例えば、メモリ１０１０、ＣＰＵ１０２０を有する。また、コンピュータ１０００は、ハードディスクドライブインタフェース１０３０、ディスクドライブインタフェース１０４０、シリアルポートインタフェース１０５０、ビデオアダプタ１０６０、ネットワークインタフェース１０７０を有する。これらの各部は、バス１０８０によって接続される。
　メモリ１０１０は、ＲＯＭ（Read　Only　Memory）１０１１及びＲＡＭ１０１２を含む。ＲＯＭ１０１１は、例えば、ＢＩＯＳ（Basic　Input　Output　System）等のブートプログラムを記憶する。ハードディスクドライブインタフェース１０３０は、ハードディスクドライブ１０９０に接続される。ディスクドライブインタフェース１０４０は、ディスクドライブ１１００に接続される。例えば磁気ディスクや光ディスク等の着脱可能な記憶媒体が、ディスクドライブ１１００に挿入される。シリアルポートインタフェース１０５０は、例えばマウス１１１０、キーボード１１２０に接続される。ビデオアダプタ１０６０は、例えばディスプレイ１１３０に接続される。
　ハードディスクドライブ１０９０は、例えば、ＯＳ１０９１、アプリケーションプログラム１０９２、プログラムモジュール１０９３、プログラムデータ１０９４を記憶する。すなわち、学習装置１０の各処理を規定するプログラムは、コンピュータ１０００により実行可能なコードが記述されたプログラムモジュール１０９３として実装される。プログラムモジュール１０９３は、例えばハードディスクドライブ１０９０に記憶される。例えば、学習装置１０における機能構成と同様の処理を実行するためのプログラムモジュール１０９３が、ハードディスクドライブ１０９０に記憶される。なお、ハードディスクドライブ１０９０は、ＳＳＤ（Solid　State　Drive）により代替されてもよい。
　また、上述した実施の形態の処理で用いられる設定データは、プログラムデータ１０９４として、例えばメモリ１０１０やハードディスクドライブ１０９０に記憶される。そして、ＣＰＵ１０２０が、メモリ１０１０やハードディスクドライブ１０９０に記憶されたプログラムモジュール１０９３やプログラムデータ１０９４を必要に応じてＲＡＭ１０１２に読み出して実行する。
　なお、プログラムモジュール１０９３やプログラムデータ１０９４は、ハードディスクドライブ１０９０に記憶される場合に限らず、例えば着脱可能な記憶媒体に記憶され、ディスクドライブ１１００等を介してＣＰＵ１０２０によって読み出されてもよい。あるいは、プログラムモジュール１０９３及びプログラムデータ１０９４は、ネットワーク（ＬＡＮ、ＷＡＮ等）を介して接続された他のコンピュータに記憶されてもよい。そして、プログラムモジュール１０９３及びプログラムデータ１０９４は、他のコンピュータから、ネットワークインタフェース１０７０を介してＣＰＵ１０２０によって読み出されてもよい。
　以上、本発明者によってなされた発明を適用した実施の形態について説明したが、本実施の形態による本発明の開示の一部をなす記述及び図面により本発明は限定されることはない。すなわち、本実施の形態に基づいて当業者等によりなされる他の実施の形態、実施例及び運用技術等は全て本発明の範疇に含まれる。
　１０　学習装置
　１１　勾配計算部
　１２　統計量計算部
　１３　初期化バイアス除去部
　１４　学習率調整部
　１５　パラメータ更新部

Claims (7)

  1. 　機械学習での確率的勾配降下法を用いて学習を行う学習装置であって、
    　前記確率的勾配降下法における一次勾配を計算する勾配計算部と、
    　前記一次勾配の統計量を計算する統計量計算部と、
    　前記統計量計算部が計算した一次勾配の統計量から、統計量計算部が一次勾配の統計量を計算する際に初期化バイアスを除去する初期化バイアス除去部と、
    　前記一次勾配の統計量を基に、学習率を、前記一次勾配の標準偏差で除算することで、前記学習率を調整する学習率調整部と、
    　前記学習率調整部が調整した前記学習率を用いて学習モデルのパラメータを更新するパラメータ更新部と、
    　を有することを特徴とする学習装置。
  2. 　前記統計量計算部は、前記一次勾配の統計量として、前記一次勾配の移動平均の近似値と、前記一次勾配の分散の移動平均とを計算し、
    　前記学習率調整部は、前記学習率と、前記一次勾配の移動平均の近似値を、前記一次勾配の分散の移動平均の平方根である一次勾配の標準偏差で除算した値と、の積をとることで、前記学習率を調整することを特徴とする請求項１に記載の学習装置。
  3. 　前記統計量計算部は、前記一次勾配の統計量として、前記一次勾配の移動平均と、前記一次勾配の分散の移動平均とを計算し、
    　前記学習率調整部は、前記学習率と、前記一次勾配を、前記一次勾配の分散の移動平均の平方根である一次勾配の標準偏差で除算した値と、の積をとることで、前記学習率を調整する
    　ことを特徴とする請求項１に記載の学習装置。
  4. 　前記初期化バイアス除去部は、
    　前記一次勾配の移動平均の近似値を、前記一次勾配の移動平均を算出する際の重みを１から減算した値で、除算することで、前記一次勾配の移動平均の近似値の初期化バイアスを除去し、
    　前記一次勾配の分散の移動平均を、前記一次勾配の分散の移動平均を算出する際の重みを１から減算した値で、除算することで、前記一次勾配の分散の移動平均の近似値の初期化バイアスを除去する
    　ことを特徴とする請求項２に記載の学習装置。
  5. 　前記初期化バイアス除去部は、
    　前記一次勾配の分散の移動平均を、前記一次勾配の分散の移動平均を算出する際の重みを１から減算した値で、除算することで、前記一次勾配の分散の移動平均の近似値の初期化バイアスを除去する
    　ことを特徴とする請求項３に記載の学習装置。
  6. 　機械学習での確率的勾配降下法を用いて学習を行う学習装置が実行する学習方法であって、
    　前記確率的勾配降下法における一次勾配を計算する工程と、
    　前記一次勾配の統計量を計算する工程と、
    　前記一次勾配の統計量から、前記統計量を計算する工程において前記一次勾配の統計量を計算する際に初期化バイアスを除去する工程と、
    　前記一次勾配の統計量を基に、学習率を、前記一次勾配の標準偏差で除算することで、前記学習率を調整する工程と、
    　前記調整する工程において調整された前記学習率を用いて学習モデルのパラメータを更新する工程と、
    　を含んだことを特徴とする学習方法。
  7. 　機械学習での確率的勾配降下法を用いて学習を行う場合に、前記確率的勾配降下法における一次勾配を計算するステップと、
    　前記一次勾配の統計量を計算するステップと、
    　前記一次勾配の統計量から、前記統計量を計算するステップにおいて前記一次勾配の統計量を計算する際に使用した初期化バイアスを除去するステップと、
    　前記一次勾配の統計量を基に、学習率を、前記一次勾配の標準偏差で除算することで、前記学習率を調整するステップと、
    　前記調整するステップにおいて調整された前記学習率を用いて学習モデルのパラメータを更新するステップと、
    　をコンピュータに実行させるための学習プログラム。
PCT/JP2017/015337 2016-04-18 2017-04-14 学習装置、学習方法および学習プログラム WO2017183587A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
EP17785925.3A EP3432230A4 (en) 2016-04-18 2017-04-14 LEARNING DEVICE, LEARNING METHOD, AND LEARNING PROGRAM
JP2018513164A JP6417075B2 (ja) 2016-04-18 2017-04-14 学習装置、学習方法および学習プログラム
US16/092,135 US20190156240A1 (en) 2016-04-18 2017-04-14 Learning apparatus, learning method, and recording medium

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016083141 2016-04-18
JP2016-083141 2016-04-18

Publications (1)

Publication Number Publication Date
WO2017183587A1 true WO2017183587A1 (ja) 2017-10-26

Family

ID=60115964

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2017/015337 WO2017183587A1 (ja) 2016-04-18 2017-04-14 学習装置、学習方法および学習プログラム

Country Status (4)

Country Link
US (1) US20190156240A1 (ja)
EP (1) EP3432230A4 (ja)
JP (1) JP6417075B2 (ja)
WO (1) WO2017183587A1 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019220525A1 (ja) * 2018-05-15 2019-11-21 日本電気株式会社 確率的最適化装置、確率的最適化方法、および確率的最適化プログラム
JP2020063699A (ja) * 2018-10-17 2020-04-23 トヨタ自動車株式会社 内燃機関の制御装置及びその制御方法、並びに内燃機関を制御するための学習モデル及びその学習方法
JP2020071562A (ja) * 2018-10-30 2020-05-07 株式会社キャンサースキャン 健康診断受診確率計算方法及び健診勧奨通知支援システム
WO2021029034A1 (ja) * 2019-08-14 2021-02-18 日本電信電話株式会社 秘密勾配降下法計算方法、秘密深層学習方法、秘密勾配降下法計算システム、秘密深層学習システム、秘密計算装置、およびプログラム
CN112884160A (zh) * 2020-12-31 2021-06-01 北京爱笔科技有限公司 一种元学习方法及相关装置
WO2021186500A1 (ja) * 2020-03-16 2021-09-23 日本電気株式会社 学習装置、学習方法、及び、記録媒体
WO2023100339A1 (ja) 2021-12-03 2023-06-08 三菱電機株式会社 学習済モデル生成システム、学習済モデル生成方法、情報処理装置、プログラム、学習済モデル、および推定装置
JP7436830B2 (ja) 2020-04-06 2024-02-22 富士通株式会社 学習プログラム、学習方法、および学習装置

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11126893B1 (en) * 2018-05-04 2021-09-21 Intuit, Inc. System and method for increasing efficiency of gradient descent while training machine-learning models
CN110992432B (zh) * 2019-10-28 2021-07-09 北京大学 基于深度神经网络最小方差梯度量化压缩及图像处理方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11755913B2 (en) * 2016-03-11 2023-09-12 Telecom Italia S.P.A Convolutional neural networks, particularly for image analysis

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
KINGMA, P. ET AL., A METHOD FOR STOCHASTIC OPTIMIZATION, 22 December 2014 (2014-12-22), XP055425253, Retrieved from the Internet <URL:https://arxiv.org/pdf/1412. 6980v1.pdf> [retrieved on 20170630] *

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2019220525A1 (ja) * 2018-05-15 2021-03-11 日本電気株式会社 確率的最適化装置、確率的最適化方法、および確率的最適化プログラム
WO2019220525A1 (ja) * 2018-05-15 2019-11-21 日本電気株式会社 確率的最適化装置、確率的最適化方法、および確率的最適化プログラム
JP2020063699A (ja) * 2018-10-17 2020-04-23 トヨタ自動車株式会社 内燃機関の制御装置及びその制御方法、並びに内燃機関を制御するための学習モデル及びその学習方法
JP2020071562A (ja) * 2018-10-30 2020-05-07 株式会社キャンサースキャン 健康診断受診確率計算方法及び健診勧奨通知支援システム
CN114207694A (zh) * 2019-08-14 2022-03-18 日本电信电话株式会社 秘密梯度下降法计算方法、秘密深度学习方法、秘密梯度下降法计算系统、秘密深度学习系统、秘密计算装置及程序
JPWO2021029034A1 (ja) * 2019-08-14 2021-02-18
WO2021029034A1 (ja) * 2019-08-14 2021-02-18 日本電信電話株式会社 秘密勾配降下法計算方法、秘密深層学習方法、秘密勾配降下法計算システム、秘密深層学習システム、秘密計算装置、およびプログラム
AU2019461061B2 (en) * 2019-08-14 2023-03-30 Nippon Telegraph And Telephone Corporation Secure gradient descent computation method, secure deep learning method, secure gradient descent computation system, secure deep learning system, secure computation apparatus, and program
JP7279796B2 (ja) 2019-08-14 2023-05-23 日本電信電話株式会社 秘密勾配降下法計算方法、秘密深層学習方法、秘密勾配降下法計算システム、秘密深層学習システム、秘密計算装置、およびプログラム
CN114207694B (zh) * 2019-08-14 2024-03-08 日本电信电话株式会社 秘密梯度下降法计算方法及系统、秘密深度学习方法及系统、秘密计算装置、记录介质
WO2021186500A1 (ja) * 2020-03-16 2021-09-23 日本電気株式会社 学習装置、学習方法、及び、記録媒体
JP7468619B2 (ja) 2020-03-16 2024-04-16 日本電気株式会社 学習装置、学習方法、及び、記録媒体
JP7436830B2 (ja) 2020-04-06 2024-02-22 富士通株式会社 学習プログラム、学習方法、および学習装置
CN112884160A (zh) * 2020-12-31 2021-06-01 北京爱笔科技有限公司 一种元学习方法及相关装置
CN112884160B (zh) * 2020-12-31 2024-03-12 北京爱笔科技有限公司 一种元学习方法及相关装置
WO2023100339A1 (ja) 2021-12-03 2023-06-08 三菱電機株式会社 学習済モデル生成システム、学習済モデル生成方法、情報処理装置、プログラム、学習済モデル、および推定装置
KR20230084423A (ko) 2021-12-03 2023-06-13 미쓰비시덴키 가부시키가이샤 학습된 모델 생성 시스템, 학습된 모델 생성 방법, 정보 처리 장치, 기록 매체, 학습된 모델, 및 추정 장치

Also Published As

Publication number Publication date
EP3432230A4 (en) 2019-11-20
JPWO2017183587A1 (ja) 2018-08-30
US20190156240A1 (en) 2019-05-23
EP3432230A1 (en) 2019-01-23
JP6417075B2 (ja) 2018-10-31

Similar Documents

Publication Publication Date Title
JP6417075B2 (ja) 学習装置、学習方法および学習プログラム
JP7016407B2 (ja) スマートな供給空気温度設定点制御を介する冷却ユニットのエネルギー最適化
Brownlee What is the Difference Between a Batch and an Epoch in a Neural Network
Banerjee et al. Model selection through sparse maximum likelihood estimation for multivariate Gaussian or binary data
EP2795413B1 (en) Hybrid control system
Kwon et al. A method for handling batch-to-batch parametric drift using moving horizon estimation: application to run-to-run MPC of batch crystallization
WO2019194299A1 (ja) 学習装置、学習方法および学習プログラム
Hong et al. Extremum estimation and numerical derivatives
CN113544599A (zh) 执行过程并优化在该过程中使用的控制信号的方法
Anastasiou et al. Bounds for the normal approximation of the maximum likelihood estimator
CN111209083B (zh) 一种容器调度的方法、设备及存储介质
Gurevin et al. Enabling retrain-free deep neural network pruning using surrogate lagrangian relaxation
JP6453785B2 (ja) 回帰分析装置、回帰分析方法および回帰分析プログラム
JP2019040414A (ja) 学習装置及び学習方法
Pinkse et al. Estimates of derivatives of (log) densities and related objects
Kudva et al. Efficient robust global optimization for simulation-based problems using decomposed Gaussian processes: Application to MPC calibration
Fisher et al. Three-way cross-fitting and pseudo-outcome regression for estimation of conditional effects and other linear functionals
Yarahmadian et al. Phase transition analysis of the dynamic instability of microtubules
Jia et al. Hierarchical batch-to-batch optimization of cobalt oxalate synthesis process based on data-driven model
Toulisα et al. Implicit stochastic approximation
CN114442557A (zh) 一种机床温度场快速辨识方法及系统
CN114138025A (zh) 控制脱硫浆液阀门开度的方法、装置及相关设备
CN114139792A (zh) 一种基于贝叶斯网络的航空产品交货期风险动态预测方法
KR102265361B1 (ko) 스무딩을 이용한 딥러닝 방법 및 장치
JP2016212510A (ja) 非線形最適解探索システム

Legal Events

Date Code Title Description
ENP Entry into the national phase

Ref document number: 2018513164

Country of ref document: JP

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 2017785925

Country of ref document: EP

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2017785925

Country of ref document: EP

Effective date: 20181015

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17785925

Country of ref document: EP

Kind code of ref document: A1